AI 换脸、拟声、复活逝者,最高法把判法写明了

cover

Hello,我是飞飞。

9 月 7 号,最高人民法院开了场发布会,发布《关于依法审理涉人工智能纠纷案件的意见》。5 个部分,24 条。第一财经给它了个定性:首部由国家最高审判机构发布的涉 AI 司法裁判规则文件。前头两个字的分量,懂点司法体例的人都明白,意见这种文件下来,底下判案子是要照着用的。

通稿拉到一半,「AI 复活逝者」四个字让我停了下来。这正是 7 月底那篇结尾我问的:真出事,谁去回话。当时没有判法,今天有一本裁判手册。

三级治理补了最后一块

今年这条治理线,我自己陆陆续续写了三段。排一下日期:4 月、7 月、9 月,差不多三个月一段,行业跑得比写作快。

头一段是 4 月,微信出 AI 新规,划的是平台这条线:辅助创作可以,完全替代不行。平台管的是你能发什么。

再一段是 7 月底,欧盟 AI 法案,划的是标记这条线:AI 参与写的内容要有机器可读标记。那篇我还纠正过自己一次,说自己那 129 条防 AI 味规则删的全是人眼能看得见的指纹,跟机器可读标记压根没有交集。写那篇时我还闹了个本末倒置:先研究怎么躲标记,后来才想明白,我的规则库管的是把稿子写得像人写的,跟躲检测没关系。

那篇的结尾我问了一个问题,原话是:这篇要是出了事实错误、被人找上门,谁去回话。当时的答案是,回话的是你,所以关口得自己焊。我的那两道关口会继续焊在那儿。

现在这一段来了。最高法这份意见划的是司法这条线:真出了纠纷,到了法院,怎么判。平台管进门,欧盟管标签,法院管判法。三级拼图,这块补上了。这三段写的时候没想过要凑成一条线,是回头看才发现它们各自管了一段:发的东西、打的标记、出的纠纷。

六类场景的判法

意见开头立了三个基本原则:以人为本、支持创新发展、筑牢安全防线。翻译成大白话:既要管住乱来的,也不能一管就管死。后面所有判法都挂在这三句上。条款覆盖面比我想的宽:我以为只管换脸这类肖像纠纷,结果从开盒、杀熟一路管到自动驾驶。挑几条跟你相关的摆出来。

换脸拟声是头一条。未经同意用 AI 生成可识别的虚拟数字形象或合成人声,可能构成侵害人格权益和声音权益。答记者问时的原话很直白:深度伪造可以无差别地收割所有人的肖像,普通人也可能成为目标;拟声技术花几元钱就能偷声,效果足以乱真。这个成本数也是官方口径,我原样转述,没去比价。你琢磨一下这两句的分量:过去深度伪造是明星的事,现在几块钱的成本对准的可以是任何人的嗓子。

网络开盒也有明确切法。有人拿 AI 盯上你的电话号码、社交账号,从公开信息里一点点拼出你的私密信息,或者干脆拿它搅扰你的生活。这种,认定侵害隐私权。偷拍偷录你私密空间的,同样算。有安全行业的人士评论说,开盒难根治,难在产业链环节太多,需要平台侧、监管侧一起使劲,非朝夕间能解决。但 AI 确实把门槛砸低了:过去人工交叉比对半天的信息拼图,现在一句话的事。公开不等于可以无限聚合,这条边界算是画出来了。

剩下几条快速过:大数据杀熟,算法价格歧视侵害权益的要担责。仿冒名人带货,构成欺诈。下回你刷到名人喊 9 块 9 三瓶的带货视频,人可能是 AI 仿的,货可能是假的,这下可以理直气壮多要一笔,官方叫惩罚性赔偿,说人话就是可以主张超出实际损失的赔付,不是赔到没亏就算完。自动驾驶事故,车辆缺陷跟驾驶人过错结合致损的,可以同时找驾驶人、生产者、销售者。

开发者最该看的一条

对写代码的人来说,说真的,有一块的分量比换脸重:知识产权部分,第 12 到 16 条,专门规定了涉 AI 知识产权纠纷的审理,里头提到侵权责任认定、开源软件法律责任、专利授权确权、技术合同履行、数据使用规范五个方面。意见还单独留了一段给审理程序:利用 AI 不当取证、提供虚假材料妨害司法秩序的,也要依法规制。拿 AI 造证据这条路,判法里提前堵上了。

开源软件的法律责任怎么判,细则我还没核到原文,不敢展开。数据使用规范那条同待官方全文,等公布了我回来补。但这五个词里随便挑一个,都是 AI 开发迟早要撞上的问题。意见里还有 AI 复活逝者这类纠纷的方向,IT 之家的报道提了一嘴,细则我没核到原文,先记着,不硬写。

你拿开源代码训的东西出了事算谁的,模型生成的内容抄没抄袭,训练数据从哪来、能不能这么用,这些此前全靠行业默契的事,现在进了裁判规则的范围。

再说个离我更近的。我那条发稿流水线里,封面图是 AI 生成的,正文是 agent 辅助写的,配图规则、防 AI 味扫描全在跑,最后由我逐字过手发布。按意见的口径,未经同意生成可识别的数字形象是红线之一,我的封面虽然不涉及真人,但这条线画在哪,每个用 AIGC 出图的人心里都该有数。4 月微信划的辅助创作跟完全替代那条边界,现在司法也在同一套逻辑里认账:出事的时候,看的是人在哪儿。

关口还得自己焊

官方答记者问里有句话我抄下来:以包容审慎的态度平衡人格权益保护与产业发展,但包容并不等于纵容,审慎也不等于放任。

这话说得平衡,落到我身上就是一件事不变:那两道关口接着焊。文章发出去之前我逐字过手,配图生成完我自己先看,评阅环节的分数记录留着痕,谁改的、改了什么都能翻回去。这些动作跟判法没关系,是因为回话的人是我。

但有个东西确实变了。说实话,变的比不变的多。7 月那篇写完,关口的性质是我怕出错,属于自己给自己上保险。现在裁判手册有了,出事之后法律往哪儿切是写得明明白白的。同一个关口,从模糊地带的自费保险,变成了有参照系的工序。换个说法,以前关口焊不焊、焊在哪,全看个人自觉;现在它是行业标准动作的一部分,照着做就是。对我这种天天让 agent 碰内容的人,后者反而让人踏实。

照例交代边界:意见原文我没逐条啃,条款表述来自多家权威媒体的交叉转载,以官方发布原文为准;AI 复活逝者和开源条款的细则没核到,只提了方向;这篇不构成法律意见,具体纠纷以法院认定为准。

轮到你了。你的工作流里有没有让 AI 生成过可识别的人脸或声音?拿意见这五类场景逐条对一遍自己手上的活,查完这条线,你打算把关口焊在哪?评论区聊聊。