最前线AI换脸视频不能随便玩了，新规明年起施行

从换脸技术 Deepfake 初次在论坛出现，到神奇女侠盖尔·加朵的脸被嫁接到成人片女星身上，再到换脸应用 ZAO 一夜间风靡朋友圈，仅仅只过了两年。

基于深度学习的 AI 换脸技术正在创造出越来越多真假难辨的视频。但与此同时，AI 造假技术也在滋生恐慌，这背后是关于隐私、真实、版权等等悬而未决的问题。

监管已经跟了上来。11 月 29 日，国信办引发了《网络音视频信息服务管理规定》（以下简称规定），提到了对深度学习视频内容的管控。

规定第 11 条指出，网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识；不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息；转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。

也就是说，普通人和服务商发布非真实 AI 音视频时，要以显著方式标清它运用 AI 技术进行了二度创作，且不得使用它制作假新闻。

在视频分享网站 Bilibili 上，能看到大量素人 UP 主制作的 AI 换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以娱乐为目的，制作水平不一，使用的视频背景大多是影视剧名场面。虽然创作者一般都会标清内容运用了 AI 换脸技术，但常常会被评论调侃（夸赞）为拿原片出来骗人。

黑寡妇的脸被换在了佟湘玉的头上 图片来源：bilibili

徐锦江的脸被换在了雷神的头上 图片来源：bilibili

除此之外，规定还对服务商提出了额外要求，包括展开安全评估、部署非真实音视频鉴别技术、及时停止传播未显著标识的非真实 AI 音视频内容、建立健全辟谣机制等。新规将于明年 1 月 1 日起施行。

作为一项天生带有攻击性的技术，Deepfake 从诞生之日起就伴随着惊叹声和质疑声。相比国内，海外互联网平台对于此类非自愿内容的展示似乎得更严苛一些。

2018 年 1 月 31 日，Gfycat 从其站点中删除了所有 Deepfake 内容。同年 2 月，Reddit 与 Pornhub 也宣布因违反非自愿色情政策而禁止此类内容。同月，Twitter 表示将暂停涉嫌发布未经许可的 Deepfake 内容的帐户。2018 年 9 月，Google 也将非自愿合成色情图片添加到了其禁令列表中。

2016 年 6 月，一段以 Facebook CEO 马克·扎克伯格（Mark Zuckerberg）的脸为素材的 Deepfake视频在 Facebook 和 Instagram 上传播，Facebook 随后表示，他们不会从其平台中删除 Deepfake 内容，但这些视频会被第三方标记为伪造，然后被降低优先级。

题图来源：bilibili