又一个现象级的互联网产品诞生了——8月30日晚间开始，一个名为ZAO的AI换脸APP忽然爆火，在朋友圈里刷屏！

用户只需要在APP中上传一张自己的照片，就能将自己的脸替换到周润发、白展堂、玛丽莲梦露、紫薇等明星的头上，而且脸融合效果非常棒，几乎可以以假乱真，你可以和小李子一样叱咤银幕，出现在经典镜头里，也可以和心中的男神女神同框飙戏……

在兴奋了一阵之后，不少人觉得哪里不对劲儿了：这么强大的换脸术会不会被滥用？比如，自己的脸被换到色情视频的主角头上，那真是跳到黄河里都洗不清了。或者，有犯罪分子利用换脸技术在视频里，向家属实施诈骗、敲诈……如此完美的换脸技术，简直成了敲诈勒索、毁人清白的利器。

应该看到，这款APP也采取了措施防止换脸被滥用，对用户运用了一般只有金融支付APP才有的实脸认证，用户在镜头前要按要求眨眼、扭头，在系统判断你上传的这张照片就是你本人之后，才能进行下一步操作，确保你没有拿别人来换脸。

但是，这种换脸APP搞的实脸认证，形成了一个悖论：为了防止头像被滥用，我们在使用这款APP之前要交出自己更多的信息，特别是脸部信息。担心隐私被滥用的我们，被迫将更多的隐私交给了APP……谁来监管APP本身？

APP已经给自己准备好了甩锅条款，有心的网友发现ZAO的用户协议当中，有您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利之类霸王条款味道十足的条款。

这等于用户在愉快玩耍这款软件之前，默认自己的换脸视频要被APP完全免费、不可撤销地玩耍。从法律层面上说，ZAO已经打定主意充分利用避风港条款，一旦有法律纠纷，将会将责任推给用户上传。

我们还没有习惯刷脸时代，更颠覆性的换脸时代就来了。事实上，很多新技术、新经营模式产生之后，最先嗅到商机的往往是一些灰色产业，这次AI换脸术也可能难逃此劫了。

怎么保证ZAO能保护好这些直接包含用户手机和面部生物信息的核心信息？怎么保证这些脸不被不正当开发？怎么保证我们的脸不被卖掉？

AI换脸术的最早应用就是情色视频。2017年12月，国外某ID名为deepfakes的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，并把情色电影里的女主角换成了盖尔•加朵等好莱坞明星。后来在一片声讨声中，deepfakes将这一技术作为开源代码放到了网上，只要是懂一些相关技术的，都可以得到这些开源程序，并且稍加改造就可以使用。

所以，当下，舆论的炮火也不必全面指向ZAO本身，ZAO不是什么高科技，而是基于开源程序的低科技商业应用。但更大的问题在于，这么肉眼难辨、足以乱真的换脸技术居然可能是唾手可得的，甚至可能轻意落到诈骗、色情产业的违法分子手里，这就不禁让人倒吸一口冷气。

人类几十万年来，一直把脸作为最重要的生物识别指标，通过看脸来区别你、我、他，然而这个最明确的边界却模糊了。法律有没有做好准备？行政管理有没有做好准备？人心有没有做好准备？

黑镜社会正在降临，相关法律和伦理规范、技术规范必须同步出台，这不是杞人忧天。

(来源:澎湃新闻)