AI换脸软件ZAO被指暗藏陷阱同类软件曾被用于制作女明星换脸淫秽视频
昨日,一款名为ZAO(逢脸做戏)的APP刷屏社交网络,用户通过上传自己照片的方式,替换诸多影视片段中明星的脸,从而体验与明星飙戏的感觉。
不过,火爆的同时也伴随着诸多争议。在ZAO的用户协议中,有一条内容为:如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。
有观点认为,一方面,被换脸的明星存在被侵权问题,而用户也将脸免费授权给了ZAO,无法删除, 一旦被不法分子利用,后果不堪设想。此前在国外,曾有类似的产品,名为deepfakes,但由于其被不法分子制作女明星AI换脸的淫秽视频,而被大量抵制。
天眼查数据显示,ZAO的运营主体为长沙深度融合网络科技有限公司,最终受益人为王力、雷小亮,二者分别为陌陌公司董事、联合创始人。2019年7月,长沙深度融合网络科技有限公司发生股东变更,北京陌陌科技有限公司退出,新增海南喵咖网络科技有限公司(王力、雷小亮各持股50%)。目前,海南喵咖网络科技有限公司的部分股权处于出质状态,质权人为北京壹六零二信息技术有限公司,后者为北京陌陌信息技术有限公司的全资控股公司。换句话说,ZAO为陌陌旗下产品。
-
上一篇
疑似换脸杨幂的带货主播 图片来源:视频截图
社交网站的演示视频中,手一挥一秒换脸的视频比比皆是,每个人都能用AI制作一段视频,骗子也不例外。
AI音乐、AI绘画、AI换脸、AI换声……不知不觉中,我们每个人都已经走进了赛博世界,不管是抖音中的一键解锁瞬息全宇宙一键变妆等特效的应用还是AI孙燕姿的消费,都是AI日常化的见证。
在所有人都在享受技术狂欢的时候,技术的另一面也逐渐显露:伪造技术和鉴别技术好似在玩一场猫鼠游戏,最终谁能把握主动权?
可以批量生产的AI换脸,技术门槛有多低?
AI换脸技术并非新事物,早在2019年,一个换脸软件ZAO的出现,就曾让AI换脸风靡网络,网络视频平台上出现大量的AI换脸恶搞视频,许多明星因此被恶搞、造谣。
尽管,当时ZAO上线不久便因侵犯隐私等问题被下架,但这个由技术带来的负面影响却一直存在,直到今年AI技术的普及使得换脸再次爆发。
瑞莱智慧RealAI联合创始人、算法科学家萧子豪表示,AI换脸、AI换声主要使用的是深度合成技术,随着深度合成技术的开源开放、深度合成产品和服务的增多,深度合成内容制作的技术门槛越来越低,实现了技术的平民化,普通人也能用少量图像、音频等样本数据,利用简便易用的合成工具,制作深度合成内容。
人人都能做的AI换脸视频,为什么能骗到科技从业者?
每经记者:宋美璐每经编辑:张海妮
-
下一篇
AI换脸:演技不够,技术来凑?|睡前聊一会儿
睡前聊一会儿,梦中有世界!大家好,我是党报评论君。最近,一段换脸视频,在网络上引发热议。一位名为换脸哥的B站用户利用AI技术,将朱茵在《射雕英雄传》中扮演的黄蓉