“AI换脸”软件公开网售,几百至上千元不等!法律边界在哪?
来源:央视新闻
近日,因AI换脸导致的诈骗案件引发关注。伴随着AI大模型的发展,换脸技术的应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能带来严重危害。
总台记者经调查发现,网上AI换脸软件的获取非常容易。利用此类软件的法律边界在哪里?如何做好事前监管?
网上出现AI换脸付费软件
套餐价格从499元至2888元不等
在网上,演示换脸软件使用方法及效果的教程比比皆是,其中不少AI换脸软件需要高价付费使用。
记者根据搜索结果联系到一名开发者,他向记者提供一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,换脸之后的数字人口型、表情、微小的动作几乎毫无破绽。
△卖家展示的素人换脸效果(S为原视频,D为更换之后)
在其销售的网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴拼接到一起,生成全新数字人的视频。
△卖家展示的局部五官更换
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
想换什么脸都可以
AI大模型可集成多种功能打造数字人记者发现,该网站 底部没有任何文字显示其已经过备案。卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,不仅可以实现视频换脸,还支持直播换脸。
记者进一步询问能否根据自己的需求换脸时,软件开发者表示:想换什么样的脸拿素材训练就可以。
△软件开发者与记者的聊天截图
一位从事AI开发的技术人员表示,这意味着可能会有更多难以控制的风险。集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管成本和难度高了好几个数量级。
△卖家展示的用户反馈
专家:有效的标识监管体系
能提前厘清AI换脸带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度讲,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说,如发生使用他人肖像进行诈骗的相关案例,不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下,还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,应当按照有关规定向国家网信部门申报安全评估;要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清AI换脸所带来的模糊边界。
盘和林:当前AI换脸的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且对不标注的个人或者是单位组织要有具体的处罚措施、标准以及制度。
北京嘉维律师事务所律师、IT法律专家赵占领认为,从长远来看,监管与处罚措施还需要随着技术发展不断迭代,才能形成立体有效的治理方案。【来源:央视新闻微信公众号】
-
上一篇
原创许晴的新剧,被AI换脸。她怎么了?
原标题:许晴的新剧,被AI换脸。她怎么了?
-
下一篇
据了解,ZAO使用AI技术,用户只需要一张正脸照,就可以替换为影视作品或者小视频中的人物,生成以自己为主角的视频片段。
不过,公众人物只能通过手机拍摄来添加面孔,确认肖像权有效后使用。据ZAO官方微博介绍,8月份花700万租的服务器,昨晚已经消耗了1/3。可见其火爆程度。
不过这个AI换脸技术,却也产生了一定的争议。ZAO应用用户协议的第六条,是对用户授权范围进行的描述。
官方条款写到:在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播……
这款AI换脸软件,你敢用么?
最近,一款名为ZAO的换脸软件在朋友圈刷屏。