AI换脸可“定制”,1分钟收费20元,已成一门地下生意
人工智能,一直是我们小时候看科幻片最喜欢讨论的话题,未来的机器人能成为人类忠实的小伙伴,未来你想要做什么,只用脑子一想就能完成操作……
AI成为每个科技公司研究的方向,一时间关于AI的技术像雨后春笋般冒了出来,比如AI养猪的猪脸识别,物流中的AI智能分拣,AI自动驾驶……
但这中间也出现了很多引起争议的技术,比如AI换脸、AI鉴渣女、AI一键脱衣,都让人们对技术无罪一说产生怀疑。
近日,据新京报报道,在某购物网站上,出现了售卖或制作AI换脸视频的商品,明星换脸的成人视频也已成为一门地下生意。报道中提及,有打包售卖的换脸视频,还有可定制换脸的视频业务,每分钟收费至少20元。
不过,截至发稿时,交易平台上有关AI换脸的搜索结果已经多为换脸软件和换脸教程。但从换脸教程的打包资源说明来看,有标注明星素材字样。
搜索发现,换脸、Deepfake以及FakeApp贴吧等都存在售卖AI换脸淫秽视频的帖子。发帖者多为无头像、简单英文字母名称的用户,而且发帖用词隐晦,包括国内外81部,诚信第一。
2月14日,哔哩哔哩UP主换脸哥在B站上上传了一个视频,视频里,是朱茵版《射雕英雄传》的画面,发型和服饰都是朱茵的扮相,但脸却变成杨幂的。
杨幂版黄蓉
这条视频放出后,在网上引发了激烈的争论,将朱茵的黄蓉换成杨幂的脸这个话题在微博上的浏览量甚至达到1.3亿次。
做出这个视频的技术就是人工智能深度换脸技术——DeepFakes。这是一种人脸交换技术,顾名思义,也就是在图像或视频中把一张脸替换成另一张脸。DeepFakes的出现可以说是人脸交换技术的一个突破。
利用DeepFakes技术,你只需要一个GPU和一些训练数据,就能够制作出以假乱真的换脸视频,比如川普撞脸希拉里。
事实上,滥用计算机技术的事情时有发生。
上月,有推特用户便开发出一款名叫DeepNude的应用,只要给DeepNude一张女性照片,借助神经网络技术,App可以自动脱掉女性身上的衣服,显示出裸体。随后,DeepNude应用及网站因滥用被关闭。
可以自动脱掉衣服的DeepNude
还有今年6月份,有个程序员开发了一套AI系统,只要在APP中上传一张女生的照片,程序就可以自动将这个女生的样貌与成人网站中女生的照片进行比对,辨别出她是否曾是性工作者有热心网友替他想好了产品的名字:原谅宝。
这个 @将记忆深埋 随后表示,已经在全球范围内成功识别了 10 多万名疑似从事色情行业的女性,同时,可以对美颜、Deepfakes 换脸等有效对抗,识别率达到 99%,而对于声音语气模仿采用声纹检测对抗,识别率达到 100%。
这个消息一经发布立马就炸了,这个系统的设计,对女性太有针对性。迫于舆论压力,5 月 31 日,本来说要直播接受媒体采访的作者取消了原计划,同时删除了整个项目和数据库,因言论给他人造成不便而道歉告终。
结果没过多久,另有团队抄袭了这个想法,直接在用小程序的方式发布了,一时也吸引了不少老实人前去体验,发现查询还需要30元,连苍老师都能达到99%的原谅值,所谓的识别系统形同虚设,完全是智商税。
在科技界,一直有句话叫技术无罪,都说技术只是单纯的技术,只是看掌握技术的人用技术来干什么。
有理想的人用AI改变世界,猥琐的人只想得到制作明星成人视频,可能这就是差距吧。
(编辑:WJ)
-
上一篇
最近,关于AI换脸诈骗的新闻火了。4月20日,福州市某科技公司法人代表郭先生,突然接到好友的微信视频,好友告诉郭先生,自己的朋友在外地投标,需要430万元保证金。
由于在视频中看到了好友的样貌,听到了声音,于是郭先生就放心地将钱转了过去。
可后来他却发现,自己竟然遇上了高端骗局,对方通过智能AI换脸技术,佯装成好友对他实施了诈骗……
这类消息,着实引起人们心中一阵恐慌。
因为身为凡胎肉体的你我,仅凭肉眼是很难看出这些伪造视频的破绽的。
那岂不是意味着,遇到这样的AI骗术,普通人受骗的几率近乎100%了?
且慢,话说魔高一尺,道高一丈,既然AI换脸都发展到这地步了,那与之针锋相对的AI鉴伪技术,又发展得怎样了?
一、造假VS鉴伪
谈到这个问题,身为防守方的AI鉴伪技术团队,似乎有一种难以言说的艰辛。因为在这场造假与鉴伪的猫鼠游戏中,AI换脸这类造假技术的成本,相比AI鉴伪技术的研发成本要低得多。
这就导致了许多研发AI鉴伪技术的企业、机构,从决定和造假者们死磕的那天起,就注定了要打一场十分艰难的战争。
1. 换脸技术成本
就目前来看,AI换脸技术的成本主要包括以下几个方面:
1)数据采集和处理的成本
AI换脸技术需要大量的人脸图像或视频作为训练数据,但这些数据大部分都可以从互联网上免费获取,也可以通过付费购买或定制。
甚至有时候,定制一个AI换脸视频几乎是九块九包邮。
2)算法开发和优化的成本
AI换脸诈骗,戳中了人脸识别企业的哪些软肋?
AI换脸技术的造假成本相对较低,且难以辨别。然而,人工智能鉴伪技术的发展是否能成为应对之策?目前,AI鉴伪技术仍在发展中,但愿未来,这场猫鼠游戏会越来越公正。
- 下一篇
近期
AI换脸换声诈骗在全国爆发
引发大家广泛关注
甚至造成了一定恐慌
经过
速看!关于AI换脸...