AI换脸诈骗,戳中了人脸识别企业的哪些软肋?
AI换脸技术的造假成本相对较低,且难以辨别。然而,人工智能鉴伪技术的发展是否能成为应对之策?目前,AI鉴伪技术仍在发展中,但愿未来,这场猫鼠游戏会越来越公正。
最近,关于AI换脸诈骗的新闻火了。4月20日,福州市某科技公司法人代表郭先生,突然接到好友的微信视频,好友告诉郭先生,自己的朋友在外地投标,需要430万元保证金。
由于在视频中看到了好友的样貌,听到了声音,于是郭先生就放心地将钱转了过去。
可后来他却发现,自己竟然遇上了高端骗局,对方通过智能AI换脸技术,佯装成好友对他实施了诈骗……
这类消息,着实引起人们心中一阵恐慌。
因为身为凡胎肉体的你我,仅凭肉眼是很难看出这些伪造视频的破绽的。
那岂不是意味着,遇到这样的AI骗术,普通人受骗的几率近乎100%了?
且慢,话说魔高一尺,道高一丈,既然AI换脸都发展到这地步了,那与之针锋相对的AI鉴伪技术,又发展得怎样了?
一、造假VS鉴伪
谈到这个问题,身为防守方的AI鉴伪技术团队,似乎有一种难以言说的艰辛。因为在这场造假与鉴伪的猫鼠游戏中,AI换脸这类造假技术的成本,相比AI鉴伪技术的研发成本要低得多。
这就导致了许多研发AI鉴伪技术的企业、机构,从决定和造假者们死磕的那天起,就注定了要打一场十分艰难的战争。
1. 换脸技术成本
就目前来看,AI换脸技术的成本主要包括以下几个方面:
1)数据采集和处理的成本
AI换脸技术需要大量的人脸图像或视频作为训练数据,但这些数据大部分都可以从互联网上免费获取,也可以通过付费购买或定制。
甚至有时候,定制一个AI换脸视频几乎是九块九包邮。
2)算法开发和优化的成本
AI换脸技术主要基于深度学习和计算机视觉的算法,虽然这个过程需要一定的专业知识和技能,但是并不是特别高。
- 一方面,有很多开源平台,如Faceswap、DeepFaceLab等,本身就提供了现成的算法代码,用户只需要下载使用即可,无需自行开发或改进。
- 另一方面,即使用户需要自行开发或改进算法,也可以借鉴已有的算法框架和思路,无需从零开始。
3)硬件设备和运行环境的成本
一般来说,一台配置稍好的个人电脑就可以满足需求,不需要特别昂贵的专业设备。
举例来说,一种比较流行的AI换脸软件DeepFaceLab,仅需要一张NVIDIA RTX系列或GTX系列的独立显卡,且显存为6GB就可运行。
这样的一台个人电脑,其成本大约在数千元左右。
与AI鉴伪技术所需的各种成本相比,这些伪造技术的成本简直低得如同儿戏。
2. AI鉴伪成本
具体来说,AI鉴伪的成本大致包括了以下部分:
1)数据标注和筛选的成本
AI鉴伪技术需要大量的图像或视频作为训练数据,这些数据需要经过人工标注和筛选。
然而,这一过程的难度可能超出了很多人的想象。
举个例子,如果要对一小时的视频进行人脸识别的标注,需要先将视频分割成帧,然后对每一帧中的人脸进行定位、标识、分类等操作,还要考虑人脸的遮挡、模糊、光照等影响因素,以及人脸的姿态、表情、年龄等属性信息。
这样一来,一小时的视频可能需要几十个小时甚至几百个小时才能完成标注。
其次,数据标注不仅仅是简单地给图像或视频打上标签,不同的任务和场景需要不同的标注规则和方法,标注人员需要掌握相关的领域知识和技术能力,才能保证数据的质量和有效性。
2)算法设计和测试的成本
AI鉴伪技术主要基于深度学习和计算机视觉的算法,这些算法需要根据不同类型和质量的伪造内容进行设计和测试,以提高检测的覆盖率和鲁棒性。
算法设计和测试是一个复杂且持续更新的过程,需要专业的团队和资源。算法设计和测试的成本取决于算法的复杂度、性能、效率等因素,但一般来说,每个算法项目的研发成本至少在几十万到几百万美元之间。
3)硬件设备和系统的成本
但凡了解过大模型训练成本的朋友,都知道这一过程对硬件的高昂要求。即使今天的机器视觉技术经过了层层优化,但一个完整的机器视觉系统的价格至少在几万到十几万元之间,包括硬件成本、软件成本、计算成本以及存储成本。
综上所述,由于AI造假技术天然所具备的成本优势,使得目前这场造假VS鉴伪的战争,呈现出了一种正规军围剿游击队的态势。
在这样的较量中,受害最多的灾区,往往是高成本AI鉴伪技术难以覆盖的地方。
二、鉴伪技术的软肋
回顾这些年见诸于各大媒体的AI诈骗事件,我们不难发现,这类事件中最常见的受害者,往往是作为个体的普通民众,而非企业、政府或金融机构。
例如,5月22日,安徽安庆的何先生接到熟人视频电话,让他帮忙转一笔账。因为打了视频电话,又是熟人,我就没多想,就转账了。事发时,何先生放松了警惕,向对方转了245万元。
同样地,2023年3月,陕西的一名女子被骗子利用AI换脸技术冒充其女儿,通过视频通话诈骗了不少钱。骗子先是通过微信添加了女子为好友,并自称是其女儿的同学。
之后,骗子再通过AI换脸技术,将自己的面部替换成女子女儿的面部,并以女儿出车祸为由,又骗走了一笔钱。
其实,出现这类现象的原因不难理解,由于目前AI鉴伪技术的研发成本较为高昂,因此大部分拥有此类技术的公司,都只将这些技术向企业、政府或金融类客户开放,而无法覆盖到普通个人用户。
以百度为例,虽然其在自身的AI开放平台上,推出了人脸深度鉴伪接口,用于准确鉴别Al换脸技术生成的人脸图像,但是这一接口却存在着一定的使用门槛。
使用者需要在百度AI开放平台注册账号,并申请使用该接口。其次,该接口是收费的,根据调用次数和服务质量的不同,有不同的收费标准。
而同样地,百度旗下的产品度小满,虽然也推出了自身的防深伪技术,但这一技术主要覆盖的群体,是金融领域的客户,其涉及的场景主要是借贷、投资、理财等业务。
虽然各大企业,基于微表情分析、图卷积(GCN)技术以及基于重建的自监督预训练方法,对目前的AI鉴伪技术进行了大幅升级。但在大模型愈发普及的当下,AI诈骗的技术,也开始呈现出一种更加低廉化、普遍化的趋势。
除非这些严密而高效的鉴伪技术,能够普及到每个个人用户的微信上,并且调用起来跟小程序一样毫无门槛和难度。否则,那类通过微信好友的方式进行诈骗的AI技术,就永远有机可乘。
事情发展到这一步,AI技术与伦理、法律之间的纠葛,似乎到了某个比较关键的转折点。
倘若这些低成本,针对个人的AI诈骗事件屡禁不止,甚至借着这波大模型的东风,进一步席卷全国。那么就会有更多不法分子肆无忌惮,如法炮制,进而引起民众的进一步恐慌。
而在AI鉴伪技术得不到下沉的情况下,监管部门为了防范此类事件的频发,只能进一步收紧对AI技术使用的审核机制,而严格的审核机制,则会间接降低AI生态的活跃度和市场的繁荣度。
很多原本能制造奇迹的创意或项目,也许还没开始,就被卡死在了繁杂的审核阶段。
但除了这类悲观的前景外,现实还存在着另一种可能,那就是更多企业和机构,在这类AI诈骗的压力下,开始寻求突破和创新,形成一种创新驱动的机制。
三、魔高一丈,道高一尺
尽管AI鉴伪技术,面临着成本高企,难以下沉的局面,但破局之道其实并非不存在。因为一种技术的升级,所带来的影响可能不是垂直和单一的,而往往有可能是多维和广阔的。
例如:AI鉴伪所涉及的计算机视觉、图像识别等底层技术,就有着十分广阔的应用范围,和巨大的发展空间。
例如:在智能驾驶方面,目前的计算机视觉、图像识别等技术还不能完全替代人类的驾驶,还需要结合其他传感器、雷达、地图等信息,提高感知的准确性和鲁棒性,同时还需要解决道路复杂多变的情况,提高决策的智能性和安全性。
在智慧农业领域,通过提高图像识别的覆盖率和及时性,可以实现对农作物、土壤、病虫害等的更全面和更实时的监测和诊断,从而提高农业生产的质量和效率。
类似受益的领域,还有交通、医疗、文娱等等。
从更长远的角度来看,这一下沉过程造成的技术外溢,将会使得更多的经济主体能够获取和使用先进技术,从而促进创新活动的多元化和活跃化。
同时,技术门槛的降低,也必然会导致生产成本和价格的下降,使得企业能够进一步扩大市场规模,促进了经济增长。
从这样的角度来看,目前的AI诈骗事件,只是大模型在走向下沉过程中,所必然要遭受的一种劫难或磨砺。唯有经过了这样的考验,AI所带来的各种技术,才能真正地在法律、伦理上,被社会大众广泛地接纳。
作者:举大名耳
来源公众号:AI新智能
本文由人人都是产品经理合作媒体 @AI新智能 授权发布,未经许可,禁止转载。
题图来自 Unsplash,基于 CC0 协议
该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。
-
上一篇
换脸应用FacePlay"采取会员制的方式,为用户提供视频和照片换脸服务(应用页面截图)
记者在百度搜索关键词AI换脸,查询到一些标注为广告的网站,仍在出售明星换脸视频。根据网页留下的QQ号,记者联系到一个名为深蓝的卖家,其随后发来百位明星合成视频合集的列表截图,文件名上标注出多位大众熟知的女明星。
100部,打包价108元。深蓝表示,视频文件将通过QQ文件发送,支持微信、支付宝、QQ红包等支付方式。为了证明视频的质量,深蓝随后发来几张动图,内容是几位女明星被换脸后的淫秽视频截图。
另一个卖家则向记者发送了网盘链接。对方称,视频时长有几分钟到十几分钟不等,可以保证视频质量。如果你有特别喜欢的明星,我们可以为你提供定制服务,收费比较贵。对方表示,一段时长约5分钟的定制视频要价188元,两三个小时就能给你。
上述两位卖家都声称,出售的明星换脸视频是团队自己制作的,深蓝更是夸口称独家发售,绝无仅有,质量有保证。两名卖家提供的明星换脸合成视频流畅度极高,几乎达到了真假难辨的程度。
实际上,演艺明星、社会名人更容易成为AI换脸视频的受害者。近期,一名男性特效师将自己的脸替换到影视片段中,生成跟女星迪丽热巴亲吻视频,引发粉丝抗议。
因不堪其扰,一些明星选择维权。2021年8月,刘昊然工作室发布声明称,有人利用AI换脸技术传播对刘昊然带有侮辱性的视频、截图,同时含有诽谤言论的聊天记录。该工作室表示已向警方报案。2021年9月,林俊杰因个人肖像被短视频博主用AI换脸技术制作了大量的鬼畜视频,起诉了平台及该博主,要求其赔礼道歉并索赔27.5万元。
相关应用仍可下载,卖家教授AI换脸技术
不仅有出售明星换脸成品视频的卖家,各类提供AI换脸服务的App和小程序,仍在网络中存在。更甚者,一些卖家要提供换脸技术教学服务,进一步降低这类技术的应用门槛,易造成对他人权益和社会公共安全的危害。
在手机应用商城,记者搜索AI换脸等关键词,就有不少相关App推荐,如AI换脸FacePlay等。在某社交平台上搜索换脸,也能看到不少AI换脸的小程序,如AI换脸变装等。
记者下载了热度最高的FacePlayApp。该App有多款换脸模板可供选择,包括AI绘画、影视剧、气质美女、男士专属等,一键上传照片便可生成换脸视频。
要想在这些App和小程序上使用AI换脸功能,有些需要付费,以FacePlay为例,周会员17元、年会员398元。也有免费适用的App,一般用户每日可享受一次免费AI换脸的机会,用完免费次数后可通过浏览视频广告获取权限。
而在电商平台,AI换脸换脸等关键词已被屏蔽,但通过明星视频定制视频等更隐蔽的关键词,仍能找到出售换脸软件、定制明星换脸视频及教授换脸技术的卖家。
记者搜索某电商平台发现,一名卖家通过视频教授AI换脸技术,还提供代码脚本网页,收费只要39.9元。
记者联系了其中一名卖家,对方不仅售卖明星换脸视频和定制换脸服务,还提供教学服务,只要39.8元,包学会。完成付款后,记者收到卖家记者发来的一条网盘链接,里面是一段教学视频。视频被封了,只能压缩上传,先保存到网盘后再下载。该卖家告诉记者,根据视频的步骤,就能学会AI换脸操作。
随后,卖家又给记者发了一组账号和密码,还有一个网页链接。这是我们的代码脚本网页版,比那些换脸软件的功能更加强大。卖家提供的教学内容显示,用户根据指引,完成登录、提取脸部数据、训练模型、换脸输出视频等步骤,就能实现AI换脸视频的制作。
记者跟教授换脸技术卖家的聊天记录截图
记者注意到,这个店铺的月销量超过50,但没有评论。卖家在私信中强调,不要公开发表评论,有问题直接联系我就好了。
相对现成的 AI换脸软件多适用于拍照场景、影视剧片段的替换合成,上述卖家教授的换脸技术更能为所欲为:用于换脸的照片不受限制,可合成的视频片段也不局限于影视作品,包括新闻、私人影片等都可被AI换脸。
滥用AI换脸存法律风险
00后小陈告诉记者,出于猎奇和娱乐心态,自己以前也喜欢看视频网站的AI换脸视频,把唱跳偶像的脸换在古装人物身上,很新奇。但之前有朋友用她的照片生成恶搞视频,让她感到很不舒服,引发她对AI换脸的警惕。
越来越多人意识到,AI换脸是一把双刃剑,亟须法律对技术进行更系统的规制与引导。
深度合成技术在给大众提供娱乐的同时,也因为滥用和缺少监管,造成了信息安全隐患和传播侵权的乱象,甚至成为刑事犯罪的‘帮凶’。一名长期从事打击电信网络诈骗的民警对记者表示,已经有不法分子将AI换脸用于制作虚假视频,从事电信网络诈骗等违法犯罪活动。
近年来,AI换脸技术频频被一些犯罪分子盯上,随之而来的犯罪手段也是花样百出、层出不穷。除了演艺明星外,部分不法分子还将AI换脸技术使用在普通人身上,由此制造一些所谓的遭泄露私密照片,对当事人实施敲诈勒索。
实际上,即便只是用AI换脸技术制作娱乐性的恶搞照片,也有可能涉及侵犯肖像权、名誉权,造成严重后果的,还可能构成侮辱罪或者诽谤罪。
按照民法典规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。这就意味着,无论个人还是平台、软件开发商,未经肖像权人同意,通过技术手段提取肖像,并擅自使用或上传至换脸应用中供用户选择使用的行为都侵害了他人肖像权。
去年年底,杭州互联网法院审理了一起因AI换脸App利用深度合成算法侵害他人肖像权的案件,判定App开发者构成对原告肖像权的侵害。在这起案件中,原告楼某某是一名古风汉服模特,经常在社交平台发布古风汉服照片和视频。楼某某发现被告公司运营的AI换脸App中使用的是其拍摄的古风造型视频模板。用户可通过上传个人照片,将视频模板中的人脸替换成用户上传的人脸,除五官发生实质性变化之外,其余内容都与原视频保持一致。软件生成换脸后的古风造型视频,用户可以将其保存并其他平台。
法院审理认为,被告公司未经楼某某同意,利用深度合成技术使用其肖像制作了伪造视频,依法应认定为构成对楼某某肖像权的侵害。法院判决被告向楼某某赔礼道歉并赔偿损失5000元。
民法典还规定民事主体享有名誉权。例如前文提到的各类换脸视频的网络卖家,将他人的脸换到不雅视频中,或者利用换脸软件对他人进行恶意丑化,就涉嫌侵犯他人的名誉权。另外,这些卖家出售深度合成的明星换脸色情视频,还涉嫌制作、传播淫秽物品,可能构成刑事犯罪。
法律界人士指出,若有视频创造者发现自己的视频被AI换脸App运营商盗用,视频所有人可以通过提起民事诉讼方式要求运营商承担停止侵权、赔礼道歉并赔偿损失等民事责任;如公民发现自己的视频被人用于违法犯罪,可向公安机关报案追究相关人的法律责任。
技术规制需多管齐下
技术发展是不可阻挡的趋势,技术应用也往往超前于风险应对手段的产生。北京市盈科(海淀区)律师事务所网络犯罪辩护与刑事合规部主任刘洋认为,深度合成技术对影视、娱乐、教育、科研、医疗等领域的发展有相当促进作用,让AI换脸等应用屡陷争议的原因,既有开发者的利益需求,也有技术规制的天然滞后性。
“AI换脸乱象调查:明星换脸淫秽视频打包卖,还教换脸技术
上观新闻
-
下一篇
AI换脸可“定制”,1分钟收费20元,已成一门地下生意
人工智能,一直是我们小时候看科幻片最喜欢讨论的话题,未来的机器人能成为人类忠实的小伙伴,未来你想要做什么,只用脑子一想就能完成操作……