“AI换脸诈骗潮”来了？
AI换脸诈骗潮来了？
公安部门：全国爆发消息不实，但涉诈风险正在积聚
记者 于梅君
一张静态半身照，经过特殊软件处理，就能变成视频，而这样一段视频，可能被不法分子用来诈骗。那么，AI换脸是如何实现的？目前全国真的爆发AI诈骗潮了吗？对普通公众而言，如何识别AI假脸？
花钱就可买脸 AI换脸暗藏黑产
AI换脸技术，一直是网络安全监管的重点对象，许多换脸软件，不得不通过短视频平台、社交账号等私密渠道进行资源共享。
某社交平台一位商家介绍，可以提供国内明星换脸服务，软件价格2000元一套，可送一个模型，模型可以定制，另外加500元一个。此外，该商家提供了多组套餐供选择：包括单图换脸、实时换脸、全自动换脸等，每套价格多集中在2000元至3000元。商家表示，可采用多个人脸混合的方式，将使用者本人的脸和明星的脸进行混合，以降低侵权风险。
在某销售网站上，一名软件开发者则展示了如何将知名女星的眼睛和嘴巴拼接融合到一起，生成全新虚拟数字人的过程。该款软件提供了从初级到超级再到全套的不同版本。以初级套餐来说，付费499元可提供软件界面、视频指导、入门级模型、基础指导等。付费2888元，则可得到全套等级的视频换脸模型。
软件不仅可以实现视频换脸，还支持直播换脸。如果你有看中的脸，可以找到某个人的正面、侧面等各种角度视频拿来训练。该软件开发者同样表示，如果你想要明星脸，又怕侵权，不想那么像，就可以找几个人的脸放在一起训练，看上去又像又不像，达到明星脸的效果。
此外，网络上不乏AI换脸教程。在国内某知名App上输入换脸，弹出的高频检索记录显示，有换脸软件换脸App免费换脸视频怎么做换脸算法等。
视频大变活人 是如何实现的
AI换脸也叫深度伪造技术，堪称现代网络易容术，是比PS强大很多的动态换脸技术。这一方式被一些不法分子用于盗刷银行卡、非法办理手机卡等诈骗场景。除了欺骗机器外，还可以通过伪造电话语音、视频通话等欺骗真人，引诱转账、实施敲诈等。那么，AI换脸到底是如何实现的？
深度伪造技术主要分两部分：自动编码器和生成对抗网络。天津大学智能与计算学部教授翁仲铭介绍，其核心原理，是利用生成对抗网络等算法，将目标对象的面部，嫁接到被模仿对象上，一般可分四类：重现、替换、编辑和合成。
随着深度学习技术的发展，自动编码器、生成对抗网络等，逐渐被应用到深度伪造中。那么，什么是自动编码器？翁仲铭介绍，自动编码器是一种神经网络技术，就是把一个人的照片特征抓取出来，然后用数字代表。
有编码器就需要解码器，解码器会把一串串数字再还原成照片。不同解码器，可以还原不同照片，比如朱茵的解码器可以还原朱茵的照片，而还原施瓦辛格照片，则需要施瓦辛格的解码器。
深度伪造技术，就是在设计、训练精准的编码器和解码器。翁仲铭解释，因为编码器是抓取照片的特征，所以基本上只需要一套就可以了。但解码器就需要训练很久，以换成史泰龙的脸为例，这个过程需要输入史泰龙600—3000张照片，并经过48—72小时来训练深度模型。
自动编码器做出的照片是否自然真实，还需要判别把关，这就需要‘生成对抗网络’技术。翁仲铭解释，这包括两个机器学习模型，分别为生成网络和辨别网络，这种网络包含两个相互博弈的神经网络，像猫捉老鼠一样对抗：一个尽力去忽悠另一个，让它相信自己生成的是真样本，而另一个则尽力去区分真假样本。
生成网络扮演造假者，在模型训练后，产生伪造影片；而辨别网络则扮演检测者，不断地检视假影片，直至它再辨别不了结果是假的。数据越多，效果越理想，假影片越真实。
AI进入快速迭代期，涉诈犯罪风险正在积聚
通过AI换脸和拟声技术，10分钟骗430万元；AI虚拟人在聊天中筛选出受害者，人工接力实施诈骗……近期，多起宣称利用AI技术实施诈骗的案件引发关注。
那么，AI诈骗潮是否真的到来了？近日，公安部门确认，AI诈骗全国爆发的消息不实，目前此类诈骗发案占比很低。但公安机关已注意到此犯罪新手法，将会同有关部门，开展技术反制和宣传防范。
专家表示，AI在技术上确实能做到换脸、拟音，但被用来进行广撒网式诈骗需要具备很多条件。
这类诈骗如果得手必须做到：收集到被换脸对象的个人身份信息、大量人脸图片、语音素材，通过AI生成以假乱真的音视频；窃取被换脸对象的微信号；充分掌握诈骗对象个人身份信息，熟悉其与被换脸对象的社会关系，综合作案成本很高。
公安机关研判，目前AI涉诈案件仍属零星发案状态，成熟的类型化诈骗犯罪，往往具有在全国多地集中爆发的特点，但当前没有成规模的AI诈骗类案件发生。
所以，近期网上AI换脸、换声诈骗在全国爆发传言不实，目前全国此类案件发生不到10起，但该动向值得高度关注。网上一键换脸功能的App、小程序有技术滥用风险，需要加强技术防范反制等工作。
国家开发投资集团特级专家赵建强表示，虽然AI诈骗类案件尚未大规模爆发，但AI技术正加速向网络诈骗、虚假信息、色情等领域渗透。如假冒明星换脸直播、一键脱衣、造谣、制作色情视频等。虽然AI诈骗案件未成气候，但这一趋势值得关注，必须提早防范。一位反诈民警说。
用白AI对抗黑AI，及时画红线、踩刹车
中国移动信息安全中心品质管理处副处长周晶表示，近年来，各界正在研判AI技术给社会带来的风险和潜在威胁，设法将AI技术发展纳入一定规则中，做到安全可控。
业内人士建议，要加强AI反制技术研究，以AI制AI。一些科技公司正加强对图像、声音伪造技术的反制研究，在公安、金融的视频认证场景已有应用。有一线民警建议，要加强AI安全技术应用研发，将AI技术应用于犯罪识别、预警、对抗中，实现以白AI对抗黑AI。
其次，加强源头治理和行业引导，及时更新、完善相关法律、标准、规则，为AI技术发展保驾护航。数据是AI犯罪的源头，保护好公民的个人隐私数据安全，就能在最大程度上降低AI违法犯罪的能力。周晶说。
中国互联网协会监管支撑部主任郝智超建议，AI技术发展还要有相关法律法规来画红线、踩刹车。对AI技术的研发、传播、使用做到有规可循，并根据技术发展实际情况，及时完善对技术服务商行为的规范引导。
此外，还要有针对性地加强反诈宣传。郝智超表示，未来AI可根据大数据创造出无比接近真实的真实。要通过不断的教育，改变大众观念，让人知道眼见不一定为实，有图不一定有真相，提升对网络信息的辨识力。
(一)合成声音
骗子通过骚扰电话录音等，提取某人声音，获取素材后进行声音合成。
(二)通过AI筛选受骗人群
骗子不是漫无目的地全面撒网，而是别有用心地锁定特定对象。
(三)AI换脸
骗子首先分析公众发布在网上的各类信息，用AI技术换脸，可伪装成任何人。
识别假脸
多数假脸是使用睁眼照片合成，假脸极少甚至不会眨眼。还包括语音和嘴唇运动不同步、情绪不符合、模糊的痕迹、画面停顿或变色等。（齐鲁晚报）
来源： 齐鲁晚报
然后点击右侧的视频换脸，从众多风格的视频模板中选择一个最喜欢的进行更换。
当然喽！如果你想多尝试几个视频换脸那也是完全OK的。
2.换脸吧
一键AI换脸？这几款软件可以轻松实现！
现在很多平台都已开通AI换脸服务，像各种小程序、抖音快手的各类特效等等，只是现在处理技术尚未成熟，很难达到100%无瑕疵，但七八分融合还是可以做到滴。
换脸应用FacePlay"采取会员制的方式，为用户提供视频和照片换脸服务（应用页面截图）
记者在百度搜索关键词AI换脸，查询到一些标注为广告的网站，仍在出售明星换脸视频。根据网页留下的QQ号，记者联系到一个名为深蓝的卖家，其随后发来百位明星合成视频合集的列表截图，文件名上标注出多位大众熟知的女明星。
100部，打包价108元。深蓝表示，视频文件将通过QQ文件发送，支持微信、支付宝、QQ红包等支付方式。为了证明视频的质量，深蓝随后发来几张动图，内容是几位女明星被换脸后的淫秽视频截图。
另一个卖家则向记者发送了网盘链接。对方称，视频时长有几分钟到十几分钟不等，可以保证视频质量。如果你有特别喜欢的明星，我们可以为你提供定制服务，收费比较贵。对方表示，一段时长约5分钟的定制视频要价188元，两三个小时就能给你。
上述两位卖家都声称，出售的明星换脸视频是团队自己制作的，深蓝更是夸口称独家发售，绝无仅有，质量有保证。两名卖家提供的明星换脸合成视频流畅度极高，几乎达到了真假难辨的程度。
实际上，演艺明星、社会名人更容易成为AI换脸视频的受害者。近期，一名男性特效师将自己的脸替换到影视片段中，生成跟女星迪丽热巴亲吻视频，引发粉丝抗议。
因不堪其扰，一些明星选择维权。2021年8月，刘昊然工作室发布声明称，有人利用AI换脸技术传播对刘昊然带有侮辱性的视频、截图，同时含有诽谤言论的聊天记录。该工作室表示已向警方报案。2021年9月，林俊杰因个人肖像被短视频博主用AI换脸技术制作了大量的鬼畜视频，起诉了平台及该博主，要求其赔礼道歉并索赔27．5万元。
相关应用仍可下载，卖家教授AI换脸技术
不仅有出售明星换脸成品视频的卖家，各类提供AI换脸服务的App和小程序，仍在网络中存在。更甚者，一些卖家要提供换脸技术教学服务，进一步降低这类技术的应用门槛，易造成对他人权益和社会公共安全的危害。
在手机应用商城，记者搜索AI换脸等关键词，就有不少相关App推荐，如AI换脸FacePlay等。在某社交平台上搜索换脸，也能看到不少AI换脸的小程序，如AI换脸变装等。
记者下载了热度最高的FacePlayApp。该App有多款换脸模板可供选择，包括AI绘画、影视剧、气质美女、男士专属等，一键上传照片便可生成换脸视频。
要想在这些App和小程序上使用AI换脸功能，有些需要付费，以FacePlay为例，周会员17元、年会员398元。也有免费适用的App，一般用户每日可享受一次免费AI换脸的机会，用完免费次数后可通过浏览视频广告获取权限。
而在电商平台，AI换脸换脸等关键词已被屏蔽，但通过明星视频定制视频等更隐蔽的关键词，仍能找到出售换脸软件、定制明星换脸视频及教授换脸技术的卖家。
记者搜索某电商平台发现，一名卖家通过视频教授AI换脸技术，还提供代码脚本网页，收费只要39.9元。
记者联系了其中一名卖家，对方不仅售卖明星换脸视频和定制换脸服务，还提供教学服务，只要39.8元，包学会。完成付款后，记者收到卖家记者发来的一条网盘链接，里面是一段教学视频。视频被封了，只能压缩上传，先保存到网盘后再下载。该卖家告诉记者，根据视频的步骤，就能学会AI换脸操作。
随后，卖家又给记者发了一组账号和密码，还有一个网页链接。这是我们的代码脚本网页版，比那些换脸软件的功能更加强大。卖家提供的教学内容显示，用户根据指引，完成登录、提取脸部数据、训练模型、换脸输出视频等步骤，就能实现AI换脸视频的制作。
记者跟教授换脸技术卖家的聊天记录截图
记者注意到，这个店铺的月销量超过50，但没有评论。卖家在私信中强调，不要公开发表评论，有问题直接联系我就好了。
相对现成的 AI换脸软件多适用于拍照场景、影视剧片段的替换合成，上述卖家教授的换脸技术更能为所欲为：用于换脸的照片不受限制，可合成的视频片段也不局限于影视作品，包括新闻、私人影片等都可被AI换脸。
滥用AI换脸存法律风险
00后小陈告诉记者，出于猎奇和娱乐心态，自己以前也喜欢看视频网站的AI换脸视频，把唱跳偶像的脸换在古装人物身上，很新奇。但之前有朋友用她的照片生成恶搞视频，让她感到很不舒服，引发她对AI换脸的警惕。
越来越多人意识到，AI换脸是一把双刃剑，亟须法律对技术进行更系统的规制与引导。
深度合成技术在给大众提供娱乐的同时，也因为滥用和缺少监管，造成了信息安全隐患和传播侵权的乱象，甚至成为刑事犯罪的‘帮凶’。一名长期从事打击电信网络诈骗的民警对记者表示，已经有不法分子将AI换脸用于制作虚假视频，从事电信网络诈骗等违法犯罪活动。
近年来，AI换脸技术频频被一些犯罪分子盯上，随之而来的犯罪手段也是花样百出、层出不穷。除了演艺明星外，部分不法分子还将AI换脸技术使用在普通人身上，由此制造一些所谓的遭泄露私密照片，对当事人实施敲诈勒索。
实际上，即便只是用AI换脸技术制作娱乐性的恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。
按照民法典规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。这就意味着，无论个人还是平台、软件开发商，未经肖像权人同意，通过技术手段提取肖像，并擅自使用或上传至换脸应用中供用户选择使用的行为都侵害了他人肖像权。
去年年底，杭州互联网法院审理了一起因AI换脸App利用深度合成算法侵害他人肖像权的案件，判定App开发者构成对原告肖像权的侵害。在这起案件中，原告楼某某是一名古风汉服模特，经常在社交平台发布古风汉服照片和视频。楼某某发现被告公司运营的AI换脸App中使用的是其拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致。软件生成换脸后的古风造型视频，用户可以将其保存并其他平台。
法院审理认为，被告公司未经楼某某同意，利用深度合成技术使用其肖像制作了伪造视频，依法应认定为构成对楼某某肖像权的侵害。法院判决被告向楼某某赔礼道歉并赔偿损失5000元。
民法典还规定民事主体享有名誉权。例如前文提到的各类换脸视频的网络卖家，将他人的脸换到不雅视频中，或者利用换脸软件对他人进行恶意丑化，就涉嫌侵犯他人的名誉权。另外，这些卖家出售深度合成的明星换脸色情视频，还涉嫌制作、传播淫秽物品，可能构成刑事犯罪。
法律界人士指出，若有视频创造者发现自己的视频被AI换脸App运营商盗用，视频所有人可以通过提起民事诉讼方式要求运营商承担停止侵权、赔礼道歉并赔偿损失等民事责任；如公民发现自己的视频被人用于违法犯罪，可向公安机关报案追究相关人的法律责任。
技术规制需多管齐下
技术发展是不可阻挡的趋势，技术应用也往往超前于风险应对手段的产生。北京市盈科（海淀区）律师事务所网络犯罪辩护与刑事合规部主任刘洋认为，深度合成技术对影视、娱乐、教育、科研、医疗等领域的发展有相当促进作用，让AI换脸等应用屡陷争议的原因，既有开发者的利益需求，也有技术规制的天然滞后性。
“AI换脸乱象调查：明星换脸淫秽视频打包卖，还教换脸技术
上观新闻