辟谣！关于AI换脸诈骗

朱慧卿图/本刊

眼见不一定为实

近日，华北某地一名地方干部正为一件事犯愁。有人冒用他的名义，与他的亲朋好友大范围添加微信好友。

和我的亲戚朋友加完好友后，骗子还给他们打了视频电话。通话时间只有几秒钟，朋友们感觉声音、画面都有点儿像。这名干部说，直到许多朋友打电话询问具体情况，他才知道此事。

估计下一步就要开始骗钱了。所以，最近几天我连续发了好几条朋友圈提醒大家。这名干部说。

受访业内人士表示，只要有足够的图像、音频素材，不法分子就可以通过人工智能换脸软件、合成声音软件伪造虚拟形象，实施诈骗。只需提取最少10个字、最多32个字，就可以合成其声音。国网信息通信产业集团安全科研专家赵明明告诉记者。

一些领导干部由于工作原因出镜率相对较高，这为骗子提供了丰富的面部识别素材；在电视、广播新闻中也可以找到一些领导干部的大段同期声，这令伪造成本更低。

在一些案件中，不法分子通过AI换脸合成视频等方式，伪造与领导干部见面、合影等内容实施诈骗，增加了涉政类诈骗的欺骗性和危害性。

AI诈骗四大趋势

中国信息通信研究院相关负责人表示，当前，人工智能辅助诈骗存在四大趋势。随着人工智能技术的普及应用，不法分子实施诈骗的精准性、迷惑性、隐蔽性增强，公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。

——技术成本由高向低转变。腾讯安全玄武实验室负责人于旸告诉记者，随着技术发展，人工智能深度伪造深度合成已成为一种可以低成本实现的技术。

——技术应用由单一向多元转变。腾讯互联网安全专家杨建表示，实施人工智能辅助诈骗一般要满足多个要素，包括非法获取信息、构建熟人账号、换脸换声、破解手机摄像头权限等，涉及多项技术手段。

——伪造身份从模糊向具体转变。传统电信诈骗往往只能以某派出所工作人员某网站客服等模糊虚指人设实施。但在人工智能辅助诈骗中，骗子可以以具体的人物形象出现。