“AI换脸”真假难辨，怎样防？如何治？

前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。

当下，随着人工智能技术（AI）的迅猛发展，AI换脸诈骗等新型犯罪也呈现上升趋势。通过深度学习和生成式模型，诈骗方能够以数字化手段融合他人的面孔和声音，制造出逼真的合成图像。深度伪造的换脸视频和声音片段常常令受害者放松警惕，导致上当受骗，蒙受经济损失。

好消息是，针对AI数字技术犯罪，国家层面相关立法研究工作正在持续积极推进。

今年接连发布相关管理办法

今年以来，有关深度合成、自动生成等AI技术应用的管理办法频频发布。

1月，中国国家互联网信息办公室、工业和信息化部、公安部联合出台《互联网信息服务深度合成管理规定》，细化了深度合成技术支持者、服务提供者、服务使用者以及应用程序分发平台的主体责任。

4月，中国国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》向社会公开征求意见。该办法建立了AI服务的规范管理框架，要求提供生成式人工智能产品或服务的企业或个人进行实名认证、信息公示、申报安全评估、履行算法备案和变更、注销备案手续等。上述规定和办法的逐步落实应能在一定程度上遏制非法个体或组织实施AI诈骗的行为。

6月25日，全国人大常委会法制工作委员会举行记者会，针对有关利用AI换脸技术进行视频合成，进而实施诈骗的问题，发言人臧铁伟指出：万变不离其宗，通过‘AI换脸’进行视频合成、实施诈骗的行为，是利用新技术进行的诈骗，与传统诈骗行为在本质上没有区别。

应当看到，国家层面制定的反电信网络诈骗法、刑法等法律为打击治理各类电信网络诈骗活动提供了较为充分地支撑，AI换脸、AI拟声、AI钓鱼邮件等诈骗行为并没有逃出既有法律的打击范围。

立法之外，协同治理不可或缺

当前，随着深度学习等AI技术的成熟，AI诈骗呈现手段愈发多样、门槛大幅降低、辨别难度加大等特点，并且犯罪成本也很低。在网络上，一些高逼真的换脸付费软件售价仅在几百元至几千元之间，大量被泄露的个人信息和数据也能以较低价格获取。这可能会导致大量侵权内容生成，进而对公民肖像权、名誉权和隐私权构成巨大威胁，仅靠立法规制并不能彻底解决，还需要相应行政治理措施的协同。

首先是要大力加强监管机构的能力建设。利用机器学习和数据挖掘、区块链等技术加强对AI应用的监管与审查，及时发现和应对新型犯罪手法。

其次是加强技术研究和创新。开发先进的防御工具和技术来检测、识别和防范利用AI等高科技进行的诈骗犯罪。例如，开发强大的身份验证技术、欺诈检测算法和反欺诈系统等。

同时，还需要大力加强跨部门、跨行业乃至跨国的协同合作，共建网络安全生态系统。建立公安、工信、网信、市场监管部门等政府部门会同电信企业、通讯软件提供商、银行等企业的联合工作机制，提供技术解决方案，推动行业标准和最佳实践，共同监测和维护网络安全。

普通人可以做什么

更为关键的是，每个居民都是个人信息安全的第一责任人，需加强保护意识，防止信息泄露，尤其是不能轻易提供人脸、指纹等个人生物信息给他人。以下一些建议，或可帮助个人辨别AI换脸诈骗情况。

不寻常的请求或交流：如果你收到了一条突然出现的请求或消息，其中包含进行不寻常行为的要求，例如转账款项、提供个人信息等，需要保持警惕，不轻易回应。

异常的语言和行为：尽管AI换脸技术可以逼真地模仿原始人物的语言和行为，但仍可能存在一些异常之处。例如不连贯的语句、奇怪的语法错误、与平时不符的态度和行为等。如果你感觉对方的语言和行为稍有不同寻常，就要立刻警觉。

细致观察面部特征和动作：使用AI换脸技术模仿原始人物的面部特征和动作，目前还不能在细节上做到百分百完美匹配，因此需要留意细节上的异常，例如眼睛的移动不协调、面部表情不自然、唇形不匹配等。如果观察到类似情形，就要怀疑其真实性。

认真核实身份和信息：在收到涉及重要决策或敏感信息的请求时，一定要坚持在第一时间核实对方的身份和信息，例如直接与其进行电话或面对面沟通，而不仅仅依赖于在线交流。

留意平台的警示：部分社交媒体和在线平台已经采取了一些措施来标识或警告AI换脸生成的内容。如果您在社交媒体或在线平台上看到有关特定账户或内容的紧急提示，须保持警醒。

与此同时，日常生活中要时刻注意不泄露个人信息。比如，前段时间上海街头有许多小贩手持印有二维码的纸牌与路人搭讪，说只要扫一扫就可以免费赠送大鹅公仔。看似轻无足轻重的请求和萌萌的大鹅，很容易让人丧失警惕。然而，只要轻轻一扫，窃取个人信息、植入恶意软件和病毒，非法访问手机相册、麦克风等风险就可能接踵而至。

因此，每个人随时都要保持警惕和谨慎，不要随意相信和执行不寻常的请求。如果怀疑自己遇到了AI换脸诈骗，最佳做法是暂停与对方交流，核实其信息和身份，咨询专业人士，并及时向执法机构报告。

治理和防范AI换脸等新型诈骗犯罪，仍然需通过立法、治理和公共教育等各方多管齐下地努力，并合理引导科技向善，才能应对潜在威胁，维护社会安全与稳定。

--------

城市因集聚而诞生。

一座城市的公共政策、人居环境、习俗风气塑造了市民生活的底色。

澎湃城市观察，聚焦公共政策，回应大众关切，探讨城市议题。