如何应对人工智能时代的内容安全风险？

人工智能生成了非法内容、人工智能面部欺诈、人工智能错误信息诽谤、人工智能侵权。如何应对人工智能时代的内容安全风险？

6月19日，腾讯云披露了行业大模型计划的进展，正式宣布MaaS（Model-as-a-Service）能力全景图，帮助企业打造专属行业模式。在安全方面，腾讯云过滤和避免问题侧、模型侧和答案侧的敏感信息。同时，依托腾讯20多年的安全经验和天宇大数据能力，提供AIGC全链路内容安全解决方案，确保大模型可靠可靠。

AIGC不仅带来了丰富的创造力，也带来了新的内容安全挑战。与过去相比，PGCC、以UGC为主的内容，AIGC时代的内容安全内涵和延伸发生了显著变化。今年4月，国家网络信息办公室发布的《生成式人工智能服务管理办法（草案）》对黄暴政治恐怖主义禁令、预防歧视、版权保护、虚假信息预防、个人隐私保护等有明确要求。

据了解，腾讯安全AIGC全链路内容安全解决方案涵盖了AIGC应用从模型培训到内容生成再到运营全过程的内容安全建设，包括审校服务、安全专家服务、机器审核服务和版权保护服务。

AIGC内容安全的新挑战不仅体现在天文数据量上，还体现在处理内容上。以模型阶段为例，除了典型的特征标记外，对标记文本的流畅性、逻辑性和连贯性也有很高的要求。在内容生成阶段，新的人工智能伪造、虚假、违反伦理、不适、未成年人等非法内容，以及人工智能问答产生的专业内容，都超出了传统内容风险控制的范围。

腾讯安全依托过去20年的安全运营经验，积累了数万亿的非法样本和十多种定制识别服务，可以结合行业场景，定制企业内容安全建设。此外，腾讯安全天宇风险控制还与对象存储、云直播、云点播、实时音视频等云工具连接。企业可以完成全套内容安全审计，大大提高效率。

AIGC的快速发展也引发了黑灰生产的新一轮攻击，利用AI换脸，批量生成版权内容套现获利。对此，腾讯安全进行了专项优化。在AIGC造成的版权保护问题上，腾讯安全帮助企业基于统一的版权资产ID库进行原创版权筛选；此外，腾讯安全还提供测试、比较、权利保护的全链接版权保护服务。自2019年9月起，腾讯安全对B站平台上UP主上传的原创视频提供版权监控服务，共监控作品500多万部，发现侵权链接近3000万条，发起维权近百万次，维权成功率达到98%。

目前，腾讯安全在AIGC内容安全领域实践了多个场景，为生产文化、文化、医疗视频内容、长小说文本等内容的企业提供内容安全服务，护送生成人工智能的健康发展。