近日，Gartner发布了2025年企业机构需要探索的十大战略技术趋势，其中关于人工智能的必要性和风险中提到了虚假信息安全（Disinformation Security）。虚假信息安全是一个新兴技术类别，该技术能够系统地辨别信任度，旨在提供一个能够确保信息完整性、评估真实性、防止冒名顶替和追踪有害信息传播的方法体系。

随着深度合成和生成式AI技术的开放开源、深度合成和生成产品及服务的增多，此类内容制作的技术门槛越来越低，实现了技术的“平民化”。通过深度合成和生成式AI技术制造虚假音视频图像等虚假信息进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。因此，虚假信息操纵所带来的危害不可轻视。

Gartner预测，到2028年，将有50%的企业开始采用专为应对虚假信息安全用例而设计的产品、服务或功能，而目前这一比例还不到5%。

针对虚假信息的发现识别，国投智能自主研发AI生成内容检测鉴定的核心引擎，推出AI-3300慧眼视频图像鉴真工作站、人工智能大模型内容检测平台、美亚鉴真内容检测平台小程序等产品，全面支持人工智能生成视频、图像和文本等多媒体内容的检测。目前，市面常见的内容生成工具（如：ChatGPT、Sora、Midjourney、Stable Diffusion等）所生成的文本、视频、图像均可使用公司相关产品进行检测，平均准确率超过90%。
 
虚假信息安全涵盖了从信息真实性验证到用户教育等多个层面，包括确保信息的来源可靠且内容真实；控制虚假信息在社交媒体、新闻网站等平台上的广泛传播；利用加密、数字签名等技术手段保护信息不被篡改或伪造；制定和执行相关法律法规；以及提高用户辨别信息真伪的能力，共同构建一个更加安全、真实的信息环境。

未来，国投智能将聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，按照相关管理要求，针对深度合成生成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，为打击利用人工智能的新型涉网犯罪，提供有力的技术武器，为维护和保障人工智能的健康发展和规范应用贡献力量！