国家反诈中心 App 上线「AI 内容鉴定」

5 月 19 日消息，据央视新闻报道，国家Anti-Fraud Center App 近期正式上线「AI内容鉴定」功能，支持对图像、视频、音频及文本进行 AI 生成痕迹检测，主要用于识别诈骗及电商场景中的伪造内容。

电商平台上利用 AI 篡改图片骗取「仅退款」的行为日趋普遍。央视新闻记者随机选取十张商家提供的疑似 AI 生成售后图，上传至国家反诈中心 App 及多个 AI 鉴真工具后，均被判定为「图像含 AI 生成痕迹」。

据介绍，该检测方案结合小模型与大模型：小模型学习 AIGC 内容的生成模式，大模型则判断内容是否存在物理瑕疵或逻辑语义问题，二者联合输出最终结果。