2024 年 10 月 23 日,谷歌 DeepMind 正式开源旗下 SynthID Text 文本水印工具,供开发者和企业免费使用。谷歌在 2023 年 8 月推出 SynthID 工具,具备创建 AI 内容水印和识别 AI 生成内容的能力,可在不损害原始内容的前提下,将数字水印嵌入 AI 生成的图像、声音、文本和视频中,也能扫描已有水印以辨识是否为 AI 生成,此次开源的仅为针对文本生成的 SynthID Text。大模型通过预测形式生成文本,一次生成一个 Token,SynthID 通过微调每个 Token 的概率分数判断内容是否由 AI 生成。SynthID Text 水印技术的论文在《Nature》期刊上发表,并通过整合入 Google Responsible Generative AI Toolkit 的形式开源,谷歌已在 Gemini AI 输出的内容中整合了该技术。
工具官网:
https://deepmind.google/technologies/synthid/
开源地址:
https://github.com/google-deepmind/synthid-text
