谷歌开源水印工具，用于用户识别人工智能生成的文本

谷歌已经开源了SynthID文本水印工具，该技术使用户能够轻松检测文本是原创还是人工智能生成。

据谷歌称，人工智能生成的文本检测器可以从人工智能平台Hugging Face和谷歌更新的Responsible GenAI Toolkit下载。随着过去两年生成式人工智能的蓬勃发展，水印变得越来越重要，因为LLM被操纵来传播错误信息和虚假信息，以及非自愿的性内容和恶意目的。

这一发展是因为迫切需要开发此类工具欧盟执法机构担心到2026年，90%的在线文本可能是合成的，使宣传、欺诈和欺骗盛行。

谷歌研究人员解释他们的水印工具

在一个在X平台上发布这家搜索引擎巨头透露，它正在开源其SynthID文本水印工具，并表示该工具将“免费提供给企业和开发人员，因为它将帮助他们识别人工智能生成的内容。”

Pushmeet Kohli，谷歌DeepMind研究副总裁，谷歌DeepMind一篇研究论文的合著者说：“该系统不会损害人工智能模型的功能，只是让它们变得更好。”

图像和视频一直是内容证书讨论的核心，水印已被指定为打击深度伪造所需的解决方案。

这个内容来源和真实性联盟（C2PA），一项由科技公司和主要媒体机构合作开发的系统，用于附加加密元数据以指示人工智能生成的图像和视频文件，也是这些讨论的核心。

根据谷歌DeepMinds的研究论文，SynthID文本在生成过程中会产生干扰，因为它会改变聊天机器人发出的一些单词，使SynthID检测器能够识别，但人类几乎看不见。

研究人员在论文中写道：“像这样的修改会在人工智能生成的文本中引入统计签名，在水印检测阶段，可以通过带水印的LLM来测量签名，以查看文本是否来自人工智能模型。”。

通过逐字生成句子，这就是为聊天机器人提供动力的LLM的工作原理，因为它们会根据前面的上下文选择可能的下一个单词。通过为候选单词随机分配数字分数，LLM会生成分数更高的单词。水印将被放在一段文本上，该文本将被检测器分析，并且被发现得分更高。

今天，我们通过更新的负责任生成人工智能工具包将SynthID文本水印工具开源。

它可供开发人员和企业免费使用，将帮助他们识别人工智能生成的内容。