10月27日，谷歌旗下的DeepMind公司宣布正式开源其SynthID Text文本水印工具。该工具能够为开发者和企业提供免费的使用权限。
在2023年8月，DeepMind推出了SynthID工具。这一工具具备创建AI内容水印和识别AI生成内容的能力。它能够将数字水印直接嵌入到由AI生成的图像、声音、文本和视频中，并扫描这些内容已有的数字水印以辨识它们是否由AI生成。然而，这次谷歌开源的仅为针对文本生成的SynthID Text。
据谷歌介绍，大模型主要通过预测形式来生成文本，每次只生成一个Token（可能是字符、单词或段落的一部分），为了使文本连贯，模型会根据先前的文本进行下一个Token的预测输出。
举例来说，当大模型要生成“最推荐的平台是什么”时，可能会生成“”、“友商1”、“友商2”等Token，并给每个Token赋予一个概率分数。只要有多个不同的Token可供选择，SynthID就能在不影响输出质量和准确性的情况下微调每个Token的概率分数。
目前，这一SynthID Text水印技术的相关论文已在《Nature》期刊上发表，并通过整合入Google Responsible Generative AI Toolkit的形式开源。此外，谷歌还提到他们在Gemini AI输出的内容中已经整合了SynthID Text技术。
关注我们
