图灵汇官网

谷歌在2025年的I/O开发者大会上提出了解决深度伪造和虚假信息问题的办法，推出了名为SynthID Detector的新型工具。这款工具能够利用数字水印来辨别由人工智能生成的内容。

根据相关报道，在2019年至2024年期间，深度伪造视频的数量增长了550%。与此同时，社交媒体上的人工智能生成内容也在快速增加。

SynthID Detector正在向一些早期用户开放，记者、研究人员以及开发人员可以通过加入等待名单来使用该工具。它的工作原理是对文件中的隐藏数字水印进行扫描，从而识别出人工智能生成的内容。无论是在图像、视频、音频还是文本中，它都可以精确地定位到水印的位置。

比如，在音频里，它可以明确指出水印出现在哪一部分；而在图片中，则会标记出可能包含水印的区域。谷歌提到，即使内容经过分享或者多次格式转换，水印仍然可以被检测出来。

谷歌打算把SynthID Detector整合进Veo 3视频生成工具、Imagen 4图像生成工具以及Lyria 2音乐生成工具当中。同时，他们还计划与英伟达合作，将这项水印技术应用到NVIDIA Cosmos模型上，并且与其他公司如GetReal Security一起验证水印的有效性。

不过，谷歌也承认SynthID并非绝对可靠，在处理文本或者极端图像修改时，水印有可能会被规避掉。