Google DeepMind（Google的人工智能研究部门）与Google Cloud合作，推出了一款名为SynthID的工具，用于为由Google的图像生成模型创建的AI生成图像添加水印并进行识别。
该工具目前以测试版形式在Vertex AI（Google用于构建AI应用程序和模型的平台）的特定用户中推出。SynthID通过将数字水印直接嵌入图像像素中，使其在人眼看来几乎不可察觉，但可以被算法检测到。
然而，需要注意的是，SynthID仅支持Google的文本到图像模型——Imagen，而该模型只在Vertex AI中提供。
此前，谷歌曾表示将嵌入元数据来标记由生成式AI模型创建的视觉媒体。而SynthID则在这方面迈出了更大的一步。
DeepMind在一篇博客文章中指出：“尽管生成式AI可以释放巨大的创造潜力，但也带来了新的风险，例如可能使创作者有意或无意地传播虚假信息。"
"能够识别AI生成内容对于让人们知道何时与生成的媒体互动，以及防止虚假信息传播，具有至关重要的意义。”
DeepMind声称，它与Google Research（Google的研发团队）合作开发了SynthID，并在其之上进行了改进。即使在对图像应用滤镜、更改颜色以及高度压缩等修改后，SynthID仍然有效。
这款工具利用两个AI模型，一个用于添加水印，另一个用于识别，这两个模型在“多样化”的图像数据集上进行了共同训练。
值得注意的是，SynthID并不能以百分之百的确信度来识别带有水印的图像。然而，这款工具可以区分可能包含水印的图像与高度可能包含水印的图像之间的差异。
DeepMind在博客文章中强调：“SynthID并不能绝对防止极端的图像篡改，但它提供了一种有希望的技术方法，可以使人们和组织能够以负责任的方式处理与AI生成内容相关的任务。
此外，这个工具还可以随着其他AI模型和不仅限于图像的模态（如音频、视频和文本）一起进一步发展。”
虽然用于生成艺术的水印技术并不新鲜，但科技公司正在加大压力，要求它们提供一种方法来清晰地标识作品是否由AI生成。
最近，中国国家互联网信息办公室发布了规定，要求生成式AI供应商在不影响用户使用的情况下，标记生成的内容，包括文本和图像生成器。
在美国参议院的最近听证会上，亚利桑那州参议员Kyrsten Sinema强调了生成式AI的透明度的重要性，包括通过使用水印等方式。
今年5月，在微软的年度Build大会上，该公司承诺使用加密方法为AI生成的图像和视频添加水印。此外，Shutterstock和生成式AI初创公司Midjourney还采用了指南，以嵌入标记，指示内容是由生成式AI工具创建的。
同时，OpenAI的DALL-E 2，一款文本到图像的工具，在生成的图像的右下角插入了一个小水印。
然而，迄今为止，关于创建和检测水印的共同标准依然难以实现。
与其他提出的技术一样，目前的SynthID形式并不适用于非Imagen的图像生成器。
不过，DeepMind表示他们正在考虑在不久的将来将SynthID提供给第三方使用。然而，第三方是否会采用这项技术，尤其是那些正在开发开源AI图像生成器的第三方，这些生成器缺乏在API后面设定的许多保障机制，还有待观察。
发布者：5840，转转请注明出处：https://www.5840.cn/lives/1010.html
评论列表（0条）