🔍划重点:
1. 美国总统拜登颁布AI行政命令，首次应对技术领域的挑战，其中之一是如何辨别图像真伪。
2. 命令要求制定数字水印标准，类似于照片或纸币上的水印，以帮助用户区分真假图像并确定所有者。
3. 尽管AI公司已在产品中使用水印技术，但专家担忧水印并不是解决虚假信息问题的唯一方案。
站长之家(ChinaZ.com) 11月1日 消息:美国总统拜登颁布了一项关于人工智能的行政命令，这是政府首次采取行动来应对技术领域的一些最大挑战之一，例如如何辨别图像的真伪。该命令要求制定新的政府主导的标准，以在AI生成的内容上添加数字水印，类似于照片或纸币上的水印，以帮助用户区分真实物体和虚假物体，以及确定其所有者。
数字水印似乎是一个简单的解决方案，得到了白宫和科技行业的支持。水印技术有着巨大的潜力。但专家担忧，它并不是解决虚假信息问题的唯一途径。
图源备注：图片由AI生成，图片授权服务商Midjourney
许多领先的人工智能公司已经在其产品中加入了水印技术。有些水印容易剪切，如OpenAI在DALL-E图像上的标记，但还有一些更具持久性。例如，谷歌在八月份宣布了SynthID的测试版，这是一种可以无损地插入到图像像素中的不可察觉的水印。这种方法避免了降低或显著标记图像，同时允许AI检测软件在图像被剪裁或调整大小后进行认证。
将数字水印嵌入到AI生成内容的像素和元数据中的“高扰动”方法已被证明是应对有害虚假内容的最有前途的解决方案之一。然而，像SynthID这样的产品不能是唯一的解决方案。谷歌本身也表示，这项技术“无法防范极端图像篡改”。
本月早些时候，马里兰大学的研究人员发布了一篇关于他们如何破解当前技术下所有可用水印方法的方式的预印本。他们不仅能够破坏这些水印，还能够将虚假水印插入图像中，从而产生虚假阳性结果。
诸如DALL-E和Midjourney之类的服务使图像生成变得比以往更加容易，因此互联网上充斥着由AI生成的虚假内容。
马里兰大学计算机科学副教授Soheil Feizi在接受采访时表示:“在我看来，给生成模型的输出加水印不会是解决AI虚假信息问题的切实可行方案。这个问题在理论上是不可能可靠解决的。”
拜登的行政命令还要求商务部制定用于检测和跟踪网络上合成内容的标准。Adobe本月宣布已经建立了“透明度标志”，或一种视觉标记，用于帮助确定图像的出处。这个标记可以添加到在Photoshop、Premiere和最终在Microsoft的Bing中创建的图像和视频上，以显示谁拥有或创建了数据。在实际操作中，当有人将鼠标悬停在标记上时，它将显示有关图像是如何生成的信息，比如是否由AI生成。
人权组织Witness的执行主任Sam Gregory等专家表示，在规模上认证AI生成内容将需要一组类似的方法。他说:“我不指望这些方法能百分之百地奏效。我也认为它们会被恶意行为者和意外事件破解，但我们应该将它们视为一种减少危害的方式。”
然而，验证和跟踪AI生成内容也存在着自己的风险。将个人可识别信息嵌入到图像的元数据中可以帮助内容创建者拥有其产品，但这引发了有关用户隐私的新担忧。对于生活在威权统治下的讽刺漫画创作者来说，挑战他们的领导的幽默内容可能会将他们置于危险之中。
建立一个可互操作且可靠的图像认证系统需要时间。目前尚不清楚这项命令将如何影响人工智能公司，以及政府可能会实施什么规定。
（举报）
