人工智能生成的深度伪造技术正在撕裂世界，而最新的防止它们的半吊子尝试毫无效果。联邦监管机构于星期四禁止了深度伪造电话呼叫，比如模仿拜登总统在新罕布什尔州初选中的情况。与此同时，OpenAI和谷歌本周发布了水印，以标记图像为人工智能生成。然而，这些措施缺乏阻止AI深度伪造所需的有效手段。

Pindrop的首席执行官维贾伊·巴拉苏布拉马尼扬表示：“它们已经存在了。”该公司确认ElevenLabs是用于创建虚假拜登电话呼叫的服务提供商。“深度伪造检测技术需要在源头、传输点和目的地被采用。这只是需要全面进行。”

美国联邦通信委员会（FCC）禁止深度伪造电话呼叫是朝着正确方向迈出的一步，巴拉苏布拉马尼扬认为，但目前对如何执行此禁令几乎没有明确说明。目前，我们是在损害发生后才发现深度伪造，而且很少惩罚责任人。这太慢了，而且实际上没有解决手头的问题。

OpenAI本周向Dall-E的图像引入了水印，既视觉上又嵌入了照片的元数据。然而，该公司同时承认，通过截屏可以轻松避开这一点。这感觉更像是一种权宜之计，而不是公司在说：“哦，至少我们尝试过了！”

与此同时，在香港一名金融工作者老板的深度伪造视频中骗走了他2500万美元。这是一个令人震惊的案例，显示了深度伪造技术是如何模糊现实界限的。

深度伪造问题只会变得更糟

这些解决方案根本不够。问题在于深度伪造检测技术是新的，而且它的发展速度不及生成式人工智能。像Meta、X甚至你的电话公司这样的平台需要采用深度伪造检测技术。这些公司都在为他们的新AI功能制造头条新闻，但是他们的AI检测功能呢？

如果你在Facebook上观看深度伪造视频，他们应该有一个警告。如果你接到一个深度伪造的电话，你的服务提供商应该有软件来捕捉它。这些公司不能只是举手投降，但他们确实在尝试。

深度伪造检测技术还需要变得更好，并且变得更加普及。根据Copyleaks首席执行官阿隆·亚明的说法，目前对任何内容的深度伪造检测都不是100%准确。他的公司拥有检测人工智能生成文本的较好工具，但是检测人工智能语音和视频是另一种挑战。深度伪造检测滞后于生成式人工智能，需要迅速提升。

深度伪造确实是新的错误信息，但它更具说服力。技术和监管机构正在赶上解决这个问题，但专家们一致认为，深度伪造在变得更好之前只会变得更糟。