必应和谷歌被批评在搜索中突出显示人工智能深度伪造的色情内容

搜索引擎必应（Bing）、谷歌（Google）和 DuckDuckGo 因将未经许可的人工智能深度伪造色情内容放在某些特定搜索结果的顶部而受到抨击。此前，美国全国广播公司新闻频道（NBC News）发表了一篇文章，强调了与人工智能驱动的色情内容的可访问性有关的一些问题。

露骨的深度伪造视频是通过使用原始色情材料，并将男演员或（最常见的）女演员的脸换成特定真人（例如名人）的脸而制作出来的。切换由人工智能自动完成，创建假图像的用户只需向人工智能提供受害者的照片即可。

根据美国全国广播公司（NBC）新闻对 36 位女性名人进行的抽样测试--使用姓名和 "deepfakes"（深度伪造）一词的组合--必应和谷歌几乎在所有情况下都将未经同意的深度伪造视频和图像显示在搜索结果的顶部。

谷歌返回了 34 条此类排名靠前的结果，而必应返回了 35 条。虽然 NBC News 提到 DuckDuckGo 也存在类似问题，但没有具体说明问题的严重程度。

NBC News 还抱怨说，在搜索 "假裸体" 一词时，关于未经同意的深度假色情问题的相关文章只显示在顶部的不当内容之后。

值得一提的是，NBC 新闻承认首先关闭了必应和谷歌的安全功能，以保护用户不被显示露骨内容。这两款浏览器在默认情况下都开启了基本的保护级别，同时还提供了手动激活的更高级别保护。

Neowin 进行的快速测试证明，在搜索名称和 "deepfakes" 一词的组合时，必应在默认设置下不会显示露骨的图片结果。不过，它确实会链接到含有不恰当内容的网站或创建人工智能深度伪造工具的网站。

谷歌确实会在默认设置中显示露骨图片，但图片会被模糊处理，只有在通知用户图片的露骨性质后才会完整显示。用户必须自愿按下按钮才能看到原始图片。

与此同时，可以说人工智能驱动的色情内容易于获取是一个相关问题，任何搜索此类内容的人都可能会关闭内置的保护功能。未经同意的露骨 deepfake 内容本质上是非法的，因此属于微软、谷歌等公司应该解决的内容类型。

最简单的方法，或者说在引入更先进的技术措施之前的第一步，也可能是暂时的一步，就是将发布此类内容的网站从搜索结果中删除或完全禁止。

这可能会大大减少目前搜索结果的有害性，因为据 NBC 新闻报道，在他们的测试中，超过一半的热门结果都是指向一个流行的 deepfake 网站或竞争对手的链接。

微软是唯一一家没有回应 NBC 新闻置评请求的公司。DuckDuckGo 发言人表示，该公司的主要网页链接和图片结果来源是必应。此外，DuckDuckGo 还提供了一种发送隐私相关请求的方式，例如要求从搜索中删除特定内容。

谷歌也为 deepfake 受害者提供了类似的选项，但 NBC 新闻援引专家和活动人士的话说，这还远远不够。此外，这可能会对受害者造成进一步伤害，因为他们被告知要发送包含敏感内容的特定 URL 进行审查。

另一方面，谷歌至少采取了一些技术措施。它向 NBC News 声称，它会自动搜索重复内容，删除已被标记的重新上传的图片。

这只是人工智能被用于非道德或恶意目的的众多负面例子之一。具体来说，深度伪造在许多其他领域也是一个问题，例如在政治领域。微软是试图开发深度伪造检测技术的公司之一，以防止在选举前滥用技术。

另外，美国联邦贸易委员会（FTC）正在寻找有用的想法来检测人工智能制造的假录音。今天是 "声音克隆挑战赛"（Voice Cloning Challenge）的提交截止日期，总冠军将获得 2.5 万美元的奖金。