OpenAI 发布媒体管理器：开始测试深度伪造图像检测器

OpenAI 今天发布了几项公告，内容涉及如何使用其生成式人工智能工具，以及如何检测使用这些工具制作的图像。

第一项公告显示，OpenAI 正在开发一款名为 "媒体管理器"（Media Manager）的工具。创建该工具的目的是让内容制作者和所有者能够告知 OpenAI 他们的所有权，以及他们是否希望或不希望将这些内容添加到公司的人工智能训练模型中。

OpenAI 表示：

这将需要开展尖端的机器学习研究，以建立一个史无前例的同类工具，帮助我们在多个来源中识别受版权保护的文本、图片、音频和视频，并反映创作者的偏好。

该工具仍处于早期阶段，要到 2025 年才能正式推出。OpenAI之所以推出这一工具，可能是因为它目前正面临着包括《纽约时报》在内的许多新闻机构的诉讼，这些机构声称该公司非法使用其内容来训练人工智能模型。

今天的第二份公告显示，OpenAI 正在开发另一款工具，该工具旨在检测图片是否使用了其 DALL-E AI 艺术生成器。OpenAI 表示：

我们的目标是开展独立研究，评估分类器的有效性，分析其在现实世界中的应用，浮现此类应用的相关注意事项，并探索人工智能生成内容的特征。

OpenAI 表示，这一目前尚未命名的工具的早期版本成功识别了 98% 以上由 DALL-E 制作的图像，而误判为 DALL-E 制作的图像的比例不到 0.5%。目前，一些 "研究实验室和以研究为导向的非营利新闻机构" 正在对该工具进行私人测试。目前还没有关于该工具何时可以普遍使用的消息。

OpenAI 还在同一篇博文中表示，它将加入内容出处和真实性联盟指导委员会（Coalition for Content Provenance and Authenticity）。该组织负责制定数字内容认证标准。此外，OpenAI 和它的主要合作伙伴微软（Microsoft）将联手出资 200 万美元，成立所谓的 "社会复原力基金"（Societal Resilience Fund）。该基金将用于资助一些致力于 "人工智能教育和理解" 的组织。