安全人工智能联盟（CoSAI）是一个新的行业机构，于今天在阿斯彭安全论坛上宣布成立。CoSAI 的创始首要赞助商包括谷歌、IBM、英特尔、微软、英伟达和贝宝。亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz 也是创始赞助商。
这项开源计划旨在通过开源方法、标准化框架和工具提供指导，帮助开发人员创建安全设计的人工智能系统。CoSAI 将特别关注人工智能系统的安全开发、集成、部署和运行，降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。
与其他开源社区项目类似，CoSAI 将成立一个项目理事会来推进和管理其整体技术议程，并成立一个由学术界和业界人工智能专家组成的技术指导委员会来监督其各个工作流。
CoSAI 的初期工作重点如下：
- 人工智能系统的软件供应链安全：加强组成和出处跟踪，确保人工智能应用的安全。
- 让防御者为不断变化的网络安全环境做好准备：应对人工智能和经典系统的投资和集成挑战。
- 人工智能安全治理：为人工智能安全制定最佳实践和风险评估框架。
CoSAI 理事会联合主席、谷歌公司的 David LaBianca 就 CoSAI 的成立发表了以下看法。
CoSAI 的成立源于将人工智能安全集成和部署所必需的知识和进步民主化的必要性。在 OASIS Open 的帮助下，我们期待着在领先企业、专家和学术界之间继续这项工作和合作。
CoSAI 的使命是创建一种开源的人工智能安全方法，这是在快速发展的人工智能行业中建立信任和促进负责任的发展的关键一步。CoSAI 致力于解决目前安全实践分散的问题，并提供明确的标准化指导原则，从而使开发人员和组织能够创建本质上安全的人工智能系统。
来源：CoSAI
