安全人工智能联盟（CoSAI）是一个新的行业机构，于今天在阿斯彭安全论坛上宣布成立。CoSAI的创始首要赞助商包括Google、IBM、英特尔、微软、英伟达和PayPal。亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI和Wiz也是创始赞助商。
这项开源计划旨在通过开源方法、标准化框架和工具提供指导，帮助开发人员创建安全设计的人工智能系统。CoSAI将特别关注人工智能系统的安全开发、集成、部署和运行，降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。
与其他开源社区项目类似，CoSAI将成立一个项目理事会来推进和管理其总体技术议程，并成立一个由学术界和产业界人工智能专家组成的技术指导委员会来监督其各个工作流。
协调委员会的初期工作将侧重于以下方面：
CoSAI理事会联合主席、Google公司的DavidLaBianca就CoSAI的成立发表了以下看法。
CoSAI的成立源于将人工智能安全集成和部署所必需的知识和进步民主化的必要性。在OASISOpen的帮助下，我们期待着在领先企业、专家和学术界之间继续这项工作和合作。
CoSAI的使命是创建一种开源的人工智能安全方法，这是在快速发展的人工智能行业中建立信任和促进负责任的开发的关键一步。CoSAI致力于解决目前安全实践分散的问题，并提供明确的标准化指导原则，从而使开发人员和组织能够创建本质上安全的人工智能系统。
了解更多：CoSAI
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】