人工智能

OpenAI承认o1推理模型将增加制造生物武器风险

字号+作者: 来源:凤凰网科技 2024-09-14 09:10 评论(创建话题) 收藏成功收藏本文

OpenAI承认,其最新AI推理模型o1“显著”增加了AI被滥用于制造生物武器的风险。OpenAI的系统卡是一种解释AI如何运作的工具。该工具表示,新模型对化学武器'...

OpenAI承认,其最新AI推理模型o1“显著”增加了AI被滥用于制造生物武器的风险。OpenAI的系统卡是一种解释AI如何运作的工具。该工具表示,新模型对化学武器、生物武器、放射性武器和核武器(CBRN)相关问题的风险为“中等”,这是OpenAI有史以来给出的最高风险。SIC品论天涯网

OpenAI表示,这意味着该模型“显著提高了”专家制造生物武器的能力。SIC品论天涯网

SIC品论天涯网

专家称,如果具备更先进功能的AI软件落在危险分子手中,这会带来更高的滥用风险。例如,o1模型就具备了逐步推理能力。SIC品论天涯网

OpenAI首席技术官米拉·穆拉蒂(MiraMurati)向英国《金融时报》表示,由于o1模型具备了先进功能,该公司在向公众推出它时特别“谨慎”。她补充说,这个模型已经被所谓的“红队”(各个科学领域的专家)测试过。穆拉蒂表示,o1模型在整体安全指标上的表现远远好于之前的模型。SIC品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]