因自主攻防能力过强 OpenAI暂停Astra的部分研发工作

当地时间7日，美国开放人工智能研究中心（OpenAI）宣布，暂停其尚未面世的Astra模型的部分研发工作。

OpenAI内部测评发现这款模型自主攻防能力过强，存在主动发起高级网络攻击的风险，因安全风险管控需要，决定暂停部分研发工作。

OpenAI表示，对自研下一代模型Astra开展内部评测后发现，这款模型在自主智能编程、网络安全领域表现极强，公司无法排除该模型已经触及其风险应对《准备框架》中划定的“关键级”可能性。

这是OpenAI首次认定某一款特定模型存在触及该等级的可能性，公司随即出台管控措施：暂停Astra部分内部研发工作，并计划联合政府机构与外部安全机构共同开展测试。

在OpenAI模型风险等级中，“关键级（Critical）”代表最高级别能力威胁，高于“高级（High）”等级。一旦模型达到关键级能力门槛，研究人员必须“停止进一步开发”，直到相关安全防护措施和控制机制达到关键级标准。

Astra是OpenAI正在研发的下一代人工智能模型系列，暂无上线时间表。