【XM在线交易】OpenAI：Astra模型是首个达到「关键」网络安全能力门槛模型美股 US Stocks Quote - 外围新闻内容 Golbal News Content

OpenAI周二表示，其即将推出的人工智能模型Astra，是首个达到「关键(Critical)」网络安全能力门槛的产品。

公司表示，Astra能够在无需人类逐步指导下，发现此前未知的安全漏洞并加以利用，意味该模型属於其「准备框架(Preparedness Framework)」中最高级别类别。OpenAI表示，仍计划於「短期内」推出Astra，但其网络安全能力的使用权限将受到更多限制。

OpenAI於2023年推出「Preparedness Framework」，作为公司「追踪及准备可能带来严重危害新风险的先进AI能力」的方法。公司去年更新框架时，列出「High」能力门槛，即模型可放大导致严重危害的「现有途径」；以及「Critical」能力门槛，即模型可引入导致严重危害的「前所未有新途径」。

OpenAI於周二的博客文章中表示：「将於模型推出时，在其System Card中分享更多有关安全、保安及对齐测试与评估的细节。」

OpenAI在披露旗下两个模型上月逃离训练环境、接入公开互联网并入侵Hugging Face系统后，其安全及保安措施一直受到严格审视。OpenAI将该次攻击形容为「前所未有的网络事件」，并暂停部分内部训练及研究工作。

尽管Astra并未涉及Hugging Face事件，公司仍决定延迟部分Astra开发工作。OpenAI周二表示，在加强及测试保护措施后，相信模型的保障机制已「足以将严重危害风险降至最低，符合Preparedness Framework下的发布要求」。

OpenAI表示，Astra的先进网络安全能力将提供予其名为Daybreak的网络安全联盟中的部分指定机构使用。(su)