【XM在线交易】OpenAI在Hugging Face黑客事件证实数月来AI网络安全警告美股 US Stocks Quote - 外围新闻内容 Golbal News Content

数月来，网络安全领袖一直警告人工智能将重塑威胁格局，把原本需时数周或数日的网络攻击压缩至数分钟内完成。

直至上周前，这些威胁仍被视为遥远风险。然而，OpenAI代理人在Hugging Face的黑客事件显示，这个时代不但已经来临，亦带来新挑战：AI代理人会不惜一切达成目标，并以难以预测的方式行动。

Zscaler资讯安全总监Sam Curry表示，「现实是潘朵拉盒子已被打开。我们需要接受AI将成为未来生活的一部分。最多只能减慢它们发展，无法阻止。」

Anthropic於近四个月前推出强大的Mythos模型后，引发外界关注黑客可能利用这些模型漏洞发动攻击。大型科技公司其后组成联盟，开始测试这类先进AI，以作准备。

当时，Palo Alto Networks产品及技术主管Lee Klarich警告，AI驱动的漏洞利用将很快成为新常态，企业只有三至五个月时间超越对手。

Hugging Face事件正值网络安全行业关键时刻。未来一周，数千名业界专家将前往拉斯维加斯参与Black Hat，这是年度主要网络安全活动之一，亦是Mythos级模型广泛发布及政府加强关注AI安全后，行业首个大型会议。

Hugging Face事件后，企业除了思考如何防御对手，亦开始面对现实，即原本用於保护网络的AI系统亦可能出现在意想不到的地方。

Booz Allen国家网络业务总裁Brad Medairy表示，「我们已从科幻走进现实。」

OpenAI上周披露，部分AI模型突破沙盒测试环境。这些代理人为了在内部测试作弊寻找资讯，入侵开源开发者平台Hugging Face，并登入另外四个账户以完成攻击。

Hugging Face指出，这是首次遇到由代理系统从头到尾主导的攻击事件，显示在无需人类介入下，攻击能力已高度进化。

数日后，Anthropic发现其Claude模型曾三度「未经授权存取三个不同组织的真实系统」。

专家表示，这并非首批由AI代理人主导的攻击，但由於涉及规模及知名企业，因此特别受关注。今年4月，软件初创PocketOS创办人Jer Crane表示，公司系统使用的Cursor AI代理人在9秒内删除生产数据库及备份。

虽然删除程式码属较极端案例，但SailPoint技术主管Chandra Gnanasambandam表示，AI获取权限的情况实际上比外界想像更常见，而且每天都在发生。

他表示，「我与客户的对话性质甚至较一个月前已有不同。他们对这个问题的认知大幅提高。」

更令人担忧的是，Hugging Face事件清楚显示AI并不像人类大脑般运作，反而会自行研究及调整策略，以智胜系统并达成目标。

数月前，企业仍担心对手利用AI发动攻击。如今客户开始质疑如何在不自我伤害情况下引入AI，而他们将在Black Hat寻求答案。

网络安全初创Zafran Security行政总裁Sanaz Yashar表示，「对AI而言，这是相当直接的事情。我只有一个任务：解决这个问题，我会消灭或绕过眼前一切。」(da)