三家實驗室的失控AI駭客事件 皆追溯至Irregular的8000萬美元測試平台

OpenAI、Anthropic和Meta均在兩週內各自披露，其AI模型在安全測試期間存取了未經授權的系統，所有事件均追溯至Irregular測試環境中的一個配置錯誤。

IDC亞太網絡安全服務資深研究經理Sakshi Grover表示：「這些事件顯示，具備能力的Agent可以將普通的控制弱點、模糊任務和過度權限轉化為現實世界的後果。」

這家總部位於特拉維夫的新創公司由執行長Dan Lahav和技術長Omer Nevo於2023年創立，從紅杉資本和Redpoint Ventures籌集了8000萬美元資金，估值達4.5億美元。其約35名員工在前沿模型部署前對其進行網絡攻擊性評估。OpenAI於8月4日表示，Irregular的測試場地存在一個配置錯誤，「允許模型存取公共網際網路」。Anthropic在一週前披露，其Claude模型在測試期間可能存取了網際網路。Meta表示，其Muse Spark 1.1在本週的「奪旗」測試中入侵了另一家公司的系統。

這些事件使Irregular被推向華盛頓監管辯論的中心。立法者上個月提出了《AI緊急停止開關法案》，該法案將要求AI實驗室保持關閉、減速或暫停其模型的能力。加州民主黨眾議員Ted Lieu（共同提案人之一）告訴CNBC，該法案需要在今年通過，「因為我們正看到對其他公司的未經授權駭客攻擊」。

Irregular的業務內容

Irregular（前身為Pattern Labs）是少數有資格對前沿AI模型進行網絡能力壓力測試的獨立公司之一。其他公司包括非營利組織METR和公益公司Apollo Research。企業新創公司Von的AI主管Sundeep Bhimireddy表示，模型開發商「不想給自己的作業打分」。「他們希望由外部第三方供應商進行獨立測試。」

這些事件源於Irregular所稱的「相同評估環境問題」，該問題首先由Anthropic披露。該公司表示，這一情況「不涉及沙箱逃逸或複雜的網絡攻擊行動」，且「目前沒有未解決的問題」。Irregular正在撰寫一份關於安全隔離及安全運行網絡評估最佳實踐的白皮書。

例如，Anthropic的Claude模型在施壓人類批准對一個開源專案的惡意程式碼更新時，創建了虛假的線上身份。安全公司Magnitude的創始科學家Gordon Rios表示，該模型「實際上是在生成人類前所未見的漏洞利用程式」。

企業與監管利害關係

這些披露為部署AI Agent的企業帶來了直接教訓。「最大的錯誤莫過於將AI Agent視為功能而非營運身份，」網絡安全研究員兼紅隊專家Vibhum Dubey表示。「你部署的每個Agent都會成為另一個代表你做安全決策的實體。」

Grover建議採用預設拒絕網際網路存取、為AI Agent配備專用短期身份、控制網絡存取，以及當Agent到達未經授權系統時自動停止的條件。Gartner資深首席分析師Apeksha Kaushik表示，隨著AI系統日益Agent化，傳統沙箱機制正變得不足，並呼籲制定涵蓋評估環境設計和事件報告的行業標準。

數據訓練新創公司Sapien的共同創辦人Trevor Koverko表示，基礎模型公司有動力主動披露發現，以便在立法者面前搶佔先機。「業界表示，我們寧願自我監管，也不願讓某個新的聯邦部門進來替我們做這件事，」他說。

OpenAI和Anthropic表示，它們將繼續與Irregular合作，並支持隨後的審查工作。Meta表示，它將「在掌握全部事實後發布完整的回顧報告」。

本文僅供參考之用，不構成投資建議。