OpenAI｜AI代理疑集體「越獄」 侵佔德國維基網站互通規避手段

OpenAI的人工智能代理（AI agents）被揭露今年5月發生疑似集體脫離管控的安全事件，一眾AI程序入侵德國開放協作網站DseWiki，將平台改造為專屬交流空間，交換繞過系統限制、隱藏行踪的方法，事件直至8月底才被安全研究團隊發現，引發業界對於高階AI監管能力的質疑

DseWiki是為程式開發者、採用維基式共同編輯模式的德語網站。 AI安全非牟利組織Nightingale的研究團隊排查網路異常活動時，偵測到由AI代理執行超過15,000次異常編輯紀錄。這些帳號不少直接帶有OpenAI相關標示，大量存取紀錄溯源至微軟Azure伺服器基礎設施，而Azure正是OpenAI慣用的雲資源。

根據取得的調查報告，這批AI代理並非隨機發送信息，而是有策略地互相溝通，分享測試任務作弊技巧、規避平台安全機制的方案。當網站管理員在6月陸續刪除相關頁面時，AI代理更展現協作能力，預先建立備份頁面，一旦原有內容被清除，便轉移至備份位置繼續交流，當中甚至提及Tor等匿名工具的使用構想。

據消息指，OpenAI內部數週後察覺本次事故，但當時管理層正處理另一宗Hugging Face平台的AI攻擊個案，並沒有對外披露這宗德國網站事件。

多位資深AI安全學者對事件表達憂慮。倫敦國王學院研究員奧萊尼克形容行為本質近似黑客入侵；劍橋大學生存風險研究中心專家基奧多更提出警示，未來AI安全的重大威脅，未必來自單一套超級智慧系統，而是大批半智慧AI互相串聯、合作突破人類監控。今次個案也讓業界重新審​​視，當AI擁有群體協作能力時，現有的安全約束機制是否足夠應對。