網絡攻擊無孔不入，就連現時普及使用的人工智能亦難逃厄運，近日網絡安全平台供應商 Check Point近日發現有AI代理被操控的跡象，而黑客亦以惡意軟件入侵遊戲Minecraft。
Minecraft遭惡意軟件攻擊
Minecraft 為全球歡迎的電腦遊戲，亦有不少在教育上的應用，每月活躍玩家數目就超過2億。Check Point Research 發現有惡意軟件存儲庫正透過黑客帳戶網絡「Stargazers Ghost Network」發動攻擊，並已形成針對Minecraft玩家的多段攻擊鏈。該帳戶網絡會將惡意軟件偽裝成「Oringo」及「Taunahi」等遊戲外掛工具對外發放。玩家一旦下載並安裝偽裝成Minecraft模組的惡意軟件，當啟動遊戲時，模組便會自動下載第二階段盜竊程式，並進一步下載 .NET 盜竊程式，形成連環攻擊。
該新型 Java 惡意軟件下載器因缺少某些必要項目，因此能在運行時逃避沙盒分析，長期潛伏而未被偵測。據悉，黑客帳戶網絡「Stargazers Ghost Network」一直針對希望加強遊戲功能的 Minecraft 玩家積極散佈該惡意軟件。這些看似無害的下載檔案實際上是基於Java開發的惡意載入器，會在用戶毫不知情的情況下部署兩個附加盜竊程式，盜取玩家的登入憑證和其他敏感資料。
AI代理被操控！
理論上，Microsoft Copilot 並沒有被傳統方式入侵，過程中沒有惡意軟件、釣魚連結、或惡意代碼，用戶亦無需點擊任何內容或部署任何程式。
黑客只需提出要求，Microsoft 365 Copilot 便按照它的設計功能執行任務。在「Echoleak」攻擊事件中，Copilot 被人以精心設計的提示操控。該事件標誌攻擊媒介從程式碼轉向了對話交流，亦引伸出多重關鍵思考，例如，為何人工智能系統容易受到此類攻擊、未來可能會出現何種類似情況、現行防護措施存在哪些局限、以及我們應採取哪些行動應對這一新威脅等。
大型語言模型（LLM）的智能代理在企業間愈益普及。黑客可透過精心構造、表面看似無害的指令，誘使系統執行敏感操作，從而構成安全威脅。該攻擊無需依賴惡意軟件或竊取登錄憑證，而是透過精心設計的提示注入（prompt injection）攻擊，結合含糊的語言來達成，包括：
- 混雜多種程式語言的代碼片段
- 冷門文件格式或嵌入式格式指令
- 非英語語系內容
- 難以識別為惡意的多步驟連環指令
正因 LLM 被訓練成能理解以上所有內容，攻擊者植入的「提示」本身便能成為有效負載（payload）。
Check Point建議企業：
- 權限審查：明確掌握 AI 代理可存取或觸發的系統範圍
- 限制權限：將代理視為不能完全信賴的實習生，而非系統管理員
- 完整日誌記錄：全程追蹤提示指令、執行動作及所生成的結果
- 壓力測試提示：使用模糊與對抗性輸入測試代理防禦能力
- 繞防預案：預設攻擊者將突破監控機制，制定應對方案
- 安全整合：建立管控流程，確保 LLM 系統為企業創造價值，而非成為黑客入侵工具
為降低相關風險，企業應在部署 AI 系統前進行全面的內部研究，深入了解其運作機制，隨後進行詳細的威脅與風險分析，過程中應包含紅隊與藍隊的模擬攻防測試，並邀請熟悉 LLM 行為與架構的專家參與評估。
Leave a comment