AI防禦｜Cisco推新人工智能防禦方案    防止黑客利用prompt竊取企業機密資料

生成式AI如ChatGPT，相信已經為人所熟悉，企業人員的使用頻率愈來愈高，其安全漏洞亦讓黑客有機可乘，Cisco（思科）近日宣布將推出思科人工智能防禦方案（Cisco AI Defense），協助企業應對黑客日益多元化的網絡攻擊，方案將於3月正式推出。

據了解，該新方案專為企業打造，助他們安心開發、部署和保護人工智能應用程式。思科執行副總裁暨首席產品總監 Jeetu Patel 表示，商業環境競爭激烈且充滿變化，速度決定勝負，惟企業在使用人工智能時，不可僅為追求速度而犧牲安全。他舉例，現時企業員工都喜歡使用生成式AI，如ChatGPT，但輸入prompt時，或會讓AI洩漏客戶機密資料，而新推出的思科新人工智能防禦方案，就可以立刻讓管理人員的後台版面清楚了解，哪個企業應用了甚麼AI，現時正執行甚麼任務，並能設定限制，預防AI模型被prompt時洩漏企業機密資料。

使用「思科人工智能防禦」的 Splunk 客戶將收到來自整個生態系統，包含附加背景的增強警報。方案內建於思科安全雲端中，即由人 工智能驅動的統一跨域安全平台，可與現有數據整合。方案可藉助思科廣泛的執行點網絡，於網絡層面實現人工智能的安全執行。

由於該應用會掃描企業系統，當中只需幾毫秒便可完成，不會對企業應用運作造成延遲。新方案將於3月正式推出，此前亦會開放予某些客戶作先導測試。