人工智能（AI）現時已無孔不入，企業更少不免使用大量AI應用，提升營運效率，要堵截當中的風險及漏洞，網絡監察尤其關鍵，有IT公司就表示，不少企業CEO都開始懼怕AI，專家呼籲企業要善用AI，應對人工智能帶來的挑戰。
今（24日），思科香港、澳門及華南區總經理封小韵出現「Cisco Engage Greater Bay Area」活動時表示，企業現時要面對來自AI的各種挑戰，坦言不少CEO對AI已出現「AI焦慮」，呼籲企業要做好數據底座，加強數據韌性（Digital Resilience）。「企業現時意識到，如能善用AI，將能幫助企業賺錢，因此企業亦願意投資更多，而不是一味追求便宜。」
按最新發佈的《思科2025年全球CEO人工智能調查》顯示，八成受訪CEO認同人工智能的潛在好處，大多數受訪者更計劃將人工智能融入業務營運中。惟不少CEO亦擔心自身對人工智能理解不足會影響董事會的決策（74%），甚至阻礙企業增長（58%），從而錯失良機，並在競爭中落後。
能夠直面「恐懼」的CEO將能收穫豐碩。CEO正積極運用人工智能的轉型潛力，提升效率（69%）、激發創新（68%）及領先競爭對手（54%）。然而，要充分發揮人工智能的優勢，企業必須先克服幾項主要障礙，包括人才短缺、架構限制及網絡安全風險。CEO著眼於大局，而CIO及CTO卻經常面臨營運上的挑戰，其中包括缺乏具吸引力的應用個案，這對CEO而言反而較次要。這種矛盾或許反映大多企業在人工智能應用中仍處於探索階段。82% CEO認為，要發揮人工智能的潛在好處，需在短期內進行積極嘗試，才能發掘長期價值。
現時企業多使用大型語言模型（LLM），而不法份子亦會從該AI model中找到漏洞並發動攻擊，思科大灣區首席架構師及解決方案工程總監黄兆基表示，現時企業使用AI時主要面對兩大風險：
一）Safety
當企業用戶對人工智能模型發問一些並非該模型適合回答的問題，而模型最後亦應用戶要求回答了，因為該模型本身設計並非為該類問題而設，因此答案或有偏差或有洩漏企業資料的風險。
二）Security
當用戶問及人工智能模型一些可疑的問題，如詢問如何製作炸彈，雖然正面查詢，模型會拒絕回答，但如用戶以科研或資料搜集角度查詢，AI模型仍然會給予答案，最後或會出現洩漏企業資料的情況出現。
要有效應對AI帶來的挑戰及威脅，黄兆基就列舉三部曲：
一）Discovery
掃描網絡是否有用AI模型，如ChatGPT、DeepSeek等
二）Detection
調查是否有可疑的活動，如偵查是否有用戶嘗試「jailbreak」某個AI模型
三）Protection
如發現有可疑活動，如某AI模型不斷被查詢、被訪，或遇到off topic的問題，該用戶的查詢將立即被隔絕封鎖，並立即通報。黄兆基表示，思科早前已收購Robust Intelligence公司，當中的AI功能就有Algorithmic Red Teaming，可以「jail break」大型語言模型，思科結合該技術後，可以更有效地發現類似的網絡可疑行為。
其次，思科亦推出幾款新解決方案，包括Cisco Smart Switches以及AI Defense。黄兆基表示，適用於Hypershield的思科N9300智能交換器，可在hyper distributed的環境下保護企業網絡免受威脅。N9324C- SE1U產品將於今年3月推出，高階版本的N93484Y2C6D-SE1U將於今年7月推出。
大灣區城市各有特色
現時市場都會比較粵港澳大灣區（Greater Bay Area）以及美國的灣區（Bay Area）的經濟表現，思科亦積極發展大灣區業務，自2023年已成立大灣區團隊，並成功協助客戶邁向AI就緒數據中心、打造面向未來的工作場所，以及加強數碼韌性。
其次，思科亦與數碼港簽署合作備忘錄，攜手建立人工智能實驗室；支援香港科技大學建構人工智能數據中心；以及協助香港警務處成立網絡安全特別行動小組，提升香港應對網絡威脅的能力。思科亦參與了「中美灣區對話」，重點討論共享灣區發展經濟。封小韵表示，思科於大灣區四大特色城市投資較多，如深圳的創科客戶，廣州的貿易客戶，香港的金融客戶，以及澳門的娛樂客戶，往後亦繼續發展「短、平、快」的創新方案，希望贏得客戶青睞。
Leave a comment