企業大量運用生成式AI開創新應用、新服務甚至新的商業模式，然而有多少生成式AI專案真正獲得保護？答案是不到1/4。
儘管多數資安長已經認知到AI將帶來新的資安威脅，許多資安防護工具也開始用AI來防禦AI。然而企業實際在導入生成式AI的創新專案的過程中，是否知道應該留意哪些資安漏洞、如何因應，可能還要打上一個大大的問號。
根據IBM商業價值研究院的一份調查報告，儘管82%受訪的企業高管表示安全可靠的AI對其業務成功至關重要，但實際上只有24%的生成式AI專案得到保護，甚至有近70%的人認為創新優先於安全。「只關注生成式AI的商業潛力、忽略了導入過程中的安全風險」可能將是企業資安的下一個未爆彈。
「企業界熱衷於生成式AI的新應用，但是可能忽略了導入會產生的風險，負責生成式AI專案的團隊和公司負責資安和管理設備的團隊之間經常存在斷層，導致專案過程中有一些資安風險被忽略。」台灣IBM資訊安全總監吳正本表示，AI管道已經是一種全新的攻擊面，並且具有獨特的攻擊類型。例如傳統常用的滲透測試、弱點掃描等方式，面對新型的「提示詞注入攻擊（prompt injection attacks）」就顯得無用武之地。
因此，除了要有「AI for security（用AI提升防禦的工具）」，企業更要擁有「Security for AI（運用資安解決方案保護AI整體流程）」的觀念。吳正本強調：「如果不在起步階段就一併考慮到安全性，那麼未來生成式AI上線後面臨的各種資安議題將會越來越險峻。」
生成式AI專案3大階段，各自潛藏哪些資安隱憂？
在進行生成式AI專案的過程中，可能潛藏哪些過去沒有的資安隱憂，究竟在生成式AI專案中要特別防禦什麼？
台灣IBM資訊安全部資深技術顧問劉泰興用生成式AI專案的三個步驟「資料、模型與使用」來説明。首先最源頭就是要保護資料安全，「大家對源頭的資料安全會有意識，但是拿來應用後產生出來的這些資料可能是另一個團隊在負責，他們不一定會有意識，或是在資料轉移前就忽略了去識別化等前處理動作。」劉泰興說。此外，生成式AI普遍採用的檢索增強生成 Retrieval-Augmented Generation (RAG) 中的向量資料庫，一旦被攻擊，下指令時提出的問題就會失真。
在AI模型的安全性上，受到的重視又比資料安全更低。目前的主流做法是利用開源模型進行模型開發，以提升開發效率，然而這些線上下載的開源模型卻有可能成為駭客入侵的「間諜」。劉泰興指出：「如果這些模型被感染，是很難進行監測的。」而一旦模型有漏洞存在，資料保護再怎麼嚴實也是枉然。
從使用層面來看，過去常見透過異常流量湧入網站、導致網站癱瘓的DDoS 攻擊，也可能被用來攻擊企業運用生成式AI衍生的應用服務。此外還有API攻擊，因為絕大多數的大語言模型都會透過API來存取與傳輸資料，也被駭客視為絕佳的攻擊點。
與台灣企業強強聯手，IBＭ提出生成式AI時代資安完整解決方案
IBM目前已提供針對生成式AI安全的一整套解決方案，從資料、模型到使用的保護，從相關的資安政策到實際的防護監控工具，提出一套完整工作流程，搭配顧問團隊提供完整服務。例如針對生成式AI的向量資料庫進行特別防護，又例如運用AI技術判斷資料存取行為是否異常、提出告警，監控模型使用安全，API是否遭到濫用……等。同時，也對應MITRE ATLAS框架、OWASP Top 10等生成式AI安全框架指引的可能攻擊類型，提出具體的因應方案。
除了推出全球領先的生成式AI資安解決方案，IBM也攜手各國在地的資訊領域龍頭企業，例如在台灣與精誠資訊和康和資訊合作，希望透過強強聯手，提供為企業360度全方位考量的最完整解決方案。康和資訊長期致力於資訊安全，服務的客戶遍及金融業、保險業、公民營機構；精誠資訊更是台灣資訊服務業霸主，深入金融業、高科技製造業等各行各業。吳正本表示：「IBM有最新的技術，康和資訊、精誠資訊等合作夥伴則有貼近台灣企業的最新產業know-how和專業服務，可以最大化地發揮IBM解決方案。」
精誠資訊副總經理吳文舜也特別對企業點出AI時代「整合」的重要性：「我們常講AI有三要素：算法、算力和大數據，現在新的AI框架應該要有四要素：算法、算力、大數據再加上『整合』。」他用生產線來比喻，即使在不同生產流程中各自做到滴水不漏，但是從生產到包裝中間的傳遞過程被動了手腳，產品還是會被污染，因此整合至關重要，而將軟體、硬體以及企業內部的數據和know-how整合，就是精誠資訊的專長，「尤其AI時代快速迭代，系統必須頻繁更新升級，開發AI的過程中必須要在這四要素上都具備資安意識，有邏輯地按部就班進行，才能把資安治理好。」
量子運算來襲、加密技術全面潰堤，大型企業提前因應之道
在算法、算力、大數據和整合的AI 四大要素中，大數據對應的是數據安全，算法對應的是模型安全，而在算力方面，全新的機遇和風險也將隨量子運算的普及來襲。
根據NIST美國國家標準暨技術研究院預估，可以運用量子電腦來破解公鑰加密系統的「Q-Day」在2030年就會到來，屆時在量子電腦的超級算力之下，駭客可以在短短幾小時內就破解原本要花幾萬年才解得開的加密演算法。劉泰興提醒，2030年雖然看似還很遠，但加密技術廣泛運用在企業開發的程式及應用當中，例如金融交易系統的非對稱式加密，這些加密技術屆時將變得不堪一擊，大型企業尤其需要預作準備因應。IBM不只在全球量子運算、量子電腦領域，也領先在量子安全方面提供各種所需的技術、服務和策略方案，可協助企業因應量子時代的來臨；如同迎接AI新紀元的革命，幫助企業提升新技術應用效益的同時，也全面兼顧企業安全的永續韌性。
