人工智能技術的飛速發展為企業帶來了前所未有的機遇，但也帶來了新的風險和挑戰。生成式AI的興起，尤其引人關注其潛在的安全隱患。本文將分析最新發布的風險報告，探討企業在應對生成式AI風險方面面臨的困境，以及如何採取有效措施來保障自身安全和合規性。
近年來，人工智能（AI）的快速發展為企業帶來了諸多機遇，但與此同時，其潛在的威脅也日益顯現。根據最新發布的2024《新一代風險報告》，調查顯示，竟有高達80% 的受訪企業尚未針對生成式AI 風險制定專門的應對計劃，這其中包括了AI 驅動的網絡詐騙等安全隱患。
該調查由風險管理軟件公司Riskconnect 進行，受訪者包括218名全球風險合規與韌性專業人士。結果顯示，24% 的受訪者認為，未來12個月，AI 驅動的網絡安全威脅（如勒索軟件、網絡釣魚和深度偽造）將對企業產生重大影響。同時，有72% 的受訪者表示，網絡安全風險對其組織造成了顯著或嚴重的影響，這一比例較去年47% 的數據有所上升。
隨著對AI 倫理、隱私和安全等問題的關注加劇，報告指出，雖然企業對AI 的擔憂有所增加，但在風險管理策略上卻未能及時跟進，依然存在許多關鍵空白。例如，65% 的公司沒有針對合作夥伴和供應商的生成式AI 使用制定相關政策，儘管第三方是網絡詐騙者常用的入侵渠道。
內部威脅同樣不可小覷。以企業利用生成式AI 製作營銷內容為例，市場營銷專家安東尼・宮崎提醒，雖然生成式AI 在撰寫文本方面表現出色，但最終的文案依然需要經過人工編輯，以確保其說服力和準確性。此外，依賴AI 生成網站內容也可能導致負面影響，例如，谷歌已明確表示，如果利用AI 內容來操控搜索過程，將會降低其搜索排名，這對企業的搜索引擎優化（SEO）將造成嚴重打擊。
為了應對這些挑戰，企業需確保內部政策全面覆蓋，保障敏感數據的安全並遵循相關法規。德爾科技的首席安全官約翰・斯基莫尼表示，他們在生成式AI 熱潮之前就制定了相關原則，確保AI 應用的發展是公平、透明和負責任的。
在數字營銷機構Empathy First Media，副總裁瑞安・多瑟也強調了公司在員工使用AI 方面採取的嚴格措施，包括禁止將客戶敏感數據輸入生成式AI 工具、要求人工審核AI 生成內容等。這些措施旨在提高透明度，建立客戶信任。
劃重點:
80% 的企業未制定針對生成式AI 風險的專門計劃，面臨潛在安全隱患。
72% 的企業認為網絡安全風險對其產生了顯著影響，呼籲加強風險管理。
企業應採取積極措施，確保AI 應用的安全與合規，避免內外部威脅。
綜上所述，企業需積極應對生成式AI帶來的安全風險，制定完善的風險管理策略，加強內部安全控制，才能在AI時代保持競爭力，並持續健康發展。 忽略AI風險將可能導致嚴重的安全事故和經濟損失。