以安全治理框架，築人工智慧未來

作者：Eve Cole 更新時間：2024-11-22 11:00:02

在科技快速發展的當下，人工智慧已成為推動社會進步的關鍵力量之一，但隨著人工智慧的應用場景不斷擴大，其面臨的安全挑戰和風險也日益複雜。 9月9日，在2024年國家網路安全宣傳週主論壇上，全國網路安全標準化技術委員會發布了《人工智慧安全治理框架》1.0版（以下簡稱《框架》），無疑為這一時代難題提供了重要的解題思路。

安全是發展的前提。模型演算法安全、資料安全、系統安全等內生風險，以及網路域、現實域、認知域、倫理域等應用安全風險，看似微小的問題，卻可能引發連鎖反應，造成嚴重影響。例如近期在韓國，深度偽造技術被用來製造虛假訊息，已經對社會秩序和個人隱私構成了威脅。顯然，面對日新月異的人工智慧技術，我們不僅需要關注技術發展本身，還要兼顧社會、倫理和法律等多方面的因素，用一個全面的框架來指導人工智慧安全治理。細看這份《框架》，分為安全風險、技術應對措施、綜合治理措施和安全開發應用指引四大板塊，不僅明確了人工智慧安全治理的基本原則，也明確了人工智慧模型演算法研發者、服務提供者、重點領域使用者和社會大眾等不同主體的安全規範，為促進人工智慧的健康發展和規範應用提供了基礎、框架性技術指南。特別值得一提的是，此次《框架》提出了「包容審慎、確保安全」的治理原則。它明確指出，鼓勵發展創新，對人工智慧研發及應用採取包容態度，同時嚴守安全底線，對危害國家安全、社會公共利益、公眾合法權益的風險及時採取措施。應該說，這既為人工智慧技術的自由探索留足了空間，也為可能的風險築起了堅固的防火牆。正如古人雲，“明者因時而變，知者隨事而製”，對人工智慧的治理同樣需要細緻入微、張弛有度。透過明確安全規範與技術標準，引導人工智慧產業健康發展，不僅有助於提升我國人工智慧產業的整體競爭力，也將為全球人工智慧的發展貢獻中國智慧和中國方案。當然，《框架》的發布只是第一步，人工智慧安全治理需要政府、企業、科學研究機構和社會大眾的共同參與。例如，政府部門應加強監管，為人工智慧的安全發展保駕護航；企業應加大技術研發投入，提高人工智慧的安全性和可靠性；科研機構應深入研究人工智慧安全問題，為解決實際問題提供智力支持；社會大眾也應增強安全意識，正確使用人工智慧產品，共同營造安全、可靠、公平、透明的人工智慧發展環境。科技以人為本。在人工智慧的浪潮中，我們既要有乘風破浪的勇氣，又要有未雨綢繆的智慧。如今，透過建立健全安全治理框架，我們顯然更有信心應對人工智慧帶來的挑戰，共同走向一個更安全、更永續的人工智慧的未來。