貫徹落實《全球人工智慧治理倡議》,網安標委研究制定了《人工智慧安全治理架構》(以下簡稱《框架》)。 《框架》以鼓勵人工智慧創新發展為第一要務,以有效防範解人工智慧安全風險為出發點和落腳點,提出了包容審慎、確保安全,風險導向、敏捷治理,技管結合、協同應對,開放合作、共治共享等人工智慧安全治理的原則。 《框架》依照風險管理的概念,緊密結合人工智慧技術特性,分析人工智慧風險來源和表現形式,針對模型演算法安全、資料安全和系統安全等內生安全風險和網路域、現實域、認知域、倫理域等應用安全風險,提出相應技術應對及綜合防治措施,以及人工智慧安全開發應用指引。
網安標委秘書處主要負責人表示,《框架》1.0版的發布,對推動社會各方積極參與、協同推進人工智慧安全治理具有重要促進作用,為培育安全、可靠、公平、透明的人工智慧科技研發和應用生態,促進人工智慧的健康發展和規範應用,提供了基礎性、框架性技術指南。同時,也有助於全球推動人工智慧安全治理國際合作,推動形成具有廣泛共識的全球人工智慧治理體系,確保人工智慧技術造福人類。