近日，站長之家報告了一項關於超級人工智慧潛在風險的調查結果，引發了廣泛關注。這項調查揭示了AI研究者對超級人工智慧潛在風險的擔憂，尤其關注其可能導致人類滅絕的微小但真實存在的可能性。調查結果也顯示，研究者對AI技術發展速度和未來社會影響存在分歧和不確定性，對AI技術被惡意利用的風險，例如深度偽造、操縱輿論和製造武器等，表達了強烈的擔憂。
站長之家報道，AI研究者普遍擔憂超級人工智慧的發展可能存在微不足道但非常小的導致人類滅絕的風險。在最大規模的AI研究者調查中，約58%的研究者認為有5%的機率導致人類滅絕或其他極端糟糕的AI相關結果。調查也顯示，AI研究者對未來AI技術里程碑的時間表存在廣泛分歧，同時對AI驅動可能帶來的社會後果感到不確定。此外，研究者對深度偽造、操縱公眾輿論、製造武器等由AI驅動的情境有迫切擔憂。
總而言之，這項調查結果提醒我們，在享受AI技術進步帶來的便利的同時，必須高度重視其潛在風險，積極探索有效的風險管控機制，確保AI技術能夠安全、可持續地發展，造福人類。