近日，站长之家报道了一项关于超级人工智能潜在风险的调查结果，引发了广泛关注。这项调查揭示了AI研究者们对超级人工智能潜在风险的担忧，尤其关注其可能导致人类灭绝的微小但真实存在的可能性。调查结果也显示，研究者们对AI技术发展速度和未来社会影响存在分歧和不确定性，对AI技术被恶意利用的风险，例如深度伪造、操纵舆论和制造武器等，表达了强烈的担忧。
站长之家报道，AI研究者普遍担忧超级人工智能的发展可能存在微不足道但非常小的导致人类灭绝的风险。在最大规模的AI研究者调查中，约58%的研究者认为有5%的概率导致人类灭绝或其他极端糟糕的AI相关结果。调查还显示，AI研究者对未来AI技术里程碑的时间表存在广泛分歧，同时对由AI驱动可能带来的社会后果感到不确定。此外，研究者对深度伪造、操纵公众舆论、制造武器等由AI驱动的情境存在紧迫担忧。
总而言之，这项调查结果提醒我们，在享受AI技术进步带来的便利的同时，必须高度重视其潜在风险，积极探索有效的风险管控机制，确保AI技术能够安全、可持续地发展，造福人类。