价值190亿美元的AI初创公司Anthropic的CEO Dario Amodei近日在旧金山AI大会上就人工智能发展风险发表演讲，引发热议。他与风险投资人Marc Andreessen就AI风险的观点存在显著差异，Amodei认为将AI简单化归为“数学”是逻辑谬误，并批评某些人对AI风险的轻视。 他认为虽然当前AI模型威胁有限，但AI技术快速发展，特别是自主执行命令的AI代理出现后，潜在风险不容忽视，需要建立更好的控制机制。 这引发了关于AI安全与监管的深度讨论。
价值190亿美元的AI初创公司Anthropic的CEO Dario Amodei在周三旧金山AI大会上，就人工智能发展风险问题发表了引人深思的见解。虽然他认为目前的AI模型并不会给人类带来即刻威胁，但他对一些同行过于轻视AI风险的论调提出了尖锐批评。
针对著名风险投资人Marc Andreessen的观点，Amodei展开了独到的分析。Andreessen曾在今年三月发推文称"限制AI就等同于限制数学、软件和芯片"，并将AI简单归结为"数学"。对此，Amodei指出这种逻辑存在根本性缺陷。"如果用这种逻辑，人类大脑不也是数学吗?神经元的放电和计算同样是数学。按照这种说法，我们甚至不应该害怕希特勒，因为那也只是数学。整个宇宙都可以被简化为数学。"
作为OpenAI前副总裁，Amodei于2021年离职创立了Anthropic。他属于那些公开警示AI潜在风险的科技高管群体，支持对AI行业进行适度监管。事实上，Anthropic还曾支持过一项加州AI监管法案，尽管该法案最终被否决。
与之形成鲜明对比的是投资了包括OpenAI和Xai在内多家AI公司的Andreessen。他坚持主张AI技术应该不受约束地发展，甚至将AI安全警示派称为"邪教"，并认为对AI的监管将导致"新的极权主义"。
尽管Amodei承认当前的AI模型"不够智能，也不够自主"，不会对人类构成严重威胁，但他强调AI技术正在快速进化。特别是随着能够自主执行人类命令的AI"代理"的出现，公众将更深入地认识到AI的能力及其潜在危害。
"现在人们可能会对聊天机器人的一些不可预测行为一笑了之，"Amodei说，"但对于未来的AI代理，我们必须建立更好的控制机制。"
这场争论不仅反映了AI界对安全问题的分歧，也凸显出在AI快速发展的当下，如何在创新与监管之间找到平衡点的重要性。在技术突飞猛进的同时，理性评估和防范潜在风险，将是确保AI健康发展的关键。
Amodei的观点引发了对AI未来发展方向的深入思考，也提醒我们需在AI技术高速发展的同时，重视潜在风险，寻求创新与监管的平衡，确保AI造福人类。