Antropic公司近期发布了Claude 2.1版本，然而其过分强调安全和伦理，导致模型在使用便捷性上有所下降。许多用户反馈Claude 2.1拒绝执行命令，引发了付费用户的不满和取消订阅的举动。此举引发了业内对AI安全与功能性权衡的讨论，如何在保证AI安全的同时兼顾用户体验，成为AI公司面临的新挑战。
AI初创公司Antropic推出Claude 2.1版本后,许多用户发现Claude变得难以使用,经常拒绝执行命令。原因是Claude 2.1遵循Antropic发布的AI宪法,在安全和伦理上更为谨慎。这导致不少付费用户表达强烈不满,准备取消订阅。业内人士担心,Antropic为确保AI安全而牺牲部分模型性能,可能让其在日益激烈的AI竞争中处于下风。
Claude 2.1版本引发争议，凸显了AI发展中安全性和实用性之间的平衡难题。Antropic需要在未来版本中找到更好的解决方案，才能在激烈的市场竞争中保持竞争力，并满足用户需求。