190억 달러 규모의 AI 스타트업 Anthropic의 Dario Amodei CEO는 최근 샌프란시스코 AI 컨퍼런스에서 인공지능 개발의 위험성에 대해 연설해 열띤 토론을 촉발했습니다. 그와 벤처 자본가 Marc Andreessen은 AI 위험에 대한 견해에 상당한 차이가 있습니다. Amodei는 AI를 "수학"으로 단순화하는 것이 논리적 오류라고 믿고 AI 위험을 경시하는 일부 사람들을 비판합니다. 그는 현재 AI 모델에 대한 위협은 제한적이지만 AI 기술의 급속한 발전, 특히 자율적으로 명령을 실행하는 AI 에이전트의 등장으로 인해 잠재적인 위험을 무시할 수 없으며 더 나은 제어 메커니즘을 구축해야 한다고 믿습니다. 이로 인해 AI 안전과 규제에 대한 심도 있는 논의가 촉발되었습니다.
190억 달러 규모의 AI 스타트업인 Anthropic의 CEO인 Dario Amodei는 수요일 샌프란시스코 AI 컨퍼런스에서 인공 지능 개발의 위험에 대해 시사점을 주는 통찰력을 제공했습니다. 그는 현재의 AI 모델이 인류에게 즉각적인 위협을 가하지 않는다고 믿지만 일부 동료들이 AI의 위험성을 지나치게 경시한다고 날카롭게 비판해 왔습니다.
Amodei는 유명한 벤처 투자가인 Marc Andreessen의 견해를 바탕으로 독특한 분석을 시작했습니다. 안드레센은 올해 3월 트위터를 통해 "AI를 제한하는 것은 수학, 소프트웨어, 칩을 제한하는 것과 같다"고 말하며 단순히 AI를 "수학"에 돌렸다. 이에 대해 아모데이는 이 논리에 근본적으로 결함이 있다고 지적했다. "이 논리를 사용하면 인간의 두뇌도 수학이 아닌가? 뉴런의 발사와 계산도 수학이다. 이 말에 따르면 우리는 히틀러도 두려워해서는 안 된다. 왜냐하면 그것은 단지 수학일 뿐이기 때문이다. 우주 전체가 수학으로 축소되다"
OpenAI 전 부사장이었던 Amodei는 2021년 Anthropic을 설립하기 위해 회사를 떠났습니다. 그는 AI의 잠재적 위험을 공개적으로 경고하고 AI 산업에 대한 온건한 규제를 지지하는 기술 경영진 그룹에 속해 있습니다. 실제로 Anthropic은 캘리포니아 AI 규제 법안도 지지했지만 법안은 결국 부결되었습니다.
이와는 대조적으로 Andreessen은 OpenAI 및 Xai를 포함한 여러 AI 회사에 투자했습니다. 그는 AI 안전경보단체를 '컬트'라고 부르며 AI 기술은 거침없이 발전해야 한다고 주장하며, AI 감독이 '신전체주의'로 이어질 것이라고 믿고 있다.
아모데이는 현재의 AI 모델이 인간에게 심각한 위협을 가할 만큼 "충분히 똑똑하지도 자율적이지도 않다"고 인정하면서도 AI 기술이 빠르게 진화하고 있음을 강조했다. 특히 인간의 명령을 자율적으로 실행할 수 있는 AI '에이전트'의 등장으로 대중은 AI의 능력과 잠재적인 피해에 대해 더욱 인식하게 될 것이다.
Amodei는 "지금은 사람들이 챗봇의 예측할 수 없는 행동을 비웃을 수도 있지만 미래의 AI 에이전트를 위해서는 더 나은 제어 메커니즘을 구축해야 합니다"라고 말했습니다.
이번 논쟁은 AI 커뮤니티 내 안전 문제의 차이를 반영할 뿐만 아니라, AI가 빠르게 발전함에 따라 혁신과 감독 사이의 균형을 찾는 것이 중요하다는 점을 강조합니다. 기술이 빠르게 발전하는 가운데, AI의 건전한 발전을 위해서는 잠재적 위험에 대한 합리적인 평가와 예방이 핵심이 될 것입니다.
Amodei의 견해는 AI의 미래 발전 방향에 대한 깊이 있는 생각을 촉발시켰으며, 또한 AI 기술이 빠른 속도로 발전하는 동안 잠재적인 위험에 주의를 기울이고 혁신과 감독 사이의 균형을 추구하며 이를 보장해야 함을 상기시켰습니다. AI는 인류에게 이익을 줍니다.