최근 일론 머스크(Elon Musk)와 오픈AI(OpenAI) 사이의 법적 분쟁으로 초기 내부 이메일이 공개되면서 인공지능 통제권을 두고 오픈AI 창업자들 사이의 치열한 갈등이 드러났다. 이메일 내용을 보면 공동 창업자인 일리야 수즈코벨(Ilya Suzkovel)이 인공지능을 통제하려는 머스크의 욕구에 대해 강한 우려를 표명했으며, 이것이 미래에 인공지능의 독재로 이어질 수 있다고 믿고 있음을 보여준다. 이 이메일은 머스크가 OpenAI를 떠난 직후 작성되어 그 중요성을 강조하고 인공지능의 발전 방향에 대한 사람들의 생각을 촉발시켰습니다.
최근 Elon Musk가 Sam Altman을 상대로 소송을 제기하면서 초기 OpenAI 내부 이메일이 노출되어 회사 창립자 간의 권력 투쟁에 대한 광범위한 관심이 촉발되었습니다. 이메일에서 OpenAI 공동 창업자인 Ilya Sutskever는 인공 지능을 통제하려는 머스크의 강한 열망에 대해 깊은 우려를 표명했습니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
2017년 9월 머스크와 알트만에게 보낸 이메일에서 수즈코위르는 머스크의 통제 욕구가 미래의 인간 수준 인공 지능(AGI)에 잠재적인 위협이 될 수 있다고 지적했습니다. 그는 이메일에서 "현재 구조는 결국 AGI를 일방적으로 절대 통제할 수 있는 길을 제공한다"고 강조했습니다. 제어.
특히 이 이메일은 머스크가 회사 자금 조달 방법에 대한 의견 차이로 OpenAI에서 사임한 지 6개월도 채 되지 않아 나왔습니다. Sutskower는 이메일에서 "회사가 AGI를 통해 실질적인 진전을 이루면 현재 의도가 아니더라도 회사에 대한 절대적인 통제권을 유지하도록 선택할 수 있습니다"라고 우려를 분명히했습니다.
이메일 후반부에서 Suzkwer는 OpenAI의 목표가 더 나은 미래를 만들고 AGI 독재의 출현을 피하는 것임을 추가로 지적했습니다. 그는 구글 딥마인드(Google DeepMind)의 창업자인 데미스 허사비스(Demis Hassabis)가 AGI 독재를 조성할 수도 있다는 머스크의 우려를 언급했고, 이러한 우려는 타당하다고 믿었다. 따라서 그는 특히 이러한 가능성을 가능하게 하는 기술의 맥락에서 머스크가 독재자가 되는 것을 방지할 구조를 만들 것을 촉구했습니다.
오늘날 이메일 내용이 특히 눈길을 끄는 이유는 인간 지능으로 인공지능을 만드는 데 있어 통제 문제가 복잡하고 민감한 주제라는 점을 드러내기 때문이다. 시간이 지남에 따라 Suzkowir 자신도 OpenAI를 떠나 인공 지능 보안에 초점을 맞춘 새로운 회사를 설립했는데, 이는 이메일 내용에 무게를 더하는 변화였습니다.
가장 밝은 부분:
초기 내부 OpenAI 이메일에는 직원들이 인공 지능 분야를 통제하려는 머스크의 욕구에 대해 걱정하고 있음이 나와 있습니다.
Suzkowir는 AGI에 대한 머스크의 절대적인 통제가 심각한 결과를 초래할 수 있다고 경고했습니다.
OpenAI의 목표는 AGI 독재를 피하는 더 나은 미래를 만드는 것입니다.
이 이메일의 노출은 우리로 하여금 인공지능 개발에 있어 권력과 통제의 문제를 다시 한 번 검토하게 만듭니다. 혁신과 보안의 균형을 맞추는 방법과 인공 지능 기술의 남용을 방지하는 방법은 우리가 고려할 가치가 있는 주요 문제입니다. 인공지능의 미래 방향은 이 강력한 기술을 우리가 얼마나 효과적으로 관리하고 통제하느냐에 달려 있을 것입니다.