최근 Downcodes의 편집자는 Elon Musk와 Sam Altman 간의 소송으로 인해 OpenAI의 초기 내부 이메일이 실수로 노출되어 인공 지능 통제를 둘러싸고 회사 창립자들 사이의 치열한 권력 투쟁이 드러났다는 사실을 알게 되었습니다. 이메일 내용을 통해 인공지능의 향후 발전 방향과 보안, 특히 인간 수준의 인공지능(AGI)에 대한 통제 문제에 대한 광범위한 우려가 제기됐다. OpenAI 공동 창업자인 일리야 수즈코벨(Ilya Suzkovel)은 이메일에서 머스크의 AI에 대한 과도한 통제에 대한 우려를 표명하고 이것이 AGI 독재의 위험으로 이어질 수 있다고 믿고 이를 방지하기 위한 합리적인 메커니즘의 확립을 촉구했다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
2017년 9월 머스크와 알트만에게 보낸 이메일에서 수즈코위르는 머스크의 통제 욕구가 미래의 인간 수준 인공 지능(AGI)에 잠재적인 위협이 될 수 있다고 지적했습니다. 그는 이메일에서 "현재 구조는 결국 AGI를 일방적으로 절대 통제할 수 있는 길을 제공한다"고 강조했습니다. 제어.
특히 이 이메일은 머스크가 회사 자금 조달 방식에 대한 의견 차이로 OpenAI에서 사임한 지 6개월도 채 되지 않아 나왔습니다. Sutskower는 이메일에서 "회사가 AGI를 통해 실질적인 진전을 이루면 현재 의도가 아니더라도 회사에 대한 절대적인 통제권을 유지하도록 선택할 수 있습니다"라고 우려를 분명히했습니다.
이메일 후반부에서 Suzkwer는 OpenAI의 목표가 더 나은 미래를 만들고 AGI 독재의 출현을 피하는 것임을 추가로 지적했습니다. 그는 Google DeepMind 창립자 Demis Hassabis가 AGI 독재를 만들 수 있다는 Musk의 우려를 언급했으며 이러한 우려가 합리적이라고 믿었습니다. 따라서 그는 특히 이러한 가능성을 가능하게 하는 기술의 맥락에서 머스크가 독재자가 되는 것을 방지할 구조를 만들 것을 촉구했습니다.
오늘날 이메일 내용이 특히 눈길을 끄는 이유는 인간 지능으로 인공지능을 만드는 데 있어 통제 문제가 복잡하고 민감한 주제라는 점을 드러내기 때문이다. 시간이 지남에 따라 Suzkowir는 OpenAI를 떠나 인공 지능 보안에 초점을 맞춘 새로운 회사를 설립했으며, 이로 인해 이메일 내용에 무게가 더해졌습니다.
이번 이메일의 노출은 인공지능이 빠르게 발전함에 따라 기술 윤리와 안전에 대한 관심이 중요하다는 점을 다시 한번 상기시켜 줍니다. 인공지능 기술이 인류의 미래를 위협하는 도구가 아니라 인류에게 이익이 될 수 있도록 더 나은 메커니즘을 구축해야 합니다. Downcodes의 편집자는 인공 지능 분야의 최신 개발에 계속해서 관심을 기울이고 독자들에게 더 귀중한 정보를 제공할 것입니다.