70년 전 미국 매사추세츠공과대학에서 우리의 현재 처지를 폭로한 유명한 대화가 있었다. 당시 인공지능 연구의 선구자인 마빈 민스크(Marvin Minsk)는 “우리는 기계에게 지능을 부여하고 자의식을 갖게 하고 싶다”고 선언했고, 워드 프로세싱과 마우스를 발명한 더글라스 엥겔바트는 “기계에게 지능을 부여하고 싶다”고 답했다. 그러면 당신은 인류를 위해 무엇을 할 건가요?"
오늘날까지도 이것은 모든 인류를 덮고 있는 "암운"이 된 것 같습니다. "터미네이터"에서 "매트릭스", "나, 로봇", "웨스트월드"에 이르기까지 수많은 SF 영화에서 극도로 우려스러운 상황을 묘사했습니다. 미래 - 자기 인식을 얻은 기계는 결국 인간을 장악하거나 심지어 인간을 제거할 것입니다. 최근 인공지능(AI)의 급속한 발전으로 인해 인간이 인공지능의 노예가 되는 것은 아닐까?
단지 "또 다른 도구"가 아닙니다.
유발 하라리(Yuval Harari)의 새 저서 "호모 사피엔스 너머(Beyond Homo Sapiens)"는 이를 매우 경계하며 이것이 매우 가능하다고 굳게 믿습니다. 일단 이러한 새로운 것들이 인간의 통제를 벗어나면 인간은 노예가 되거나 멸종될 것입니다. 인류. 그의 견해에 따르면, 컴퓨터 네트워크를 통해 탄생한 비인간 지능은 역사상 최초로 스스로 판단하고 새로운 아이디어를 창출할 수 있는 기술을 탄생시켰으며, 이는 현재 인류 사회의 질서와 시스템에 전복적인 영향을 미칠 수 있다.
파괴적인 영향? 물론 있을 겁니다. 선스타인은 오랫동안 자신의 저서 '네트워크 공화국'에서 인터넷이 단순한 기술이 아니라 '협업적 필터링'과 '집단 양극화'를 초래해 시간이 지나면 점점 더 많은 사람들이 자신의 말을 듣게 될 것이라고 경고했다. 위기에 처한 사회의 운영. 오늘 우리가 보고 있는 정보고치들은 이것을 확인시켜 주었습니다. 우리 모두 그것이 나쁘다는 것을 알고 있지만, 문제는 그것이 얼마나 나쁜가 하는 것입니다.
Harari의 관점에서 인공 지능의 과제는 그 이상입니다. 왜냐하면 인공 지능은 단순한 "또 다른 도구"가 아니라 인간 의사 소통을 위한 정보 네트워크를 마스터할 수 있는 잠재력을 가지고 있기 때문입니다. 과거에는 아무리 강력한 새로운 도구가 있어도 이를 사용하는 결정은 인간에게 달려 있었습니다. 그러나 인공지능이 처음으로 이를 바꾸었습니다. 이것이 바로 인류 문명의 치명적인 약점이다. "인간은 엄청난 힘을 얻기 위해 대규모 협력 네트워크를 구축할 수 있지만, 이러한 네트워크가 구축되는 방식은 결과적으로 인간이 이러한 힘을 한 번 사용하는 데 있어 현명하지 못한 경우가 많다는 것을 의미합니다." 그러한 네트워크를 현명하게 통제하지 못하면 우리 자신이 파멸될 위험이 있습니다.
인류 문명의 출현은 협력에 달려 있고, 협력은 정보 교환에 의존해야 합니다. 그렇지 않으면 큰 사회는 존재할 수 없습니다. 이러한 관점에서 볼 때, 역사상 모든 조직 형태는 대부분 구성원이 집단적으로 준수하는 일련의 단어에 의존합니다. 이것은 "상호주관적 현실"입니다. 구성원이 그것이 "사실"이라고 믿는 한 그것은 그들에게도 사실이며 협력과 신뢰는 모두 이러한 암묵적인 합의에 기초합니다.
이제 문제는 다음과 같습니다. 인공 지능은 정보의 중앙 집중식 관리를 위한 기술적 지원을 제공할 뿐만 아니라 독립적인 학습을 통해 자체적으로 새로운 아이디어를 창출할 수도 있습니다. 알고리즘은 프로그램에 기록되지 않은 것을 학습할 수 있으며, 경영진이 예상하지 못한 일을 스스로 결정합니다. 우리가 컴퓨터와 더 많이 대화하고 더 많은 정보를 공개할수록 결국 로봇 프로그램은 그들에게 의견을 제공하고, 우리의 의견을 흔들고, 인간 사회를 조작할 수 있게 될 것입니다. “컴퓨터는 사람을 쏘기 위해 킬러 로봇을 보낼 필요가 없습니다. 방아쇠를 당기기 위해 인간을 조종하는 것뿐입니다.”
이러한 끔찍한 상황을 피하기 위해서는 가장 중요한 것은 지속적으로 문제를 파악하고 해결하는 강력한 자기수정 메커니즘을 갖추는 것입니다. 그러나 컴퓨터 프로그램에서 흔히 발생하는 것처럼 버그를 수정하면 새로운 버그가 발생하는 경우가 많습니다. "자기 수정 메커니즘은 진실 추구에 도움이 되더라도 질서 유지 비용이 크게 증가합니다. 자체 수정 메커니즘이 너무 강력합니다. 의심, 불일치, 갈등, 균열이 자주 발생한다. “인공지능은 사회 진화의 패턴을 바꿀 수는 없지만 이러한 진화를 위험한 방향으로 직진시킬 수 있습니다.
얼핏 보면 인공지능과 정보 네트워크를 말하는 것 같지만, 사실 현재의 사회 시스템이 그러한 영향에 어떻게 대처할 수 있을지가 관심사이다. 하라리는 위기의 긴급성을 강조했지만 위험을 과장했을 수도 있습니다. 그는 '실리콘 장막'이 인간의 컴퓨터 네트워크를 분열시켜 서로 소통하기 어려운 정보 고치를 만들어 낼 것이라고 매우 우려하고 있다. 세상은 평평하다" 믿음? 정보 고치는 확실히 종결을 가져오지만, 또한 다양한 문화를 위한 쉼터를 제공하기도 합니다. 그렇지 않으면 수많은 틈새 문화가 사라지는 것을 목격할 수도 있습니다. 이러한 정보의 집중은 얼핏 기술의 축복을 받은 것처럼 보이지만, 시간이 지나면서 이러한 자기 고립은 과연 더 강한 내생적 힘을 갖고 결국에는 역동적인 개방형 네트워크를 견뎌낼 수 있을까?
인공지능은 통제 불능이 될까?
그의 경고가 실제로 필요하다는 것은 부인할 수 없습니다. 특히 기술은 종종 사회적 의식보다 앞서고, 인공지능이 실제로 무엇을 의미하는지 깨닫지 못하는 사람들이 너무 많기 때문입니다. 30년 전 미국 하원의원 에드워드 마키(Edward Markey)는 이렇게 말했습니다. “워싱턴의 좋은 소식은 의회의 모든 사람들이 정보고속도로 아이디어를 지지한다는 것입니다. 나쁜 소식은 그것이 무엇을 의미하는지 아무도 모른다는 것입니다. 정치인의 어리석음이지만 사실 새로운 것에는 이런 특징이 있습니다. 인쇄술이 탄생했을 때 사람들은 그것이 수많은 책, 기록 보관소, 지폐 등을 탄생시킬 것이라고는 상상도 하지 못했습니다. 소셜 소프트웨어의 채팅 도구는 지금까지 발전해 왔으며 우리가 그것 없이는 살 수 없을 정도로 많은 기능을 가지고 있습니다.
즉, 새로운 것의 영향력은 점진적으로 나타나고, 그것이 결국 어떤 복잡하고 광범위한 사회적 결과를 가져올 것인지 처음부터 누구도 추측할 수 없다는 것이다. Harari는 한 가지 점에서 옳습니다. 문제가 있을 때 과잉 반응을 하고 이 위험한 새로운 발명품이 더 큰 재앙을 초래하는 것을 방지하기 위해 요람에서 목을 졸라 죽이기를 바라는 것이 아니라 사회의 자기 교정 메커니즘에 핵심이 있다는 것입니다. 의견 인공지능의 자기 진화가 인간의 통제를 벗어나는 것이 매우 걱정됩니다. 원래는 A를 얻고 싶었으나 결국 B를 얻었습니다. 그런데 왜 "의도하지 않은 결과"가 좋을 수 없습니까?
인간 창조물의 궁극적인 반발에 대한 걱정은 서양 문화의 오랜 전통으로, 현대 SF의 선구적인 작품에 등장하는 '프랑켄슈타인 괴물'이 그런 이야기다. 이러한 우려는 확실히 필요하지만, 이러한 종류의 "통제된 진화"는 인간 지능의 상한선이 기술 진보의 한계를 설정한다는 의미이기도 합니까?
Kevin Kelly는 또한 "Out of Control: The Final Fate and End of All Humanity"에서 인간이 기계에 대한 통제력을 잃을 수 있다고 예측합니다. 그리고 모든 창작자들이 직면해야 하는 딜레마가 있습니다: 그들은 더 이상 자신의 가장 자랑스러운 창조물을 완전히 소유하지 못할 것입니다. "그러나 그는 그렇지 않습니다. 그는 그러한 미래가 두려워할 가치가 없다고 믿습니다. 반대로 그는 일부 통제권을 포기하고 기계가 스스로 "자연적 진화"를 시뮬레이션하도록 하는 것이 필요하다고 믿습니다. 더 완벽한 상태는 우리가 돌볼 수 없는 세상을 돌볼 수 있습니다. 하지만... 진화의 대가는 통제력 상실입니다."
서로 공존하는 법을 배우세요
그렇습니다. 인공지능은 현재의 사회 시스템에 지대한 영향을 미칠 수 있지만, 기술보다는 사회 자체를 대상으로 해야 합니다. 컴퓨터 네트워크의 특성은 기술에 좌우되는 것이 아니라 소셜 네트워크 자체의 특성에 좌우되는 경우가 많기 때문입니다. 직설적으로 말하면, 어떤 사회가 어떤 종류의 정보 네트워크와 인공 지능 응용 프로그램을 낳을 것인가? 우리는 기술을 비난하지 않고 솔직하게 말할 수도 있습니다.
이는 인공지능이 통제를 벗어나는 것을 걱정할 필요가 없다는 의미는 아니지만, 적어도 현 단계에서는 인공지능의 적용과 발전이 여전히 사회 자체에 달려 있다는 뜻이다. 이는 우리 몸의 세포 분열과 유사하여 유기체가 성장하고, 적응하고, 회복하고, 복구하여 생존할 수 있도록 해줍니다. 그러나 일단 이 메커니즘이 암세포에 의해 장악되고 비정상적인 세포 성장이 일어나면 인체에 치명적일 것입니다. 우리는 암에 관해 이야기할 필요도 없고, 가만히 앉아서 긴장을 풀 수도 없습니다. 대신 세포와 잘 지내면서 정상적인 성장을 손상시키지 않고 돌연변이 세포를 제거하는 방법을 찾아야 합니다.
우리는 인공지능을 파괴할 수 없고, 인공지능에 의해 제거되고 싶지도 않기 때문에 이를 통제권 싸움으로 보기보다는 생물학의 논리를 더 많이 배우고 서로 공존하는 법을 배워야 합니다.