GPT인가요 아니면 포기인가요? 국산 AI 모델 3개만 살아남을 수 있을까? 앞으로 AI는 어떻게 규제될 것인가?

얼마 전 열린 베이징 즈위안 컨퍼런스에는 국내 최고 수준의 AI 리더인 장보(Zhang Bo), 장훙장(Zhang Hongjiang) 등 전설적인 AI 거물들이 대거 모였으며, 제프리 힌튼(Geoffery Hinton), 얀 르쿤(Yann LeCun), 야오치지(Yao Qizhi), 조셉 시파키스(Joseph Sifakis) 등 4인이 모였다. Spirit Award 수상자, Open AI 창립자 Sam Altman, PaLM-E 및 RoBERTa 및 기타 AI 회사 임원.

각 Zhiyuan 회의는 전문 학술 이념 노선을 고수하기 때문에 국내외 인공 지능 분야 엘리트 집단 사이에서 매우 높은 평판을 얻고 있지만 대중에게는 약간 냉담합니다. 이번 컨퍼런스에서 샘 알트만(Sam Altman)은 일반적인 AI 기술 발전을 이해하기 위해서는 Open AI가 AI 연구 변화를 촉진해야 한다고 지적했다.

그러나 이 발언은 많은 AI 거물들에 의해 반대됐다. 그중 스튜어트 러셀(Stuart Russell) 캘리포니아대학교 버클리캠퍼스 교수는 Open AI가 개발한 Chat GPT와 GPT-4가 질문에 '답변'하지 않으며, 세상을 이해하지 못하고 일반 AI의 개발 단계도 아니라고 비판했다. Yang Likun은 현재의 GPT 자동 회귀 모델에는 계획 및 추론 기능이 부족하며 향후 GPT 시스템이 폐기될 수 있다는 점을 직접적으로 지적하기도 했습니다.

이번 회의에서는 치열한 학술적 논의와 더불어 현재의 AI를 어떻게 규제할 것인지, 향후 AI의 발전 방향에 대한 논의도 쟁점이 됐다.

앞으로 AI는 어떻게 규제될 것인가?

2023년부터 생성 AI가 압도적인 속도로 많은 분야를 휩쓸고 있는 가운데, AI로 인해 발생하는 다양한 문제들도 외부 세계의 우려를 증폭시켰다.

우리나라에서는 'AI 사기'가 최근 사회적 관심 분야 중 하나로 떠올랐다. 며칠 전 내몽고 바오터우(寶頭) 경찰은 푸저우(富州)시에 있는 한 기업의 법정대리인인 궈씨가 AI를 활용해 10분 만에 430만 위안을 사기당한 사건을 신고했다. 보도에 따르면 사기꾼들은 인공지능(AI) 얼굴변화와 의성어 기술을 이용해 지인인 척 사기를 쳤다. 공교롭게도 장쑤성 창저우 출신의 샤오류는 같은 반 친구인 척 사기꾼에게 속아 '진짜 사람'을 본 후 이를 믿고 사기꾼에게 6000위안을 빌려줬다.

출처: 두인

실제로 AI 사기 사건이 발생하는 이유는 현재 AI 기술의 급속한 발전과 기술 종합의 문턱이 지속적으로 낮아지고 있기 때문이다. 후속적인 관점에서 볼 때, AI 대형 모델 기술이 계속해서 획기적인 발전을 이룬다면, 앞으로는 얼굴 합성에서 전신 합성, 3D 합성 기술로 점차 전환되어 합성 효과가 더욱 현실감 있게 나타날 것입니다.

미국에서는 AI가 선거에 영향을 미칠지 여부가 현지 언론의 논의의 초점이 되었습니다. Associated Press에 따르면 오늘날의 정교한 생성 AI 도구는 누군가의 음성과 이미지를 몇 초 만에 "복제"하여 수많은 "가짜 자료"를 생성할 수 있습니다. 강력한 소셜 미디어 알고리즘에 묶여 있는 한 AI는 청중을 빠르게 타겟팅하고 메시지를 전파하여 전례 없는 규모와 속도로 선거를 파괴할 수 있습니다.

미국의 다른 언론들은 내년에 미국에서 차기 대선이 치러지는 만큼 미국 양당이 선전과 모금 등 활동에 AI 기술을 활용할 가능성도 배제할 수 없다고 전망하고 있다. 더 중요한 것은 Chat GPT가 텍스트 기능에서 탁월한 성능을 발휘한다는 것입니다. 결과적으로 후보자의 팀은 단 몇 초 만에 아름다운 표현의 연설을 할 수 있습니다.

AI에 대한 외부 세계의 다양한 우려를 바탕으로 며칠 전 'AI 대부' 제프리 힌튼(Jeffrey Hinton), 앤트로픽(Anthropic) CEO 다리오 아모다이(Dario Amodai), 구글 딥마인드(Google Deep Mind) CEO 데미스 하사비스(Demis Hassabis) 등 AI 분야 임원과 전문가 350여 명이 서명했다. "AI로 인한 멸종 위험을 완화하는 것은 전염병, 핵전쟁 등 사회 규모의 다른 위험과 함께 세계적인 우선순위가 되어야 한다"는 공동 성명입니다.

후속 AI를 어떻게 규제할지에 대해 Sam Altman은 Intelligent Source Conference에서 Open AI가 현재 다양한 방법으로 이 문제를 해결하고 있다고 지적했습니다. 첫째, 이미 5월 26일, Open AI는 사회로부터 효과적인 AI 거버넌스 솔루션을 요청하기 위해 100만 달러를 투자하는 인센티브 프로그램을 시작했습니다.

둘째, Sam Altman은 인간이 사악한 행동을 하는 일부 악의적인 모델을 탐지할 수 없다고 믿습니다. Open AI는 현재 획기적인 성과를 달성하기 위해 몇 가지 새롭고 보완적인 방향에 투자하고 있습니다. 그러나 확장 가능한 감독은 AI 시스템을 사용하여 인간이 다른 시스템의 결함을 발견하도록 돕는 시도이며, 설명 능력은 GPT-4를 사용하여 GPT-2 뉴런을 설명하는 것입니다. 아직 갈 길이 멀지만 Open AI는 믿습니다. 머신러닝 기술은 AI 설명성을 더욱 향상시킬 수 있습니다. 동시에 Sam Altman은 미래에는 모델을 더욱 스마트하고 유용하게 만들어서만 일반 AI의 목표 이점을 더 잘 실현하고 AI 위험을 줄일 수 있다고 믿습니다.

마지막으로, Open AI가 단기적으로 GPT-5 버전을 출시하지는 않겠지만, 향후 10년 내에 세계는 더욱 강력한 AI 시스템을 보유하게 될 수 있으므로 사전에 준비해야 합니다. Open AI의 후속 핵심 작업인 대형 AI 모델은 아직 훈련 단계이며, 글로벌 AI 가치와 선호도를 반영하고 AI 보안 연구를 전 세계와 실시간 공유하기 위한 글로벌 데이터베이스 구축을 준비 중이다.

오픈 AI 자체 노력에 더해 샘 알트먼은 AI 감독 개선을 위한 글로벌 공동 노력도 촉구했다. 예를 들어, 샘 알트만(Sam Altman)은 AI 시스템 정렬의 어려움을 해결하려면 전 세계 최고의 인재가 필요하다는 점을 고려하여 현재 중국이 세계 최고의 AI 인재를 보유하고 있다고 지적했습니다.

따라서 샘 알트만(Sam Altman) 역시 중국 AI 연구자들이 미래 AI 리스크에 기여할 수 있기를 희망한다. Tegmark는 또한 현재 중국이 인공 지능 규제에 가장 많은 노력을 기울였으며, 유럽, 마지막으로 미국이 그 뒤를 따르고 있다고 믿습니다.

이미지 출처: 지혜 회의

아울러 샘 알트만(Sam Altman)은 글로벌 AI 감독 협력에 어려움이 있지만 실제로는 기회라고 지적했다. AI가 세상을 하나로 모으는 동시에, 앞으로는 체계적인 프레임워크와 안전 표준도 도입해야 합니다.

그러나 현재 글로벌 강대국 간의 게임이 심화되고, 지정학적 갈등이 다각적으로 발생하고 있고, 각국 정부가 생성 AI에 대해 서로 다른 태도를 갖고 있다는 점을 고려할 때, AI 규제에 대한 글로벌 협력이 국내에서 시행되기는 어려울 것으로 보인다. 단기적으로는 생성 AI 기업의 시장 비즈니스에 영향을 미칩니다.

유럽은 늘 AI 규제의 최전선에 있었다. 지난 5월 EU는 인공지능 기술 규제 법안 통과를 코앞에 뒀다. 이 법안도 세계 최초의 종합 인공지능 법안이 될 것으로 예상되며 선진국의 선례가 될 수도 있다. .

우르줄라 폰 데어 라이엔 유럽연합 집행위원장은 앞서 언론과의 인터뷰에서 “우리는 인공지능 시스템이 출처에 관계없이 정확하고 신뢰할 수 있으며 안전하고 비차별적이기를 원한다”고 말했다. AI는 이후 EU 시장에서 철수할 예정이다. 따라서 글로벌 규제 정책 조정에 따라 생성 AI 모델을 지속적으로 개선하는 방법은 Open AI 자체가 직면한 문제일 뿐만 아니라 업계 전체가 지속적으로 해결해야 할 문제이다. 주의하세요.