지능시대가 새로운 장을 열었고, AI(인공지능) 등 신기술이 현실 세계의 다양한 산업과의 융합을 가속화하고 있습니다. AI의 급증하는 조류는 우리를 어디로 데려갈 것인가?라는 질문도 제기됩니다. 우리는 기술 변화에 어떻게 직면해야 하는가?
9월 5일부터 7일까지 상하이에서 2024 Bund Conference가 개최되었습니다. 전 세계적으로 영향력 있는 금융 기술 및 첨단 기술 컨퍼런스인 Bund Conference는 기술과 인문학 간의 가교를 구축했으며 중국 AI 산업의 구현과 발전을 관찰하는 중요한 창이 되었습니다.
Huangshan Scenic Spot 지능형 에이전트 공식 출시, iFlytek Spark Medical 대규모 모델, Guodun Quantum 제품 전시, 중국 과학 기술 대학 사이버 공간 보안 학교는 Global Deepfake 전시회 대회 주최자 중 하나였습니다. 공격과 방어 도전...많은 '안후이 장면' '안후이 요소'도 동시에 등장해 외탄회의와 함께 과학기술의 인문학적 깊이와 따뜻함을 보여주며 "기술이 발전할수록 모두에게 더 많은 이익을 가져다준다"고 말했다. 계속해서 현실이 되고 있습니다.
더욱 전문적인 AI
증기기관이 선박, 기차, 섬유기계와 결합해 세상을 바꾼 것처럼, AI 분야도 '수백 가지 모델의 전쟁'에서 '산업 응용'으로 중요한 진화를 겪고 있다.
디지털 아바타는 업무 완수를 돕고, 뇌컴퓨터는 깊은 잠을 돕고, 인공근육섬유는 따뜻한 포옹을 선사한다. 와이탄 컨퍼런스는 현재 AI 산업의 글로벌 열풍을 구체적으로 보여준 사례였다. 전문가들은 5년 내 산업화 구현이 대형 모델 기술의 지속적인 진화의 관건이라고 예측한다.
"전문적인 일은 전문가에게 맡기세요."라는 말이 있습니다. 수천 개의 산업에 힘을 실어주는 인공 지능의 경우 각 개인과 각 산업의 요구 사항은 고유합니다. 보다 전문적인 문제를 해결하려면 보다 전문적인 AI가 필요할 수 있습니다.
따라서 일반 역량부터 개인화된 애플리케이션까지 대형 모델을 추진하는 것은 AI 산업의 핵심 제안 중 하나이다.
이번 Bund 회의에서 Huangshan Scenic Spot과 Alipay는 Ant Bailing 대형 모델을 기술 기반으로 사용하여 처음으로 '우주' 서비스 개념을 갖춘 'Huangshan Space Intelligence'를 출시했습니다. 중국의 "완전한 AI 호위".
생성적 인공 지능의 제품 형태인 지능형 에이전트는 현재 대형 모델 애플리케이션의 핵심 방향으로 대형 모델이 "손과 발"을 성장시킬 수 있도록 합니다. 공간 지능형 에이전트는 "AOI"(관심 영역)를 주요 서비스 구성 및 표시 방법으로 사용합니다. 지능형 에이전트는 사용자가 황산 풍경구에 들어간 것을 감지하면 AI를 사용하여 해당 서비스를 분석하고 푸시합니다. 사용자가 필요할 가능성이 가장 높습니다.
예를 들어, 사용자가 티켓을 구매하기 전에 "Huangshan Space Intelligence"는 사용자에게 명승지의 온도, 의류 추천을 알려주고, 사용자가 명승지 입구에 도착하면 지능적으로 경로 안내를 추천합니다. 사용자가 인식하면 티켓 QR 코드가 자동으로 검색됩니다. 사용자가 산에 오르기 시작하면 사용자가 명승지 출구에 도달하면 길을 따라 있는 각 명승지가 사용자에게 설명됩니다. 한 번의 클릭으로 생성됩니다. 또한, 공유 자전거, 온라인 차량호출 등 여행 중 흔히 사용하는 서비스를 빠르게 호출하고 오픈할 수 있다.
"AI 개발의 물결 속에서 문화 관광 산업도 기술과 시나리오에서 전례 없는 혁명을 시작하고 경험하고 있습니다." 황산 관광 개발 유한회사(Huangshan Tourism Development Co., Ltd.) 회장 장더후이(Zhang Dehui)는 전통적인 "1- 코드 투어" 및 "단일 기계 투어" 모델, "황산 풍경구 지능형"은 대형 모델 기술을 통합합니다. 기술, 문화 관광 지식 기반, 빅 데이터 알고리즘, 음성 상호 작용 및 독립적인 학습과 자기 진화를 실현할 수 있는 최신 응용 제품입니다. 문화와 관광 발전의 진전을 이루었습니다." 여행 산업의 디지털 전환은 또 하나의 혁명적인 발걸음을 내디뎠습니다."
『과학과 기술과 인문학에 대한 질문』을 통한 깨달음
인류 역사의 모든 기술 혁신에는 '설렘'과 '불안'이 동반됩니다.
인간과 일자리를 놓고 경쟁하는 AI를 어떻게 처리할 것인가? AI로 인해 인간의 사고능력이 저하될 것인가? '인간-기계 공생' 시대는 어디까지? AI가 도구의 속성을 뛰어넘어 의식을 얻고 AI 문명을 이룩하는 것이 가능할까? … Bund 컨퍼런스에서 발표된 과학, 기술 및 인문학에 관한 10가지 질문을 보면 AI에 대한 대중의 감정이 기술적 불안과 함께 더욱 복잡하다는 것을 알 수 있습니다.
미래는 위로 향하고 앞으로 나아갑니다. 과학과 기술은 좋고 아름답습니다. 아무리 획기적인 기술이 변화하더라도 사람 중심은 항상 첫 번째 원칙입니다.
Bund Conference에서 12세에 오른팔을 잃은 24세 남성 Zhou Jian은 인공 지능과 뇌-컴퓨터 인터페이스 기술을 사용하여 생체 공학적 손으로 피아노 곡 "Big Fish"를 연주했습니다. 관객들은 인류에게 봉사하는 기술의 발전에 대해 감사함을 표하고, 웰빙을 직관적으로 느낀다.
새로운 기술 변화는 새로운 시나리오, 새로운 비즈니스, 새로운 시장을 가져오는 동시에 기술 윤리 측면에서 전례 없는 위험과 도전을 가져온다는 점에 주목할 필요가 있습니다. AI가 인류 사회에 더욱 책임감 있게 혜택을 줄 수 있도록 안전성, 신뢰성, 제어 가능성을 보장하면서 AI 기술의 급속한 발전을 촉진하는 방법은 무엇입니까?
AI 대형 모델을 예로 들자면, 현재 다양한 산업에서 대형 모델이 빠른 속도로 구현되고 있으며, 특히 의료, 금융 등 엄격한 산업의 재편은 전례 없는 일이다. 표준과 가장 복잡한 윤리적 관계 분야.
iFlytek 의료 연구소 부사장 Zhao Jinghe는 Bund 컨퍼런스에서 iFlytek Spark 의료 모델의 현재 적용 진행 상황과 안전 윤리 탐구를 공유했습니다. 의료 시나리오에서 대형 모델을 적용할 때 직면하는 문제에 대해 그는 "주요 문제는 데이터 개인 정보 보호, 지적 재산권 및 도덕적 책임입니다. 대형 모델이 이러한 문제를 진정으로 해결할 수 있도록 허용해야만 의사, 환자, 과학 연구 및 기타 시나리오." .
“법 해석 측면에서 대규모 모델의 적법성과 준수를 보장하기 위해 정부 차원에서 규제하고 입법할 필요가 있을 뿐만 아니라 기업은 의료의 성격을 준수하고 데이터를 강화하기 위한 조치를 취해야 합니다. 모델의 공정성과 규정 준수를 보장하는 동시에 투명성을 높이고 공공 교육을 강화해야 합니다."라고 Zhao Jinghe는 말했습니다.
안후이의 중요한 과학 기술 혁신 기업 중 하나인 Guodun Quantum은 사무실 정보 보안과 관련된 다양한 제품도 전시했습니다. "예를 들어, 당사의 블루투스 헤드셋에는 Guodun Quantum이 독자적으로 개발한 음성 통신 개인 정보 보호 기술이 통합되어 있어 통화, 음성 메시지 등의 과정에서 사용자의 개인 정보를 효과적으로 보호할 수 있어 사용자가 의사 소통 중에 더욱 편안함을 느낄 수 있습니다." Shield Quantum Solutions의 기술 이사인 Zhang Rutong이 소개되었습니다.
일부 전문가들은 기술이 항상 인류 복지에 도움이 되도록 보장하는 방법에 대해 더 낙관적입니다. "오늘날 우리가 걱정하는 많은 문제는 해결하기 가장 어려운 것이 아닐 수도 있습니다. 실제 과제는 아직 상상하지 못한 알려지지 않은 문제일 수도 있습니다. 우리가 원하는 AI 중심 미래를 달성하는 가장 좋은 방법 중 하나는 적극적으로 참여하는 것입니다. " 유명한 미래학자 케빈 켈리는 Bund 컨퍼런스에서 이렇게 말했습니다.
AI를 활용해 'AI 사기' 통제
AI 기술의 급속한 발전과 함께 딥러닝 알고리즘을 이용해 오디오, 비디오 콘텐츠를 시뮬레이션하고 위조하는 딥페이크 기술(Deepfake)은 최근 몇 년간 발생하고 있는 'AI 얼굴 바꾸는 사기' 등 악랄한 사건이 점점 더 성숙해지고 있다. 기술 적용에 대한 사람들의 관심을 불러일으켰습니다.
AI 기술을 활용해 'AI의 얼굴을 바꾸는' 위험과 'AI를 사용해 AI를 물리치는' 위험을 정확하게 파악하고 예방하는 것이 효과적인 방법일 수 있습니다. 그런데 AI가 만든 가짜도 AI가 식별할 수 있을까?
'AI 얼굴 변화' 기술의 사기 위험에 초점을 맞춘 대회가 그 답을 제시한다. Bund Conference의 AI 혁신 대회와 Global Deepfake 공격 및 방어 챌린지의 전시 경쟁에서 중국 과학 기술 대학 사이버 공간 보안 학교와 Ant Digital Dimensity Laboratory가 공동으로 문제를 발표했습니다. 참가자들은 연구한 AI 모델을 사용해 AI를 수정해 가공된 이미지와 영상을 탐지하고 식별했다.
이미지 트랙에는 육안으로 진위를 구별하기 어려운 9장의 사진이 있지만, 참가자들은 자신의 참가 모델을 사용하여 각 사진에 위조 가능성을 부여하고 두 사진을 실제 사진과 비교해야 합니다. 정답이 있는 가장 높은 확률값. 비디오 트랙에서 플레이어는 AI 모델을 사용하여 비디오의 진위 여부를 식별해야 합니다.
주목할 만한 점은 난이도가 약간 높은 일부 문제에서는 양측의 결과가 비슷했고, 위조 인지율이 80%에 가까운 수준이었다는 점이다. 그러나 매우 어려운 일부 문제에서는 모델 결과가 나왔다. 매우 달랐습니다.
현장에 있던 누군가는 “왜 AI는 육안으로 가짜로 보이는 사진에 대해 완벽하게 대답하지 못하는 걸까? 그리고 육안으로 구별하기 어려운 사진도 AI가 1초 안에 인식할 수 있느냐”고 물었다.
이와 관련하여 싱가포르 과학기술연구청 프론티어 인공 지능 연구 센터의 수석 과학자인 Zhou Tianyi는 인간이 이미지가 가짜인지 여부를 판단하기 위해 직관과 논리에 의존한다고 믿습니다. 영화배우의 얼굴로 대체되면 인간은 그 뒤에 숨겨진 이야기를 이해하지 못합니다. 하지만 AI는 인간만큼 정서적 간섭에 취약하지 않고, 꼼꼼하게 지시를 완수한다. 이런 관점에서 AI는 업무 효율성과 안정성 측면에서 인간보다 '우월'하다.
그러나 탐지 알고리즘을 개발하는 것은 딥페이크 기술의 남용을 억제하는 한 가지 방법일 뿐입니다. 게임 질문 제작자 중 한 명인 야오웨이빈은 이 방법이 상대적으로 뒤떨어져 있다고 인정했다. 사기의 근본 원인을 방지하려면 표준 및 법률 관점에서 AIGC 콘텐츠에 대한 범용 식별자 설정을 요구해야 합니다. 예를 들어 AIGC에서 생성된 모든 비디오나 사진에는 파일 정보에 서명이나 워터마크가 있어야 합니다. 플랫폼 관리에는 더 많은 기반이 있습니다.
"일반 대중의 경우 이제 심층 위조가 발생할 가능성이 매우 높으며 점차 우리 삶에 들어와 사람들의 사생활이 유출되기도 합니다." 중국 과학기술대학교 사이버 공간 보안 대학의 Zhou Wenbo 교수는 쉽게 그렇게 하지 말라고 제안했습니다. 공공장소에서는 자신의 얼굴 데이터를 보여주고 얼굴 데이터 유출을 최대한 피하세요. 여전히 큰 영향을 미칠 수 있습니다." 사기로 인해 확률이 손상되지는 않습니다.