AI의 6000억 달러 수수께끼에 대한 해결책은 무엇입니까? 스타트업 임원들이 빅모델 비용과 상용화에 대해 논의하다
저자：Eve Cole
업데이트 시간：2024-11-16 11:42:01
베이징 뉴스 Shell Finance News (Bai Jinlei, Chen Weicheng 기자) 10월 25일부터 26일까지 RTE 개발자 커뮤니티와 Shengwang이 공동 후원하는 RTE2024 제10회 실시간 인터넷 컨퍼런스가 베이징에서 개최되었습니다. 이번 회의에서는 Lepton AI의 창업자 겸 CEO인 Jia Yangqing, MiniMax의 파트너인 Wei Wei, Wall-Facing Intelligence의 공동 창업자이자 CTO인 Guoyang Zeng, Hugging Face의 엔지니어인 Wang Tiezhen이 "AI의 $600"에 대해 논의했습니다. 10억 문제, 기본부터 시작하다' 원탁토론회 '시설에서 상용화까지'가 업계의 이목을 끌었다. "AI의 6000억 달러 문제"는 Sequoia Capital의 파트너인 David Cahn의 기사에서 비롯되었습니다. 그는 AI(인공지능) 인프라에 대한 막대한 투자와 실제 수입 사이의 격차가 너무 커서 인공지능이 곧 정점에 도달할 것이라고 믿었습니다. AI는 차세대 혁신 기술의 물결이 될 수 있으며 GPU(그래픽 처리 장치) 컴퓨팅 가격의 하락은 실제로 장기적인 혁신과 스타트업에 도움이 될 것이지만 투자자는 어려움을 겪게 될 것입니다.
RTE2024 제10회 실시간 인터넷 컨퍼런스. 사진 | 인터뷰 대상자가 제공한 사진 AI 인프라 구축과 관련하여 Jia Yangqing은 두 가지 핵심 견해를 공유했습니다. 특히 증류 및 압축과 같은 기술을 통해 동일한 크기의 모델이 점점 더 많은 성능을 발휘할 수 있습니다. 이전 LLama 70B 모델과 유사한 기능을 갖추고 있으며, 일부 주요 회사를 제외하고 점점 더 많은 회사가 차세대 모델을 만들기 위해 "오픈 소스 + 미세 조정"을 채택할 것이므로 오픈 소스 아키텍처의 적용이 점점 더 보편화될 것입니다. . "오픈소스 모델의 장점은 생태계와 커뮤니티입니다. 실제 적용의 관점에서 볼 때 많은 사람들이 오픈소스 모델을 찾아 미세 조정할 수 있지만 오픈소스 모델의 모든 문제를 해결하기에는 충분하지 않습니다. Wang Tiezhen은 "미래에는 인프라(인프라)와 실시간(실시간 처리) 작업이 점점 더 많아지면서 모두가 오픈 소스 모델 자체에 주의를 기울일 뿐만 아니라 오픈 소스 모델에도 주의를 기울여야 합니다. 오픈 소스 모델의 인프라 및 데이터 폐쇄 루프를 통해 오픈 소스 모델이 더 좋고 빠르게 실행될 수 있습니다. 실시간에는 TTS(텍스트 음성 변환)와 대규모 모델이 어떤 방식으로 결합되어 가장자리에 더 가깝게 배치될 수 있어야 합니다. , 매우 좋은 결과를 얻을 수 있습니다. " 대규모 모델 훈련을 어떻게 보아야 합니까? 그리고 추론 비용은 무엇입니까? Zeng Guoyang은 “기술이 발전함에 따라 컴퓨팅 파워는 확실히 점점 더 저렴해지고 동일한 기능을 가진 모델의 규모는 점점 더 작아질 것입니다. 그러나 컴퓨팅 파워 비용의 최적화는 결국 더 강력한 모델을 훈련하는 것으로 이어질 것입니다. AGI(일반인공지능) 수준을 진정으로 달성하려면 모델이 점점 더 강력해지고 있다는 것만 느낄 수 있고, 벽을 향한 지능은 끝이기 때문에 비용의 변화도 느끼기 어렵다”고 언급했다. 그는 최종적으로 모델을 더 빠르게 실행하기 위해 실제 배포 프로세스 중에 다양한 양자화 압축 및 심지어 희소화 방법을 사용하여 실제 배포 오버헤드를 최적화하는 방법에 대해 매우 고민하고 있습니다. Jia Yangqing은 또한 비용은 고려 사항이 아니라고 지적했습니다. 그는 추론 비용이 1년 안에 현재 비용의 10분의 1로 줄어들 것이라고 판단했다. 기업가는 애플리케이션을 구축할 때 현재 비용의 10분의 1인 애플리케이션 제작 비용을 기준으로 비용 회계를 수행할 수 있으며, 모델, 하드웨어 등을 포함하여 가능한지 확인하고 대량 적용한 후 비용도 절감할 수 있습니다. 최근 보고서에 따르면 OpenAI는 AI 보안 연구에 중점을 둔 "AGI 준비" 팀을 해체하고 있습니다. AI 기업 창업자들은 AI 안전과 윤리적 문제를 어떻게 바라보고 있을까? 예를 들어 Jia Yangqing은 현재 항공기에는 많은 안전 요구 사항이 있지만 로켓 제조에는 더 많은 유연성이 제공된다고 말했습니다. 따라서 그는 OpenAI가 더 나은 초기 개발을 위한 것일 수도 있고, AI 보안이 기존 보안 범주에서 벗어나지 못할 수도 있다고 추측했습니다. 왕티진은 AI가 인간을 대체할 것이라고 우려하는 것은 상대적으로 이르지만, AI는 이미 10대들의 심리에 미치는 영향을 비롯해 가짜와 진짜 영상이 미치는 영향 등 일부 산업에 부정적인 영향을 미치고 있다고 말했다. 여기에는 기업가 정신을 위한 많은 기회가 있습니다. 이번 행사에서 Shengwang은 자사와 MiniMax가 중국 최초의 Realtime API(실시간 처리 애플리케이션 프로그래밍 인터페이스)를 개발 중이라고 발표했습니다. 그렇다면 오디오 및 비디오 다중 모드 모델의 실제 적용 가능성을 어떻게 보아야 할까요? Wei Wei는 다중 양식의 출현으로 생성 인공 지능의 경계가 계속 확장되고 이 산업의 변화가 가속화될 것이라고 말했습니다. 제품 및 사용자 서비스 프로세스에서 Wei Wei는 텍스트, 음성, 음악 및 비디오와 같은 모델이 예술, 영화, 텔레비전, 음악 및 기타 분야의 창작자들의 효율성을 크게 향상시키고 새로운 아이디어와 방법을 제공하는 데 도움이 될 수 있음을 발견했습니다. . Wang Tiezhen은 또한 비디오 생성 효과가 영화 수준의 효과를 능가할 수 있고 여러 번 생성할 필요가 없다면 가격이 비싸더라도 일부 사람들은 기꺼이 시도해 볼 것이라고 믿습니다.
