Nvidia는 XAI와 협력하여 공식적으로 세계에서 가장 강력한 AI 훈련 클러스터 Colossus를 공식적으로 시작하는데, 이는 10 만 Nvidia Hopper GPU로 구성되어 있으며 향후 20 만 명으로 확장 할 계획입니다. Colossus는 주로 XAI의 대규모 언어 모델을 훈련시키는 데 사용되며 Xpremium 사용자에게 챗봇 서비스를 제공합니다. 효율적인 건설 속도는 인상적이며 122 일 만에 완료되며 고급 기술과 효율적인 팀 협업의 결과를 반영합니다. Colossus의 강력한 성능은 최대 400Gbps의 대역폭을 제공하고 데이터 전송 속도를 크게 향상 시키며 지속 가능한 개발에 중점을두고 데이터 센터의 에너지 소비를 줄이는 NVIDIA Spectrum-X 이더넷 네트워킹 플랫폼에서 지원합니다.
NVIDIA는 XAI와의 공동 작업으로 제작 된 Colossus SuperComputer 클러스터가 공식적으로 100,000 NVIDIA HOPPER GPU로 구성된 세계에서 가장 강력한 AI 교육 클러스터 인 Colossus라고 발표했습니다.
이 Behemoth 가이 규모에 도달 한 이유는 Nvidia Spectrum-X 이더넷 네트워크 플랫폼의 지원 때문입니다. 이 플랫폼은 다중 테넌트의 초대형 AI 공장을 위해 특별히 설계되었으며 표준 이더넷을 통해 원격 직접 메모리 액세스를 달성하여 우수한 성능을 제공 할 수 있습니다.
Colossus는 주로 XAI의 Grok 시리즈 대형 언어 모델을 훈련시키는 데 사용되며 X Premium 사용자에게 챗봇 서비스를 제공합니다. 더 흥미로운 점은 Xai가 Colossus의 크기를 두 배로 늘릴 계획이며, 그때까지 200,000 Nvidia Hopper GPU에 도달 할 것입니다.
NVIDIA의 수석 부사장 인 Gilad Shainer는 AI가 모든 산업의 주요 요구 사항이되었으므로 성능, 보안, 확장 성 및 비용 효율성에 대한 요구 사항도 증가하고 있다고 말했다. Spectrum-X 플랫폼의 출현은 XAI와 같은 혁신가에게 더 빠른 데이터 처리, 분석 및 실행 기능을 제공하여 AI 솔루션의 개발, 배포 및 시장 마케팅 시간을 가속화합니다.
Elon Musk는 또한 Colossus를 세계에서 가장 강력한 훈련 시스템이라고 부르며 Xai 팀, Nvidia 및 수많은 파트너의 노력을 칭찬했습니다. Colossus의 건설 과정은 매우 효율적이며 일반적으로 유사한 규모의 시스템은 완료하는 데 몇 개월 또는 몇 년이 걸릴 수 있습니다. 전체 프로세스는 첫 번째 랙의 진입부터 훈련 시작까지 19 일 밖에 걸리지 않았습니다.
이 슈퍼 컴퓨터의 지원으로 Spectrum-X 플랫폼은 최대 400Gbps의 대역폭을 제공하여 데이터 전송 속도를 크게 향상시키고 대기 시간을 줄일 수 있습니다. 이 기능은 빠른 데이터 처리 및 실시간 분석이 필요한 기업에게 중요합니다. 또한 Spectrum-X는 AI 응용 프로그램을 지원하도록 최적화되어 데이터 라우팅 및 관리가 더 현명하게 만들어 전반적인 시스템 성능을 향상시킵니다.
Colossus Architecture는 최신 응용 프로그램에 의해 생성 된 막대한 양의 데이터에 효율적으로 확장하도록 설계되었습니다. 한편, Spectrum-X는 지속 가능한 개발에 중점을 두어 고성능을 유지하고 조직이 탄소 발자국을 줄이는 데 도움이되는 데이터 센터의 에너지 소비를 줄이기 위해 노력하고 있습니다.
핵심 사항 :
Colossus Supercomputer는 100,000 Nvidia Hopper GPU로 구성되며 대형 언어 모델을 훈련 시키며 200,000 GPU로 확장 할 계획입니다.
Spectrum-X 네트워크 플랫폼은 최대 400Gbps의 대역폭을 제공하여 데이터 전송 및 실시간 분석 기능을 최적화합니다.
이 플랫폼은 지속 가능성에 중점을두고 고성능을 유지하면서 데이터 센터의 에너지 소비를 줄이는 것을 목표로합니다.
Colossus의 출시는 AI 컴퓨팅 파워의 새로운 이정표를 표시하며 효율적이고 확장 가능하며 지속 가능한 설계 개념은 향후 AI 개발을위한 새로운 방향을 제공합니다. Xai와 Nvidia의 협력은 AI 분야의 혁신에 강력한 자극을 주입했습니다.