엔비디아는 차세대 AI 서버 GB300을 출시할 예정이며, 2023년 2분기 출시와 3분기 시험 생산이 예정돼 있다. 서버에는 열 설계, 칩 성능, 메모리 사양 및 상호 연결 기술이 크게 향상되었으며, 최신 B300 GPU 기반의 슈퍼 칩이 탑재되며 최대 288GB의 메모리 구성이 가능하며 차세대 ConnectX를 사용합니다. 8 SuperNIC 및 1.6Tbps 광 모듈을 탑재하여 더욱 강력한 AI 컴퓨팅 성능을 출시하는 것을 목표로 합니다. 하지만 풀 수냉식 방열 솔루션 도입으로 인해 비용도 크게 증가할 수 있으며, 최상위 구성의 가격은 기존 GB200NVL72 서버보다 훨씬 높을 것으로 예상된다.
GB300 서버의 가장 큰 특징 중 하나는 방열 설계입니다. 이전 세대 제품과 비교하여 GB300 서버의 냉각 요구 사항이 크게 증가했으며 마더보드에 사용되는 팬 수가 줄어듭니다. 이는 차세대 서버가 고성능 컴퓨팅으로 인해 발생하는 열 문제에 더 잘 대처하기 위해 수냉 시스템에 더 많이 의존하게 된다는 것을 의미합니다. 냉각 시스템의 개선은 서버의 성능과 안정성에 직접적인 영향을 미치므로 고부하 조건에서도 양호한 작동 상태를 유지할 수 있습니다.
보도에 따르면 2025년 중반 출시 예정인 엔비디아의 GB300 서버는 더욱 강력한 AI 컴퓨팅 성능을 출시하기 위해 칩부터 주변기기까지 모든 측면을 포괄하는 포괄적인 디자인 업그레이드를 거칠 예정이다. 칩 측면에서 GB300 서버에는 최신 B300 GPU를 기반으로 하는 슈퍼 칩이 탑재되어 FP4 성능이 크게 향상되고, 전력 소비도 B200의 1000W에서 1400W로 증가해 전작의 2배에 이릅니다. B100세대. 이러한 변화는 GB300 서버가 복잡한 컴퓨팅 작업을 처리할 때 더 강력한 기능을 갖게 된다는 것을 의미합니다.
메모리 측면에서도 GB300의 HBM 메모리 사양이 8스택 12Hi HBM3E 기술을 사용해 288GB로 업그레이드된다. 이를 통해 데이터 처리 속도가 더욱 향상되고 전반적인 성능이 향상됩니다. 또한 B300GPU는 슬롯 설계를 채택해 생산 수율을 높이고 판매 후 유지 관리를 단순화할 것으로 예상되는 반면, Grace CPU는 LCAMM 메모리 모듈을 사용하여 기존 LPDDR5 메모리를 대체하여 성능을 향상시킬 수 있습니다.
상호 연결 기술 측면에서 GB300 서버에는 차세대 ConnectX-8SuperNIC와 최대 1.6Tbps의 광 모듈이 장착되어 데이터 전송 속도를 크게 높이고 대용량 데이터를 처리할 때 서버의 효율성을 보장합니다. 그러나 완전 수냉식 솔루션을 도입하면 서버 비용도 증가합니다. WccfTech에 따르면 GB300 서버의 최고급 가격은 현재 약 300만 달러인 GB200NVL72 서버보다 훨씬 높을 것으로 예상되어 고급 시장에서의 입지를 더욱 공고히 할 것으로 예상됩니다.
하이라이트:
GB300AI 서버는 2023년 2분기에 출시될 예정이며, 3분기에는 시험생산 단계에 들어갈 것으로 예상된다.
새 서버는 수냉식 열 방출 설계를 채택하고 마더보드 팬 수를 줄이고 열 방출 요구 사항을 크게 높입니다.
최고급 GB300 서버의 가격은 현재 GB200NVL72 서버보다 훨씬 높을 것으로 예상되어 고급형 시장에 자리매김할 것으로 예상됩니다.
NVIDIA GB300AI 서버의 업그레이드는 AI 컴퓨팅 기능을 크게 향상시키지만 높은 성능은 높은 비용을 의미합니다. 하이엔드 시장에서의 포지셔닝과 AI 분야에서의 향후 적용은 지속적인 관심을 받을 만합니다.