NVIDIA akan merilis server AI generasi baru GB300, yang diperkirakan akan dirilis pada kuartal kedua tahun 2023 dan uji produksi pada kuartal ketiga. Server mengalami peningkatan signifikan dalam desain termal, kinerja chip, spesifikasi memori, dan teknologi interkoneksi. Server akan dilengkapi dengan chip super berbasis GPU B300 terbaru, dengan konfigurasi memori hingga 288GB, dan menggunakan ConnectX- generasi baru. 8 Modul optik SuperNIC dan 1,6Tbps. Ditujukan untuk melepaskan daya komputasi AI yang lebih bertenaga. Namun, pengenalan solusi pembuangan panas berpendingin air penuh juga dapat menyebabkan peningkatan biaya yang signifikan, dan harga konfigurasi teratas diperkirakan akan jauh lebih tinggi daripada server GB200NVL72 yang ada.
Salah satu hal menarik dari server GB300 adalah desain pembuangan panasnya. Dibandingkan dengan produk generasi sebelumnya, persyaratan pendinginan server GB300 telah meningkat secara signifikan, dan jumlah kipas yang digunakan pada motherboard akan berkurang. Artinya, server generasi baru akan lebih mengandalkan sistem pendingin air agar lebih mampu mengatasi tantangan termal yang ditimbulkan oleh komputasi berkinerja tinggi. Perbaikan pada sistem pendingin akan secara langsung mempengaruhi kinerja dan stabilitas server, sehingga dapat mempertahankan kondisi kerja yang baik dalam kondisi beban tinggi.
Menurut laporan, server NVIDIA GB300, yang diperkirakan akan diluncurkan pada pertengahan tahun 2025, akan mengalami peningkatan desain yang komprehensif, mencakup semua aspek mulai dari chip hingga periferal, guna menghasilkan daya komputasi AI yang lebih bertenaga. Dari segi chip, server GB300 akan dilengkapi dengan chip super berbasis GPU B300 terbaru. Performa FP4-nya akan sangat ditingkatkan, dan konsumsi daya juga akan meningkat dari 1000W di B200 menjadi 1400W, mencapai dua kali lipat dari yang pertama. generasi B100. Perubahan ini berarti server GB300 akan memiliki kemampuan yang lebih kuat ketika menangani tugas komputasi yang kompleks.
Dari segi memori, spesifikasi memori HBM GB300 juga akan ditingkatkan menjadi 288GB, menggunakan teknologi 8-stack 12Hi HBM3E. Ini akan semakin meningkatkan kecepatan pemrosesan data dan meningkatkan kinerja secara keseluruhan. Selain itu, B300GPU dapat mengadopsi desain slot, yang diharapkan dapat meningkatkan hasil produksi dan menyederhanakan pemeliharaan purna jual, sedangkan Grace CPU akan menggunakan modul memori LPCAMM untuk menggantikan memori LPDDR5 yang ada, sehingga meningkatkan kinerja.
Dalam hal teknologi interkoneksi, server GB300 akan dilengkapi dengan generasi baru ConnectX-8SuperNIC dan modul optik hingga 1,6Tbps, yang secara signifikan akan meningkatkan kecepatan transmisi data dan memastikan efisiensi server saat memproses data dalam jumlah besar. Namun, pengenalan solusi pendingin air penuh juga akan meningkatkan biaya server. Menurut WccfTech, harga kelas atas server GB300 diperkirakan akan jauh lebih tinggi dibandingkan server GB200NVL72 saat ini, yaitu sekitar US$3 juta, sehingga semakin memperkuat posisinya di pasar kelas atas.
Highlight:
Server GB300AI diperkirakan akan dirilis pada kuartal kedua tahun 2023 dan memasuki tahap uji coba produksi pada kuartal ketiga.
Server baru ini akan mengadopsi desain pembuangan panas berpendingin air, dengan pengurangan jumlah kipas motherboard dan peningkatan signifikan dalam persyaratan pembuangan panas.
Harga server GB300 terbaik diperkirakan jauh lebih tinggi dibandingkan server GB200NVL72 saat ini, sehingga menempatkannya di pasar kelas atas.
Peningkatan server NVIDIA GB300AI akan meningkatkan kemampuan komputasi AI secara signifikan, namun performa tinggi juga berarti biaya tinggi. Posisinya di pasar kelas atas dan penerapannya di masa depan di bidang AI patut mendapat perhatian terus-menerus.