Pada tanggal 13 November, pada AI Summit 2024 di Jepang, NVIDIA dan SoftBank mengumumkan serangkaian rencana kerja sama yang bertujuan untuk mempercepat pengembangan proyek Sovereign AI Jepang (Sovereign AI, infrastruktur AI tingkat nasional) dan memperkuat kepemimpinan teknologi global NVIDIA sekaligus menghasilkan miliaran dolar. dolar dalam pendapatan baru untuk industri telekomunikasi global.
Pendiri dan CEO NVIDIA Jensen Huang mengungkapkan dalam pidato utamanya bahwa SoftBank menggunakan platform Blackwell untuk membangun superkomputer AI paling kuat di Jepang dan berencana untuk meningkatkan ke platform Grace Blackwell di masa depan.
Pada saat yang sama, NVIDIA mengumumkan bahwa SoftBank telah berhasil menggunakan platform NVIDIA AI Aerial untuk mencapai uji integrasi AI dan jaringan telekomunikasi 5G yang pertama di dunia. Terobosan ini akan membuka saluran pendapatan baru senilai miliaran dolar bagi operator telekomunikasi.
Selain itu, NVIDIA dan SoftBank juga bersama-sama mengumumkan bahwa mereka akan menggunakan perangkat lunak NVIDIA AI Enterprise untuk menciptakan pasar yang memenuhi kebutuhan komputasi AI aman lokal di Jepang. Layanan baru ini akan mendukung pelatihan AI, penalaran edge, dan fungsi lainnya, membantu SoftBank menjadi inti jaringan AI Jepang dan menciptakan, mendistribusikan, dan menggunakan peluang bisnis baru untuk layanan kecerdasan buatan untuk berbagai industri, konsumen, dan perusahaan.
Huang Renxun mengatakan kerja sama dengan SoftBank ini akan mendorong Jepang memasuki revolusi industri AI dan memimpin era baru pertumbuhan industri seperti telekomunikasi, transportasi, robotika, dan perawatan kesehatan.
Junichi Miyagawa, Presiden dan CEO SoftBank, menekankan bahwa dunia sedang mempercepat adopsi AI untuk mendorong pembangunan sosial, dan kerja sama jangka panjang antara SoftBank dan Nvidia akan membantu transformasi ini. Dengan infrastruktur AI yang kuat dan solusi AI-RAN terdistribusi yang inovatif "AITRAS", SoftBank akan membentuk kembali jaringan 5G dan mempercepat laju inovasi di seluruh dunia.
SoftBank akan menerima sistem NVIDIA DGX B200 pertama di dunia, yang akan menjadi blok bangunan inti dari superkomputer NVIDIA DGX SuperPOD barunya.
SoftBank bermaksud menggunakan DGX SuperPOD yang ditenagai Blackwell ini tidak hanya untuk mempromosikan penelitian dan pengembangan AI generatifnya sendiri serta bisnis terkait AI, namun juga mendukung kebutuhan AI di universitas, lembaga penelitian, dan perusahaan di Jepang.
Diharapkan setelah selesai, DGX SuperPOD SoftBank akan menjadi sistem superkomputer paling terkemuka di Jepang. Muncul dengan perangkat lunak NVIDIA AI Enterprise dan jaringan NVIDIA Quantum-2 InfiniBand, yang sangat cocok untuk mengembangkan model bahasa besar.
Selain DGX SuperPOD, SoftBank juga merencanakan superkomputer lain yang berfokus pada tugas-tugas komputasi intensif. Komputer ini pada awalnya direncanakan akan dibuat berdasarkan platform NVIDIA Grace Blackwell dan mengintegrasikan sistem multi-node NVIDIA GB200 NVL72, berpendingin cairan, tingkat rak, yang secara sempurna menggabungkan GPU NVIDIA Blackwell dengan arsitektur Arm yang efisien CPU NVIDIA Grace.
SoftBank telah bekerja sama dengan Nvidia untuk mencapai tonggak sejarah teknologi - pengembangan jaringan telekomunikasi baru yang dapat memperhitungkan beban kerja AI dan 5G, yang oleh industri disebut AI Radio Access Network (AI-RAN). Infrastruktur inovatif ini sangat disukai oleh ekosistem industri telekomunikasi karena membantu operator mengubah BTS dari beban biaya menjadi sumber daya AI yang menghasilkan pendapatan.
Dalam uji coba di luar ruangan di Prefektur Kanagawa, Jepang, SoftBank memverifikasi bahwa solusi AI-RAN berdasarkan akselerasi NVIDIA telah mencapai kinerja 5G tingkat operator dan dapat menjalankan tugas inferensi AI dengan lancar sambil memanfaatkan sisa kapasitas jaringan.
Jaringan telekomunikasi tradisional dirancang untuk menangani jam sibuk, namun pemanfaatan rata-rata hanya sepertiga. Kemampuan komputasi umum AI-RAN diharapkan memberikan peluang bagi perusahaan telekomunikasi untuk mengubah dua pertiga kapasitas yang tersisa menjadi layanan inferensi AI untuk komersialisasi.
Menurut perkiraan NVIDIA dan SoftBank, operator telekomunikasi diperkirakan memperoleh sekitar US$5 pendapatan inferensi AI untuk setiap US$1 belanja modal yang mereka investasikan pada infrastruktur AI-RAN baru. Dengan mempertimbangkan biaya operasional dan belanja modal, SoftBank memperkirakan bahwa untuk setiap tambahan server AI-RAN, tingkat pengembalian infrastrukturnya dapat mencapai hingga 219%.