NVIDIA сотрудничает с XAI, чтобы официально запустить самый сильный в мире кластерный кластер Colossus, который состоит из 100 000 графических процессоров Nvidia Hopper и планируется расширить 200 000 в будущем. Colossus в основном используется для обучения крупномасштабных языковых моделей XAI и предоставляет услуги Chatbot для пользователей Xpremium. Его эффективная скорость строительства впечатляет и завершена всего за 122 дня, что отражает результаты передовых технологий и эффективного сотрудничества в команде. Мощная производительность Colossus поддерживается сетевой платформой NVIDIA Spectrum-X Ethernet, которая обеспечивает полосу пропускания до 400 Гбит / с, значительно улучшает показатели передачи данных и фокусируется на устойчивом развитии и снижает потребление энергии в центрах обработки обработки данных.
Сегодня Nvidia объявила, что Colossus Supercomputer Cluster, созданный в сотрудничестве с XAI, был официально запущен.
Причина, по которой этот бегемот достиг этой шкалы, связана с поддержкой сетевой платформы NVIDIA Spectrum-X Ethernet. Эта платформа предназначена специально для многопользовательских, сверхуровневого масштаба ИИ заводов и может достичь удаленного прямого доступа к памяти через стандартный Ethernet, обеспечивая отличную производительность.
Colossus в основном используется для обучения серии крупных языковых моделей GROK, а также предоставляет услуги чат -ботов для пользователей премиум -класса. Что еще более захватывающе, так это то, что Xai планирует удвоить размер Colossus, который к тому времени достигнет 200 000 графических процессоров Nvidia.
Гилад Шейнер, старший вице -президент NVIDIA, сказал, что ИИ стал ключевым требованием для всех отраслей, поэтому требования к эффективности, безопасности, масштабируемости и эффективности экономии также увеличиваются. Появление платформы Spectrum-X предоставляет такие новаторы, как XAI, с более высокой обработкой, анализом и выполнением данных, ускоряя разработку, развертывание и время на рынке решений искусственного интеллекта.
Элон Маск также высоко оценил это, назвав Колосс самой мощной системой обучения в мире, восхваляя усилия команды XAI, NVIDIA и их многочисленных партнеров. Стоит отметить, что строительный процесс колосса довольно эффективен и занимает всего 122 дня. Весь процесс занял всего 19 дней с момента въезда первой стойки до начала обучения.
При поддержке этого суперкомпьютера платформа Spectrum-X может обеспечить полосу пропускания до 400 Гбит / с, значительно улучшая скорости передачи данных и снижение задержки. Эта функция имеет решающее значение для предприятий, которые требуют быстрой обработки данных и анализа в реальном времени. Кроме того, Spectrum-X также оптимизирован для поддержки приложений искусственного интеллекта, что делает маршрутизацию и управление данными умнее, тем самым повышая общую производительность системы.
Архитектура Colossus предназначена для эффективного масштабирования, чтобы справиться с огромным количеством данных, генерируемых современными приложениями. Между тем, Spectrum-X также фокусируется на устойчивом развитии, стремясь снизить потребление энергии в центрах обработки данных, сохраняя при этом высокую производительность и помогают организациям сократить углеродный след.
Ключевые моменты:
Суперкомпьютер Colossus состоит из 100 000 графических процессоров Nvidia Hopper, обучает модели на крупных языках и планы по расширению до 200 000 графических процессоров.
Сетевая платформа Spectrum-X предоставляет полосу пропускания до 400 Гбит / с, оптимизируя возможности передачи данных и возможности анализа в реальном времени.
Платформа посвящена устойчивости и направлена на снижение потребления энергии в центрах обработки данных при сохранении высокой производительности.
Запуск Colossus отмечает новую рубежу в области компьютерной мощности ИИ, а его эффективные, масштабируемые и устойчивые концепции дизайна обеспечивают новые направления для будущей разработки ИИ. Сотрудничество между XAI и NVIDIA также внесло сильный стимул в инновации в области ИИ.