Microsoft недавно выпустила свою последнюю серию виртуальных машин ND H100V5, которая оснащена передовым GPU Nvidia H100 Core GPU и Nvidia Quantum-2 Infiniband Network Technology. Эти виртуальные машины, разработанные для выполнения самых сложных задач ИИ и машинного обучения, обеспечивают беспрецедентную вычислительную мощность и эффективность.
В основе серии ND H100V5 лежит его суперкомпьютерный графический процессор AI, каждая виртуальная машина оснащена восемью графическими процессорами Nvidia H100 Tensor Core, которые подключены к хосту через графический интерфейс PCIe Gen5, и каждый графический процессор имеет полосу пропускания до 64 ГБ/с, значительно оптимизируя эффективность передачи данных.
Кроме того, в серии также используется масштабируемый процессор Intel Xeon четвертого поколения, обеспечивая максимальную скорость обработки и вычислительную мощность. В сочетании с памятью DDR5 виртуальная машина ND H100V5 хорошо работает при обработке крупномасштабных наборов данных, обеспечивая огромную пропускную способность и пропускную способность памяти.
С точки зрения сетей, применение технологии nvidia Quantum-2 ConnectX-7 Infiniband обеспечивает низкую задержку и высокую пропускную способность для передачи данных, что имеет решающее значение для приложений AI, которые необходимо быстро обрабатывать большие объемы данных.
С точки зрения производительности, виртуальная машина ND H100V5 находится в шесть раз быстрее при использовании нового 8-битного типа данных FP8 с плавающей точкой для умножения матрицы, быстрее, чем предыдущее поколение FP16. Это улучшение особенно важно при работе с большими языковыми моделями, такими как модель Bloom175b, достигая увеличения скорости в два раза.
Это инновация Microsoft не только демонстрирует свое лидерство в области облачных вычислений и технологий искусственного интеллекта, но также предоставляет предприятиям и исследовательским институтам мощные инструменты для содействия разработке и применению технологии искусственного интеллекта. Благодаря непрерывному развитию технологии искусственного интеллекта, серия виртуальных машин ND H100V5, несомненно, станет важным краеугольным камнем будущего суперкомпьютирования ИИ.