Microsoft создала крупнейший в мире суперкомпьютерный кластер для ИИ на базе 4 608 GPU

Производительность кластера достигает 92,1 эксаFLOPS при вычислениях с точностью FP4, что делает его одним из самых мощных решений для искусственного интеллекта.

Кластер состоит из 64 стоек NVL72, каждая из которых включает 72 GPU и 36 CPU Nvidia Grace. Общая пропускная способность памяти достигает 130 ТБ/с, а каждое соединение GPU работает на скорости 800 Гбит/с. Используются технологии NVLink 5 и InfiniBand Quantum-X800 для высокой скорости передачи данных между компонентами. Жидкостное охлаждение обеспечивает эффективное управление тепловыми нагрузками при минимальном потреблении воды.

Microsoft планирует использовать кластер для ускорения обучения и запуска сложных ИИ-моделей, включая решения OpenAI. Это часть стратегического партнерства Nvidia и OpenAI, включающего инвестиции в $100 миллиардов и строительство глобальной инфраструктуры для ИИ мощностью 10 ГВт. В будущем компания намерена развернуть множество таких кластеров по всему миру для масштабного развития технологий искусственного интеллекта.