Сервер AI Neural Matrix 4U Enterprise AI GPU – 6× NVIDIA RTX PRO 6000 Blackwell 96GB с кастомным полнофункциональным водяным охлаждением
96-ядерный процессор • 192 потока • 6× RTX PRO 6000 Blackwell • 576GB видеопамяти GPU • 512GB ECC ОЗУ • 8TB Gen5 NVMe • Мощность БП 10 000 Вт • Кастомное водяное охлаждение
Экстремальные вычисления AI на платформе высокой плотности 4U
Сервер AI Neural Matrix 4U Enterprise AI GPU — это специально разработанная высокопроизводительная вычислительная платформа для требовательных задач искусственного интеллекта, генеративного ИИ, больших языковых моделей, глубокого обучения, вывода ИИ, высокопроизводительных вычислений (HPC), научных вычислений, инженерного моделирования, профессиональной визуализации и корпоративных нагрузок GPU.
В основе этой конфигурации лежит AMD Ryzen Threadripper PRO 9995WX с 96 ядрами CPU и 192 потоками, в сочетании с 6× NVIDIA RTX PRO 6000 Blackwell GPU, каждый из которых оснащен 96GB GDDR7 памяти.
Это обеспечивает исключительные 576GB общей видеопамяти GPU, что делает систему подходящей для больших моделей ИИ, многопроцессорного вывода, разработки моделей, точной настройки, рендеринга и других задач, требующих большого объема памяти.
Система также оснащена 512GB системной памяти DDR5 ECC 5600MHz, 2× 4TB PCIe Gen5 NVMe SSD для общего объема 8TB высокоскоростного хранилища и мощной конфигурацией из 5× 2000W 80 PLUS Platinum блоков питания.
Почему кастомное водяное охлаждение делает этот сервер особенным
Одним из важнейших преимуществ платформы AI Neural Matrix является ее кастомная архитектура полнофункционального водяного охлаждения. Вместо того чтобы полностью полагаться на обычное воздушное охлаждение, CPU и высокопроизводительные GPU интегрированы в специальный контур жидкостного охлаждения, разработанный для тепловых требований многопроцессорных систем высокой плотности.
Шесть высокопроизводительных GPU, работающих одновременно, могут генерировать значительное количество тепла. В обычной конфигурации с воздушным охлаждением для отвода этого тепла требуется большой объем высокоскоростного воздушного потока через шасси. По мере увеличения плотности GPU управление воздушным потоком становится все более важным.
Кастомное решение для водяного охлаждения обеспечивает более эффективный метод отвода тепла от CPU и GPU, помогая системе поддерживать более стабильные тепловые условия при длительных интенсивных нагрузках.
Кастомное водяное охлаждение против обычного воздушного охлаждения
| Характеристика | Обычное воздушное охлаждение | Кастомное водяное охлаждение AI Neural Matrix |
|---|
| Теплопередача | Тепло передается преимущественно через радиаторы и воздушный поток | Жидкостный контур напрямую отводит тепло от блоков охлаждения CPU/GPU |
| Высокая плотность GPU | Требует значительного воздушного потока и тщательного управления воздушным потоком в шасси | Разработано специально для управления тепловыми нагрузками CPU + нескольких GPU высокой плотности |
| Длительные нагрузки | Производительность может зависеть от тепловых условий и температуры окружающей среды | Разработано для стабильного теплового управления при длительных нагрузках |
| Потенциальный шум | Высокие требования к воздушному потоку могут привести к увеличению шума вентиляторов | Может снизить зависимость от экстремального воздушного потока для отвода тепла от CPU/GPU |
| Расширение Multi-GPU | Увеличение плотности GPU может затруднить управление воздушным потоком | Архитектура охлаждения может быть спроектирована с учетом дополнительных тепловых нагрузок GPU |
| Обучение ИИ | Подходит, но требования к тепловым условиям и воздушному потоку значительно возрастают с увеличением количества GPU | Оптимизировано для длительных высоконагруженных задач CPU и multi-GPU |
Примечание: Фактические температуры, акустические характеристики и производительность зависят от рабочей нагрузки, температуры окружающей среды, конфигурации системы, конструкции системы охлаждения и условий установки.
Почему кастомное водяное охлаждение вместо обычного AIO водяного охладителя?
Обычный жидкостный охладитель AIO обычно разрабатывается для одного CPU или ограниченной тепловой нагрузки. Сервер ИИ высокой плотности с несколькими GPU требует принципиально иного подхода к охлаждению.
AI Neural Matrix использует кастомную архитектуру охлаждения, разработанную для всей платформы CPU + multi-GPU. Это позволяет проектировать решение для охлаждения в соответствии с выбранными GPU, тепловой нагрузкой, физическим расположением и будущими требованиями к расширению.
- Охлаждение CPU и GPU: Разработано для всей высокопроизводительной вычислительной системы
- Высокая тепловая мощность: Подходит для требовательных многопроцессорных нагрузок
- Архитектура кастомного контура: Разработана в соответствии с выбранной аппаратной конфигурацией
- Будущая масштабируемость: Охлаждение может быть спланировано для дополнительных конфигураций GPU
- Длительные нагрузки: Разработано для длительных задач ИИ, HPC и рендеринга
- Высокоплотная конструкция: Особенно ценна там, где несколько мощных GPU установлены в компактном шасси 4U
576GB видеопамяти GPU для больших рабочих нагрузок ИИ
С 6× NVIDIA RTX PRO 6000 Blackwell GPU и 96GB GDDR7 памяти на каждый GPU, эта конфигурация обеспечивает 576GB объединенной памяти GPU.
Эта огромная емкость памяти GPU особенно ценна для рабочих нагрузок, включающих большие наборы данных, крупные модели ИИ, визуализацию высокого разрешения, сложные симуляции и высокопроизводительный вывод.
| Конфигурация GPU | Видеопамять GPU на GPU | Объединенная видеопамять GPU* |
|---|
| 1× RTX PRO 6000 | 96GB | 96GB |
| 2× RTX PRO 6000 | 96GB | 192GB |
| 4× RTX PRO 6000 | 96GB | 384GB |
| 6× RTX PRO 6000 | 96GB | 576GB |
| 8× RTX PRO 6000* | 96GB | 768GB |
*Таблица представляет собой теоретическую объединенную физическую память GPU. Память GPU распределена по отдельным GPU и не ведет себя автоматически как единый пул памяти. Фактические поддерживаемые конфигурации GPU зависят от выбранной платформы, топологии PCIe, подсистемы питания и конфигурации охлаждения.
96-ядерный / 192-поточный процессор AMD Threadripper PRO
AMD Ryzen Threadripper PRO 9995WX обеспечивает 96 ядер CPU и 192 потока, предоставляя системе значительную вычислительную мощность на стороне CPU для подготовки данных, симуляции, компиляции, виртуализации, оркестрации и CPU-интенсивных рабочих нагрузок, выполняемых наряду с ускорением GPU.
Сочетание профессионального CPU с большим количеством ядер и шести высококлассных профессиональных GPU создает сбалансированную платформу для рабочих нагрузок, где активно используются как ресурсы CPU, так и GPU.
512GB памяти DDR5 ECC
Сервер сконфигурирован с 512GB памяти DDR5 ECC 5600MHz. Память ECC особенно ценна в профессиональных вычислительных средах, где целостность данных и надежность системы важны при длительных рабочих нагрузках.
Большая емкость системной памяти также поддерживает требовательные наборы данных, виртуализацию, предварительную обработку ИИ, рабочие нагрузки моделирования и многопользовательские вычислительные среды.
8TB хранилище PCIe Gen5 NVMe
Хранилище обеспечивается 2× 4TB PCIe Gen5 NVMe SSD, предоставляя 8TB высокоскоростного хранилища NVMe.
Высокоскоростное хранилище NVMe помогает уменьшить узкие места при загрузке данных при работе с большими наборами данных ИИ, файлами обучения, моделями, контрольными точками, научными наборами данных и мультимедиа высокого разрешения.
Электропитание класса 10 000 Вт для вычислений GPU высокой плотности
Представленная конфигурация включает 5× 2000W 80 PLUS Platinum блоков питания, обеспечивающих значительную архитектуру электропитания для CPU, шести GPU, хранилища и других компонентов системы.
Эта высокопроизводительная конфигурация питания необходима для системы, разработанной для нескольких высокопроизводительных GPU. Окончательная электрическая установка всегда должна быть спроектирована в соответствии с фактической нагрузкой системы, конфигурацией БП, требованиями к резервированию и местной электрической инфраструктурой.
Масштабируемая архитектура GPU – Начните с малого и развивайтесь
Требования к инфраструктуре ИИ могут быстро меняться. Вместо замены всего сервера при необходимости увеличения мощности GPU, платформа может быть спланирована с учетом будущего расширения.
| Количество GPU | Типичная рабочая нагрузка | Позиционирование платформы |
|---|
| 1 GPU | Разработка ИИ, вывод, визуализация | Начальные профессиональные вычисления на GPU |
| 2–4 GPU | Глубокое обучение, рендеринг, профессиональный ИИ и HPC | Высокопроизводительные вычисления на нескольких GPU |
| 5–6 GPU | LLM, генеративный ИИ, обучение, вывод и исследования | Экстремальная плотность вычислений ИИ |
| 7–8 GPU* | Крупномасштабный ИИ, HPC и корпоративная инфраструктура GPU | Конфигурация платформы максимальной плотности |
*Конфигурации с большим количеством GPU зависят от выбранной материнской платы, шасси, размеров GPU, топологии PCIe, подсистемы питания и архитектуры охлаждения.
Разработано для серверных комнат, офисов, лабораторий ИИ и профессиональных сред
AI Neural Matrix не ограничивается традиционными развертываниями в центрах обработки данных. Его архитектура 4U для монтажа в стойку позволяет интегрировать его в широкий спектр профессиональных вычислительных сред.
- Серверные комнаты: Идеально подходит для выделенных корпоративных серверных и инфраструктур ИИ
- Центры обработки данных: Подходит для развертываний с высокой плотностью вычислений на GPU с соответствующей инфраструктурой питания и охлаждения
- Корпоративные офисы: Может быть развернут в подходящей выделенной серверной/ИТ-комнате с соответствующей инфраструктурой HVAC и электроснабжения
- Лаборатории ИИ: Отлично подходит для разработки ИИ, исследований и обучения моделей
- Университеты: Подходит для исследований, инженерии, моделирования и общих вычислений на GPU
- Частные центры обработки данных: Подходит для организаций, создающих собственную инфраструктуру ИИ
- Инженерные среды: Подходит для моделирования, CAD, визуализации и вычислительных нагрузок
- Производственная инфраструктура ИИ: Подходит для корпоративного вывода и приложений с ускорением GPU
Гибкость развертывания
Сервер может быть установлен в серверной комнате, офисной ИТ-комнате, лаборатории, частном центре обработки данных или другой подходящей профессиональной среде. Он не требует специализированного центра обработки данных только потому, что использует кастомное водяное охлаждение. Однако установка должна обеспечивать адекватное кондиционирование/вентиляцию, электрическую мощность, место в стойке и контроль окружающей среды для выбранной конфигурации.
Почему этот сервер лучше, чем обычная высокопроизводительная рабочая станция
- Форм-фактор 4U для монтажа в стойку для профессионального развертывания инфраструктуры
- 6× профессиональных GPU RTX PRO 6000 Blackwell
- 576GB общей физической видеопамяти GPU
- 96-ядерный / 192-поточный процессор Threadripper PRO
- 512GB системной памяти ECC
- 8TB хранилище PCIe Gen5 NVMe
- Кастомное водяное охлаждение CPU + GPU
- Архитектура с несколькими блоками питания высокой мощности
- Разработано для длительных многопроцессорных нагрузок
- Потенциал для будущего расширения GPU
- Подходит для корпоративных и профессиональных вычислительных сред
Идеальные приложения
- Разработка больших языковых моделей
- Генеративный ИИ
- Вывод LLM
- Обучение моделей ИИ
- Точная настройка моделей ИИ
- Генерация с дополнением извлеченных данных (RAG)
- Компьютерное зрение
- Обработка естественного языка
- Мультимодальный ИИ
- Глубокое обучение
- Корпоративный вывод ИИ
- Научные вычисления
- Высокопроизводительные вычисления
- Инженерное моделирование
- VFX и анимация
- Профессиональная визуализация
- Научно-исследовательские лаборатории ИИ
- Университетские исследования
- Частные центры обработки данных ИИ
- Виртуализация GPU
- Многопользовательские вычисления на GPU
Ключевые характеристики
| CPU | AMD Ryzen Threadripper PRO 9995WX – 96 ядер / 192 потока |
| GPU | 6× NVIDIA RTX PRO 6000 Blackwell |
| Память GPU | 96GB GDDR7 на GPU / 576GB объединенной физической памяти GPU |
| Системная память | 512GB DDR5 ECC 5600MHz |
| Хранилище | 2× 4TB PCIe Gen5 NVMe SSD – Всего 8TB |
| Форм-фактор | Сервер GPU высокой плотности 4U |
| Охлаждение | Кастомное полнофункциональное водяное охлаждение для CPU и GPU |
| Блоки питания | 5× 2000W 80 PLUS Platinum БП |
| Масштабируемость GPU | Конфигурируемая архитектура платформы до 8 GPU, в зависимости от конфигурации |
| Операционные системы | Linux / Windows Server |
Часто задаваемые вопросы
1. Зачем использовать водяное охлаждение для AI-сервера с 6 GPU?
Шесть высокопроизводительных GPU могут выделять значительное количество тепла во время длительных рабочих нагрузок ИИ и вычислений. Кастомное водяное охлаждение обеспечивает эффективный механизм теплопередачи для CPU и GPU и может помочь поддерживать более стабильные тепловые условия при длительных нагрузках.
2. Водяное охлаждение лучше воздушного?
Для такой конфигурации с высокой плотностью нескольких GPU, кастомное водяное охлаждение может обеспечить значительные преимущества в управлении температурой по сравнению с полным использованием обычного воздушного охлаждения. Оно позволяет передавать тепло через жидкостный контур, а не полагаться исключительно на большие объемы воздушного потока через область GPU.
3. Это то же самое, что обычный AIO водяной охладитель?
Нет. Система использует кастомную архитектуру охлаждения всей системы, разработанную для CPU и нескольких GPU. Это принципиально отличается от стандартного однокомпонентного AIO охладителя, обычно используемого для настольных CPU.
4. Могу ли я установить этот сервер в офисе?
Да. Система может быть развернута в офисной среде при условии наличия подходящей выделенной ИТ/серверной зоны с достаточным кондиционированием, вентиляцией, электрической мощностью, местом в стойке и контролем окружающей среды. Для конфигурации с шестью GPU мы настоятельно рекомендуем выделенную серверную/ИТ-комнату, а не размещение системы непосредственно рядом с сотрудниками в обычном офисном рабочем пространстве.
5. Требуется ли серверу центр обработки данных?
Нет. Выделенный центр обработки данных не является обязательным. Сервер может быть установлен в серверной комнате, офисной ИТ-комнате, лаборатории ИИ, исследовательском учреждении, частном центре обработки данных или другой подходящей профессиональной среде. Установка должна просто обеспечивать необходимые электропитание, охлаждение, вентиляцию и инфраструктуру.
6. Можно ли обновить конфигурацию GPU?
Платформа разработана с учетом будущего расширения. Дополнительные конфигурации GPU могут быть спланированы на основе доступной емкости PCIe, размеров GPU, требований к питанию, компоновки материнской платы и мощности охлаждения.
7. Может ли этот сервер работать непрерывно?
Платформа разработана для требовательных длительных рабочих нагрузок, таких как обучение ИИ, вывод, HPC и рендеринг. Фактическая непрерывная работоспособность зависит от рабочей нагрузки, температуры окружающей среды, условий установки, инфраструктуры питания и конфигурации системы.
8. Какие типы рабочих нагрузок ИИ может обрабатывать этот сервер?
Система подходит для разработки LLM, генеративного ИИ, обучения моделей, точной настройки, вывода ИИ, компьютерного зрения, НЛП, мультимодального ИИ, конвейеров RAG, научных вычислений и других рабочих нагрузок с ускорением GPU.
9. Является ли 576GB памяти GPU единым пулом памяти?
Нет. Цифра 576GB представляет собой объединенную физическую видеопамять шести GPU. Каждый RTX PRO 6000 имеет собственную 96GB память GPU. То, как приложения используют память на нескольких GPU, зависит от программной среды, рабочей нагрузки и архитектуры multi-GPU.
10. Можно ли настроить систему?
Да. В зависимости от требований, платформа может быть настроена с различным количеством GPU, емкостью памяти, хранилищем, сетевыми возможностями, подсистемой питания и конфигурациями охлаждения.
Создан для современного ИИ. Готов к вычислениям завтрашнего дня.
AI Neural Matrix 4U сочетает в себе экстремальную вычислительную мощность CPU, шесть профессиональных GPU Blackwell, массивную память GPU, системную память ECC, сверхбыстрое хранилище Gen5 NVMe, высокопроизводительную подсистему питания и кастомное полнофункциональное водяное охлаждение в компактной платформе 4U.
Будь то развертывание в серверной комнате, корпоративном офисе, лаборатории ИИ, научно-исследовательском учреждении или частном центре обработки данных, платформа обеспечивает мощную основу для организаций, создающих серьезную инфраструктуру ИИ и вычислений на GPU.
Начните с того объема GPU, который вам нужен сегодня, и планируйте свою инфраструктуру на завтра. AI Neural Matrix создан для масштабирования в соответствии с вашей рабочей нагрузкой.
