Серверы DEPO Storm 3500 получили возможность заказа до 2-х ускорителей H200

Публикуем анонс DEPO Computers о новых возможностях конфигурации серверов DEPO Storm 3500

Появилась возможность заказа серверов DEPO 3500 с возможностью установки до 2 ускорителей H200 в сервер 2U. Такое решение открывает новые возможности в работе с большими языковыми моделями (LLM) и высокопроизводительными научными вычислениями.

Мы уже протестировали работу серверов и видим ряд мощных преимуществ подобной связки:

1. Ускорители H200 оснащены огромным объёмом быстрой памяти HBM3e. Это позволяет работать с большими языковыми моделями, имеющими до 70 миллиардов параметров, не сталкиваясь
   с проблемами нехватки собственной памяти карты или необходимости распараллеливания модели на несколько ускорителей.

2. Быстрый инференс в реальном времени без задержек, в том числе при работе с RAG-системами.

3. Собственный контроль над данными и процессами. Двух ускорителей достаточно для разворачивания собственной ИИ-инфраструктуры для большинства задач бизнеса в закрытом контуре,
   без аренды облака.

Решение идеально подойдет командам, которые развивают собственные ИИ‑сервисы: внедряют RAG‑системы, обучают или адаптируют LLM под задачи бизнеса, а также для интеграторов, собирающих компактные, но мощные ИИ‑кластеры.

источник

__

Компания ООО "Технологии и Машины" является авторизованным партнёром компании DEPO Computers.

Подписывайтесь на наши социальные сети и добавляйте новостной раздел в закладки, чтобы ничего не пропустить. По вопросам консультации и приобретения обращайтесь к нашим специалистам:
+7 (495) 981-60-70
sales@t-mash.ru