10.04.2025

Серверы для работы с нейросетью DeepSeek от компании «Гравитон»

«Гравитон» представляет крупное обновление линейки реестровых серверов для работы с ИИ. Решение создано на базе сервера «Гравитон» С2122ИУ с материнской платой «Урал» отечественной разработки и поддерживает от двух до шести производительных GPU, адаптированных к проведению высоконагруженных расчетов. Все конфигурации внесены в Реестр российской промышленной продукции — номер записи ЕЦРТ.466535.001-34.

Эти серверы подготовлены к локальной работе c генеративными моделями, в частности — с DeepSeek. Выбор DeepSeek обусловлен открытостью, масштабируемостью и готовностью ИИ-модели к использованию на практике. На ее базе возможно развернуть сервисы с надежной защитой ключевых данных, настроить системы и сценарии работы с учетом специфики отрасли — промышленность, здравоохранение, логистика, банкинг и др. Несмотря на общую сложность технологического стека и стремительного обновления моделей ИИ, серверное решение «Гравитон» с DeepSeek оптимизировано и готово к высокопроизводительной работе.

Технические характеристики новых серверов:

• до 3 двухслотовых GPU-карт или 6 однослотовых GPU-карт,
• до 2 lntel Xeon Scalable 4-го и 5-ого поколения,
• оперативная память до 8 Тб,
• до 27 SFF HDD горячей замены, полное количество накопителей — до 29 модулей,
• корпус высотой 2U обладает эффективной системой вентиляции, которая обеспечит работу оборудования под высокими нагрузками,
• совместимость РЕД ОС и РОСА «Хром».

Решение с DeepSeek поддерживает работу ИИ для архитектуры x86, запуск PaaS-сервисов для создания программного обеспечения с ИИ. Оно включает работу с широким набором репозиториев моделей и развертывание сервисов «в один клик».

Сервер «Гравитон» С2122ИУ обеспечивает несколько вариантов экономичных решений с использованием операций с плавающей запятой FP16. Это позволяет значительно повысить точность по сравнению с INT8, снижая уровень ошибок при генерации длинных текстов, мультимодальном выводе, создании изображений и т.д.