Инфраструктура для AI: что учесть до запуска проекта
Logo

Инфраструктура для AI: что учесть до запуска проекта

Инфраструктура для AI: что учесть до запуска проекта

Инфраструктура для AI: что учесть до запуска проекта

  • Дата публикации: 21.10.2026
  • Тематика:Решения для ЦОД
  • Решение:AI, Инфраструктура для AI, Серверы, СХД, Коммутаторы для ЦОД

Искусственный интеллект быстро переходит от экспериментов к рабочим задачам: компании используют чат-боты и ассистентов, запускают собственные модели на корпоративных данных. Но традиционная ИТ-инфраструктура не рассчитана на обучение и работу больших языковых моделей — и узкие места обнаруживаются уже после закупки оборудования.

Владимир Пластов, технический директор Netland, на конференции «ИТ-Решения 2026»На конференции «ИТ-Решения 2026» технический директор Netland Владимир Пластов рассказал, какие требования задачи AI предъявляют к инфраструктуре, какие архитектуры и технологии применяются и где разворачивать AI — в собственном ЦОД, в облаке или в гибридном варианте. В этой статье — главное из доклада.

Энергопотребление и охлаждение: первое, что нужно проверить

Начинать любой AI-проект стоит с оценки текущей инфраструктуры ЦОД: готова ли она к новой нагрузке.

Основа вычислительного узла для AI — графические ускорители (GPU). Ещё год назад один ускоритель потреблял около 300 Вт, сегодня — 700 Вт и более. Когда в узел устанавливают несколько таких ускорителей, растут и энергопотребление, и тепловыделение.

В типовом ЦОД на стойку подают 5–10 кВт. Одного-двух серверов для AI достаточно, чтобы полностью занять этот ресурс, — и остальному оборудованию в стойке питания уже не хватит. Всё выделяемое тепло нужно отводить: возможно, понадобится жидкостное охлаждение или более производительная схема холодного и горячего коридоров. Эти вопросы нужно просчитать до закупки, а не после.

Узкие места AI-инфраструктуры: сеть, хранение данных, питание и охлаждение

Как масштабировать AI-инфраструктуру

Есть два основных подхода.

Вертикальное масштабирование — наращивание мощности одного сервера: добавить графические ускорители, заменить процессоры, увеличить оперативную память, перейти на NVMe-диски. Подходит, пока задачи помещаются в рамки одного узла.

Горизонтальное масштабирование — добавление новых узлов той же или другой конфигурации. Нужно, когда задач и моделей становится больше и одного сервера недостаточно.

Вертикальное (Scale-Up) и горизонтальное (Scale-Out) масштабирование AI-инфраструктуры

Из горизонтального масштабирования вырастает дезагрегация ресурсов: вычислители, процессорные мощности и память объединяются в общие пулы, из которых ресурсы выделяются под конкретные задачи. Принцип тот же, что у серверной виртуализации: вместо «один сервер — одна задача» ресурсы гибко распределяются и используются полностью.

Сеть: почему стандартная шина становится узким местом

Графические ускорители обмениваются данными с остальными компонентами сервера по шине PCI Express — её пропускная способность около 128 ГБ/с. При этом современный ускоритель, например NVIDIA H200, внутри себя работает на скорости 4,8 ТБ/с. Шина не успевает — поэтому производители наращивают память прямо в графических чипах, а ускорители соединяют напрямую.

  • NVLink — интерконнект NVIDIA, который напрямую соединяет графические ускорители со скоростью до 900 ГБ/с. Подходит для вертикального масштабирования внутри одного сервера.
  • NVSwitch — коммутатор из нескольких чипов NVLink, который объединяет ускорители с минимальными задержками. Нужен, когда узлов много.

Соединение графических ускорителей через NVLink и шину PCIe

Для связи между серверами строят сетевые фабрики на одной из двух технологий:

  • InfiniBand — изначально создавалась для суперкомпьютеров и обеспечивает минимальные задержки и огромную пропускную способность. Сегодня технологию развивает NVIDIA.
  • Ethernet с RoCEv2 (RDMA over Converged Ethernet) — бюджетнее InfiniBand и догоняет его по возможностям: протокол позволяет серверам напрямую обмениваться данными в памяти друг друга, не нагружая процессор. Поддержку RoCEv2 имеют, например, коммутаторы для центров обработки данных Netland.

Сетевые фабрики для AI: InfiniBand и Ethernet

GPUDirect Storage: данные напрямую в графический ускоритель

Ещё одно узкое место — передача данных от системы хранения к ускорителю. При классической схеме данные проходят через центральный процессор и оперативную память сервера. Технология NVIDIA GPUDirect Storage на базе RDMA передаёт их напрямую из системы хранения данных в память GPU — быстрее и с минимальными задержками.

Передача данных без GPUDirect Storage и с GPUDirect Storage

Fibre Channel для этого не подходит: он построен на блочном доступе и SCSI-командах, которые обрабатывает центральный процессор. Для некритичных задач его можно использовать, но если вы строите большой ЦОД под AI, такие технологии стоит заложить сразу — чтобы не перестраивать инфраструктуру позже.

Где разворачивать AI: свой ЦОД, облако или гибрид

AI-инфраструктура: on-premise или облако

Собственная инфраструктура (on-premise). Самый распространённый вариант у белорусских заказчиков: компания покупает вычислительные узлы с процессорами и графическими ускорителями, системы хранения данных и сетевое оборудование, задачи выполняются в её ЦОД. Netland поставляет для таких проектов серверы Cisco, Lenovo, Dell и Supermicro — привычные заказчикам решения enterprise-класса, с системами мониторинга и управления, которыми они уже пользуются.

Облако. В Беларуси появился новый формат: облачная AI-инфраструктура внутри страны. Партнёр Netland hoster.by предоставляет оборудование и готовые LLM-модели в своих ЦОД. Важно, что инфраструктура находится в контуре безопасности, аттестованном Оперативно-аналитическим центром, — заказчику не нужно аттестовывать собственный ЦОД под задачи AI. Доступны bare-metal и облачные серверы, а оплата возможна по модели pay-as-you-go — только за использованные токены. Модели построены на open source, поэтому нет привязки к вендору.

Гибридный вариант. Вычислительный узел устанавливается в собственном ЦОД, а часть задач выполняется в облаке. Конфиденциальные данные остаются внутри компании, а облачные мощности подключаются там, где они нужны, — это помогает сократить расходы на токены облачной модели.

С чего начать

Подбор оборудования зависит от модели, которую вы будете использовать. Требования к ресурсам обычно формулируют разработчики: они тестируют модель и понимают, сколько и каких графических ускорителей и процессоров нужно. Если объёмы пока неясны, начните с облака: загрузите проект, оцените нагрузку и уже затем решайте, расти в собственном ЦОД или остаться у облачного провайдера.

Если решение будет расти внутри компании, можно начать с минимальной конфигурации — нескольких ускорителей среднего уровня — и наращивать её по мере роста. Флагманские модели вроде NVIDIA H100 или H200 нужны далеко не для каждой задачи. Также важно учитывать, что не всё оборудование сегодня доступно к поставке в Беларусь.

Отдельная тема — безопасность AI-инфраструктуры. Подробнее о рисках корпоративного AI рассказал на конференции Семён Лапко, Axoft: видео доклада.

Обсудим ваш проект

Netland поможет оценить готовность инфраструктуры к задачам AI: рассчитать энергопотребление и охлаждение, подобрать серверы, системы хранения и сетевое оборудование, спроектировать ЦОД или гибридную схему с облаком. Оставьте заявку — обсудим вашу задачу.

Видеозапись доклада

Мы обновили наши условия

На сайте netland.by используются cookie для обеспечения удобства пользователей, предоставления персонализированных рекомендаций, сбора аналитической статистики.

Нажимая "Продолжить", вы даете согласие на обработку персональных данных.