Искусственный интеллект изменил само понятие сервера. Современный AI-сервер, набитый GPU, потребляет в десять–тридцать раз больше энергии — и выделяет в десять–тридцать раз больше тепла — чем обычное стоечное оборудование, под которое проектировались дата-центры. Один этот факт ломает большинство предложений колокации на рынке.
Если вы обучаете или запускаете большие языковые модели, вопрос уже не просто «куда поставить сервер». Вопрос — «какой объект физически способен его запитать и охладить». В этом гиде разбираем, что делает дата-центр AI-ready, три способа получить GPU-вычисления и как выбрать площадку для размещения GPU-серверов — с фокусом на ситуацию в Казахстане и Центральной Азии.
Почему AI ломает обычную колокацию
Два десятилетия колокация проектировалась вокруг стабильного допущения: в стойке стоят серверы общего назначения, потребляющие примерно 5–10 кВт, с воздушным охлаждением. AI-нагрузки нарушают это допущение по всем осям.
Плотность мощности. Один AI-сервер с 8 GPU (например, узел NVIDIA HGX с восемью ускорителями H100 или H200) сам по себе потребляет 6–10 кВт. Заполните им стойку — и вы дойдёте до 40 кВт, 80 кВт, а для новейших систем класса B200 — до 120–130 кВт на стойку. Это в 10–30 раз плотнее обычной стойки. Большинство дата-центров не способны подать столько мощности на одну стойко-позицию, сколько бы площади вы ни арендовали.
Тепло. Каждый ватт мощности становится ваттом тепла. Воздушное охлаждение — прогон холодного воздуха через зал — исчерпывает ёмкость где-то на 20–30 кВт на стойку. Выше этого физика вынуждает переходить на жидкостное охлаждение: задние теплообменные двери, охлаждающие пластины direct-to-chip или полное погружение. Объект, предлагающий только стойки с воздушным охлаждением, вообще не способен разместить плотные GPU-кластеры.
Сеть. Распределённое обучение делит одну модель на десятки или сотни GPU, которые постоянно обмениваются градиентами. Это требует низколатентных высокоскоростных интерконнектов (InfiniBand или Ethernet с поддержкой RDMA на 200–800 Гбит/с) между узлами — а не обычного аплинка, достаточного веб-серверу.
Непрерывная и дорогая нагрузка. Прогон обучения может занимать дорогой GPU-кластер без остановки неделями. В отличие от веб-сервера, простаивающего ночью, AI-железо работает на полной мощности круглосуточно, что повышает ставки и на надёжность, и на стоимость электроэнергии.
Что делает дата-центр «AI-ready»
Прежде чем размещать GPU-серверы где-либо, убедитесь, что объект действительно способен их поддержать:
Высокая плотность мощности на стойку. Может ли объект подать 30, 50 или 100+ кВт на одну стойку или cage? Спрашивайте максимальную поддерживаемую плотность, а не только цену за юнит.
Поддержка жидкостного охлаждения. Для плотных кластеров уточните, поддерживает ли объект задние теплообменные двери или прямое жидкостное охлаждение, с соответствующей обвязкой и мощностью теплоотвода. Спрашивайте, какую плотность они способны охладить, а не только запитать.
Достаточная суммарная мощность. GPU-кластер измеряется в мегаваттах, а не киловаттах. Объекту нужна реальная законтрактованная энергомощность на площадке — и запас на рост по мере добавления узлов.
Надёжность для длительных задач. Скачок питания, перезапускающий двухнедельный прогон обучения, обходится дорого. Отказоустойчивая инфраструктура (см. Tier IV ниже) защищает длительные нагрузки от единичных отказов.
Низколатентная связность. Для inference, обслуживающего пользователей, время отклика определяют близость и качество сети. Для обучения важнее всего внутренняя фабрика между узлами.
Три способа получить GPU-вычисления
Единственного «лучшего» варианта нет — всё зависит от того, насколько непрерывно вы используете железо.
1. Аренда GPU-инстансов в облаке. Вы арендуете виртуальную GPU-ёмкость почасово. Самый быстрый старт, нулевые обязательства по железу, идеально для экспериментов, всплесков спроса и коротких дообучений. Компромисс: при высокой стабильной загрузке почасовая цена становится самым дорогим вариантом, и вы не контролируете ни само железо, ни то, где физически лежат данные.
2. Аренда выделенных GPU-серверов. Провайдер владеет физическими GPU-серверами и сдаёт их вам помесячно. Более предсказуемая стоимость, чем почасовое облако, без капитальных затрат, но вы ограничены выбором железа провайдера и по-прежнему не владеете активом.
3. Колокация собственных GPU-серверов. Вы покупаете GPU-оборудование и размещаете его в дата-центре, который обеспечивает питание, охлаждение, сеть и безопасность. Вы платите за место, питание и охлаждение — а не за GPU-час. При стабильной высокой загрузке на протяжении многолетнего срока службы железа это самая низкая стоимость в пересчёте на GPU-час, и вы сохраняете полный контроль над конфигурацией, данными и физическим доступом.
| Модель | Для чего лучше | Стоимость при высокой загрузке | Контроль над железом/данными |
|---|---|---|---|
| Облачные GPU-инстансы | Эксперименты, всплески, короткие задачи | Наивысшая | Нет |
| Аренда выделенных GPU | Предсказуемые среднесрочные нагрузки | Средняя | Ограниченный |
| GPU-колокация | Непрерывные долгосрочные нагрузки | Наименьшая | Полный |
Правило простое: чем непрерывнее работают ваши GPU и чем дольше вы будете держать железо, тем сильнее выигрывает колокация. Компании часто стартуют в облаке, чтобы проверить сценарий, а затем переносят стабильные нагрузки в колокацию, чтобы снизить стоимость и вернуть контроль.
Обучение vs inference: разная инфраструктура
Две фазы AI имеют разные инфраструктурные профили, и смешивать их — ошибка.
Обучение — это batch-задача: огромные плотные кластеры, работающие на полной мощности дни и недели, тесно связанные между собой и крайне чувствительные к прерываниям. Обучение вознаграждает максимальную плотность мощности, жидкостное охлаждение и отказоустойчивость. Единичный отказ, перезапускающий прогон, — это реальные деньги.
Inference — это сервис: он должен отвечать пользователям за миллисекунды, масштабируется вместе с трафиком и зависит от латентности и географической близости. Inference часто работает на меньших конфигурациях ближе к пользователям, и его требование к надёжности — это непрерывность обслуживания, а не защита длительного вычисления.
Серьёзная AI-операция нередко разделяет эти две задачи — плотные колоцированные кластеры для обучения, распределённая ёмкость для inference — и хороший дата-центр способен разместить оба.
Почему длительные обучения тяготеют к Tier IV
Чем длиннее и дороже прогон обучения, тем больше стоит единичный отказ инфраструктуры. Отказ питания или охлаждения, вынуждающий к перезапуску, может обнулить дни вычислений и сотни тысяч долларов времени GPU.
Здесь и важен уровень надёжности. Объект уровня Tier IV отказоустойчив: он одновременно ведёт несколько активных независимых путей питания и охлаждения, так что любой единичный компонент может выйти из строя без какого-либо воздействия на нагрузку. Для двухнедельного прогона стоимостью в миллион долларов это не роскошь — это защита инвестиции. (Полный разбор классов надёжности — в нашем гиде о том, что такое Tier IV.)
GPU-колокация в Казахстане
Для компаний, работающих в Казахстане и Центральной Азии, размещение AI-инфраструктуры локально стало и практичным, и во многих случаях юридически необходимым.
Резидентность данных. Закон РК требует хранить персональные данные граждан на серверах, физически расположенных в Казахстане. Если ваши AI-системы обрабатывают такие данные, размещение внутри страны — не опция. (См. наш гид о локализации данных в Казахстане.)
Мощность на масштабе. AI-кластеры измеряются мегаваттами. Региональное ограничение — редко площадь; это законтрактованная мощность. Именно объект с существенной резервированной энергоинфраструктурой делает возможным плотное развёртывание GPU.
Преимущество холодного климата. Охлаждение — одна из крупнейших статей операционных расходов AI-кластера. Континентальный климат Казахстана с длинными холодными сезонами снижает энергию, нужную для отвода тепла, и повышает общую эффективность по сравнению с площадками в жарком климате.
Надёжность и близость. Объект Tier IV в Астане защищает длительные обучения от единичных отказов и одновременно размещает inference близко к региональным пользователям, с низколатентной связностью по Центральной Азии.
Akashi Data Center в Астане построен под эпоху AI: сертифицированный Uptime Institute Tier IV, с резервированной энергоинфраструктурой 100 МВт, резервированием 2N+1 по питанию и охлаждению и четырьмя независимыми оптическими вводами — первый и единственный объект Tier IV в Центральной Азии. Для организаций, размещающих GPU-серверы под обучение или inference, именно это сочетание энергомощности, отказоустойчивости и внутристрановой резидентности данных и требуется плотным AI-нагрузкам.
Частые вопросы
Что такое GPU-колокация?
GPU-колокация — это размещение ваших собственных GPU-серверов (для обучения или inference AI-моделей) в стороннем дата-центре, который обеспечивает необходимые им питание, охлаждение, сеть и физическую безопасность. Оборудование принадлежит вам и полностью под вашим контролем; дата-центр предоставляет среду.
Почему обычный дата-центр не может разместить GPU-серверы?
Один AI-сервер (например, узел с 8×H100) потребляет 6–10 кВт, а полная стойка таких серверов — свыше 40–130 кВт. Обычные стойки в колокации рассчитаны на 5–10 кВт и используют воздушное охлаждение, которое не способно отвести столько тепла. AI-плотность требует усиленного распределения питания и, выше определённого порога, жидкостного охлаждения.
Арендовать GPU в облаке или размещать собственные серверы?
Арендуйте в облаке для коротких, переменных или экспериментальных нагрузок — вы платите почасово и запускаетесь за минуты. Размещайте собственное оборудование, когда GPU работают непрерывно месяцами: владеть серверами и платить только за место, питание и охлаждение существенно дешевле в пересчёте на GPU-час при стабильной высокой загрузке, и вы сохраняете полный контроль над железом и данными.
Нужен ли Tier IV для длительных задач обучения?
Чем дороже прогон обучения, тем больше стоит единичный отказ питания или охлаждения — прерывание может обнулить дни вычислений и дорогое время GPU. Отказоустойчивость Tier IV означает, что любой единичный компонент может выйти из строя без остановки нагрузки, поэтому длительные и дорогие обучающие кластеры тяготеют к высшему уровню надёжности.
Где казахстанской компании размещать GPU-серверы для AI?
В дата-центре, физически расположенном в Казахстане, если задействованы персональные данные граждан РК — закон требует хранить их внутри страны. Помимо комплаенса, локальный Tier IV объект с высокой плотностью мощности, холодным климатом (снижающим затраты на охлаждение) и низколатентной региональной связностью хорошо подходит для AI-нагрузок.
Планируете развёртывание GPU под AI в Центральной Азии? Изучите колокационную инфраструктуру Akashi — первый и единственный в Центральной Азии сертифицированный Uptime Institute Tier IV дата-центр, построенный под высокоплотные нагрузки эпохи AI, Астана, Казахстан.