Центр обработки данных – это здание, оборудованное для постоянной работы компьютеров. Искусственный интеллект мобилизует процессоры, память и быстрые сети как для обучения, так и для реагирования на пользователей. За разговором по телефону нам нужно включить эти машины, переместить данные и эвакуировать тепло. Вот что происходит между вопросом и его ответом.
Когда пользователь просит ИИ обобщить документ, его телефон может в первую очередь служить экраном и точкой доступа. В удаленной службе запрос соединяется с серверами. Они выполняют модель, а затем возвращают результат. Эти серверы расположены в одном или нескольких центрах обработки данных, обычно называемых «центром обработки данных».
Здание имеет такое же значение, как и компьютеры, в которых оно находится. Мощный чип становится непригодным для использования, если ему не хватает мощности, перегрева или ожидания информации в насыщенной сети. Таким образом, фактическая емкость центра обработки данных зависит от всей цепочки. Накопления дорогостоящих ускорителей недостаточно для быстрого и надежного обслуживания.
Центр обработки данных объединяет расчет, хранение и сеть
Внутри серверы часто принимают форму корпусов, сложенных в шкафы, называемые бухтами или стойками. Каждая машина объединяет процессоры, память и сетевые интерфейсы. Некоторые запускают приложения, другие управляют базами данных или хранят файлы. Складское оборудование сохраняет документы, изображения, программное обеспечение и резервные копии.
Коммутаторы и маршрутизаторы передают информацию между этими машинами и наружу. Оптические волокна соединяют центр с сетями операторов. В приложении для онлайн-торговли несколько серверов могут вмешаться, чтобы отобразить каталог, идентифицировать клиента и зарегистрировать заказ. Центр обработки данных существовал задолго до разговорных помощников.
Центр может принадлежать компании, которая использует его для собственных нужд. В совместном размещении поставщик обеспечивает пространство, питание, охлаждение и подключение; клиент устанавливает там свое оборудование. С помощью облака пользователь арендует компьютерные ресурсы или сервис, не выбирая каждую машину. Поэтому «облако» основано на физических объектах, где-то эксплуатируется и поддерживается.
Почему IIA использует GPU
Центральный процессор или CPU по-прежнему необходим для управления программами и многими общими операциями. Но нейронные сети делают огромные вычисления на таблицах чисел. GPU, изначально разработанные для графики, могут выполнять большое количество операций параллельно. Они особенно подходят для этих повторяющихся процедур. Другие специализированные ускорители, такие как ТПУ Google, также выполняют эту функцию.
Эта специализация меняет расположение комнат. Nvidia описывает, например, свою систему GB200 NVL72 как отсек из 72 GPU Blackwell и 36 CPU Grace. Компоненты взаимодействуют через быстрое соединение, и в сборке используется жидкостное охлаждение. Этот продукт иллюстрирует уровень интеграции, достигнутый некоторым оборудованием ИИ. В нем представлены не все центры обработки данных, многие из которых до сих пор размещают традиционные серверы.
Память – это еще одно ограничение. Параметры модели, эти числа, скорректированные во время обучения, должны быть доступны для расчета. Необходимо также поддерживать промежуточные результаты. Модель может превышать емкость памяти одного ускорителя: работа затем распределяется по нескольким чипам. Торговый поток становится таким же важным, как и сила каждого.
Обучение модели: работа машин вместе
Обучение создает возможности модели на основе данных. Для языковой модели классической задачей является прогнозирование продолжения текста. Система производит оценку, измеряет свою ошибку, а затем корректирует ее параметры. Он повторяет этот процесс на многих примерах. Поэтому обучение включает в себя расчеты, а также чтение и подготовку данных.
Чтобы ускорить работу, несколько машин могут обрабатывать различные части набора данных. Затем они должны поделиться информацией, необходимой для обновления модели. Другой метод напрямую распределяет слишком большую модель между несколькими ускорителями. Эти подходы можно комбинировать. Распределенные вычислительные инструменты, в том числе PyTorch, организуют это сотрудничество и синхронизацию результатов.
Поэтому внутренняя сеть используется не только для получения вопросов от общественности. Это позволяет машинам строить модель вместе. Если они проводят слишком много времени в ожидании своих соседей, часть оборудования остается недоиспользованной. Хранение также должно идти в ногу: графические процессоры без данных больше не работают, потому что они более поздние.
Оператор регулярно поддерживает промежуточные состояния обучения. Эти резервные копии позволяют возобновить после сбоя, не повторяя весь расчет. Он также должен проверять качество модели: большая инфраструктура увеличивает доступные средства, но не гарантирует хороших данных или справедливых ответов.
Вывод: работа, выполняемая при каждом использовании
После обучения модель может быть использована: этот этап называется выводом. Распознавание объекта на изображении, транскрибирование предложения или написание ответа являются примерами вывода. Обычное использование модели не изменяет автоматически ее параметры. Возможная будущая эксплуатация бирж для нового обучения — это отдельный процесс и правила обслуживания.
Для текстового помощника запрос преобразуется в единицы, называемые токенами. Знак может соответствовать слову, фрагменту слова или знаку. Модель обрабатывает контекст и постепенно вычисляет ответ. В саморегрессивных языковых моделях уже произведенные токены используются для определения следующего. Длинный ответ требует больше шагов, чем короткий ответ, при прочих равных условиях.
Программное обеспечение сохраняет некоторые промежуточные представления в кэше, чтобы избежать повторения одних и тех же вычислений. Этот прирост скорости использует память. По мере увеличения контекста и количества одновременных разговоров этот ресурс учитывается. Операторы также объединяют запросы, чтобы лучше занимать ускорители, при этом ограничивая ожидания каждого пользователя.
Обучение — это операция, направленная на построение модели. Затем вывод повторяется для каждого использования. Индивидуальный запрос мобилизует гораздо меньше расчетов, чем полное обучение, но миллионы запросов являются постоянной деятельностью. Широко используемая услуга должна иметь емкость для пиков, а не только для среднесуточной нормы.
Ответ не обязательно является поиском в Интернете
Шаблон может генерировать текст из его параметров и предоставленного контекста без консультации с Интернетом. Когда помощник ищет свежую информацию, используются другие компоненты: поисковая система, документальные базы данных, инструменты восстановления и программы проверки. Полученные документы передаются модели в ее контексте. Этот механизм не означает, что вся система сразу же переквалифицируется.
Путь приложения может, таким образом, объединить несколько шагов: проверить права доступа, найти документ, запустить модель и сохранить результат. Эти операции не обязательно происходят на одной машине или в одном здании. Сбой может повлиять на один из этих шагов без остановки всех серверов.
Существует также локальный ИИ, выполняемый на компьютере, телефоне или промышленном оборудовании. Он может работать без отправки данных в удаленный центр, в зависимости от приложения. Размер модели, доступная память и время отклика определяют выбор. Поэтому крупные центры обработки данных не являются незаменимыми для всех видов использования ИИ, но они позволяют совместно использовать значительные мощности.
Электричество становится рабочим состоянием
Оборудование получает энергию через трансформаторы, электрические панели и распределительные системы. Инверторы обеспечивают непрерывность во время определенных нарушений. Аварийные устройства принимают на себя в соответствии с архитектурой сайта. Охлаждение также должно оставаться работоспособным: недостаточно поддерживать работу серверов без снятия их тепла.
В своем отчете за 2026 год Международное энергетическое агентство оценивает глобальное потребление электроэнергии центрами обработки данных в 2025 году в 485 тераватт-часов. Он прогнозирует около 950 тераватт-часов в 2030 году, что составляет около 3% мирового спроса на электроэнергию. Вторая цифра — это проекция, а не уже наблюдаемое потребление. Первый охватывает все центры обработки данных, а не только ИИ.
Также необходимо различать силу и энергию. Проект мощностью 100 мегаватт описывает мощность или потребность, периметр которой должен быть указан. Для целей расчета постоянная нагрузка в 100 мегаватт в течение 24 часов будет потреблять 2400 мегаватт часов. Это не доказывает, что рекламируемый сайт такого размера уже работает, и не использует все свои возможности постоянно.
Прохладные чипы без путаницы схемы и потребления воды
Большая часть электроэнергии, потребляемой компьютерным оборудованием, заканчивается теплом. Объекты должны передавать его наружу. В воздушной системе вентиляторы циркулируют воздух вокруг серверов. Компоновка разделяет холодные и горячие потоки, чтобы избежать ненужного охлаждения смеси.
С очень плотными чипами жидкость может захватывать тепло вблизи компонентов через охлаждающие пластины. Затем это тепло соединяет обменники и строительную систему. «Жидкое охлаждение» не означает, что вода систематически выделяется после каждого прохода. Внутренняя схема может работать в замкнутом контуре, в то время как внешнее устройство использует испарение или нет.
Испарительные башни потребляют воду для рассеивания тепла. Другие системы ориентированы на внешние ограничения воздуха, климата и оборудования. Поэтому для сравнения двух проектов необходимо изучить фактическое потребление воды, источник ее снабжения и сезон. Единственное количество графических процессоров не рассчитывает это влияние.
Что предпринимает ЕС и что он оставляет после себя
Общий показатель, EUP, сообщает об общей энергии, потребляемой центром, для ИТ-оборудования. ПУЭ 1,2 означает, что на каждые 100 энергоблоков, используемых этим оборудованием, участок потребляет в общей сложности 120. 20 дополнительных блоков включают охлаждение и электрические потери. Это пример расчета, а не универсального среднего.
ЕСП измеряет эффективность инфраструктуры поддержки. В нем не говорится, выполняют ли серверы полезную работу, эффективна ли модель или электричество низкоуглеродное. Эффективный центр может потреблять больше, если он значительно увеличивает свою активность. Чтобы судить об услуге ИИ, вы также должны посмотреть на произведенную работу, используемый материал и источник тока.
Стоимость зависит от использования, а не только от здания
Владелец финансирует землю, здание, соединения, электрооборудование и машины. К операции добавляются энергия, сеть, техническое обслуживание и команды. Специализированное оборудование представляет собой капитал и должно использоваться в достаточной степени, чтобы сделать услугу экономически жизнеспособной. Скорость исполнения не решает эту проблему в одиночку.
Для клиента счет-фактура может охватывать период аренды машин, объем хранения или использование API. В последнем случае поставщик может взимать плату за обработанные токены и продукты. Этот коммерческий тариф напрямую не обеспечивает потребление электроэнергии спросом. Выбранная модель, длина контекста, запрашиваемые инструменты и дополнительные расчеты варьируют фактическую работу.
Это увеличивает потребность в расчетах, но в основном требует от операторов координации нескольких ресурсов. Новый номер не вводится в эксплуатацию только потому, что его серверы были доставлены. Электрическое соединение, сеть, охлаждение и эксплуатационные испытания должны быть готовы одновременно.
Комментарии