Исследование KAIST выявило, что массовое использование автономных ИИ-систем потребует сотни гигаватт энергии и может превысить возможности текущей инфраструктуры дата-центров
Искусственный интеллект056 минут назад
Новые поколения ИИ-агентов могут потреблять до 136,5 раз больше электроэнергии на один запрос по сравнению с обычными генеративными моделями. К такому выводу пришли исследователи Корейского института науки и технологий (Korea Advanced Institute of Science and Technology, KAIST), проведя первый всесторонний анализ энергозатрат автономных ИИ-систем, которые способны самостоятельно планировать действия и выполнять задачи.
В отличие от традиционных чат-ботов, которые формируют единственный ответ на запрос пользователя, ИИ-агенты многократно обращаются к большим языковым моделям (LLM), осуществляют интернет-поиск, запускают программный код, используют вычислительные инструменты и взаимодействуют с внешними программами. Это позволяет им решать более сложные задачи в программировании, исследованиях и автоматизации процессов, но требует значительно больше вычислительных ресурсов.
Команда под руководством профессора Минсу Рю (Minsoo Rhu) из Школы электротехники KAIST рассматривала ИИ-агентов как отдельный тип нагрузки для дата-центров. Учёные оценили их требования к вычислениям в сценариях, приближенных к реальному использованию.
Эксперименты показали, что ИИ-агенты увеличивают время обработки запросов до 153,7 раз по сравнению с традиционным подходом chain-of-thought (цепочка рассуждений), при котором модель последовательно формирует промежуточные шаги решения. При этом графические процессоры, на которых выполняются такие задачи, оставались без активных вычислений до 54,5% времени работы, ожидая завершения операций внешних инструментов.
Несмотря на простоту, энергозатраты продолжаются: оборудование дата-центра потребляет электричество даже в периоды ожидания. Для ИИ-агента на базе языковой модели с 70 млрд параметров среднее энергопотребление одного запроса составило 348,41 ватт·час. Это примерно в 136,5 раз больше, чем требуется обычному чат-боту для ответа на простой вопрос.
Учёные также смоделировали сценарий, при котором ИИ-агенты обрабатывают 13,7 млрд запросов в день — почти столько же, сколько ежедневно выполняет поисковая система Google. В таком случае инфраструктуре искусственного интеллекта потребовалось бы около 198,9 ГВт. Это почти половина средней мощности, потребляемой всеми объектами США, и значительно превышает возможности современных дата-центров для ИИ.
Компании OpenAI, Google, Microsoft и Anthropic уже активно развивают технологии ИИ-агентов как следующий этап после разговорных моделей, однако исследование подчеркивает, что дальнейшее развитие зависит не только от улучшения возможностей самих алгоритмов. Авторы работы отмечают, что для масштабирования ИИ потребуется одновременно повышать эффективность полупроводников, увеличивать загрузку GPU, оптимизировать архитектуру дата-центров и расширять энергетическую инфраструктуру. По словам Минсу Рю, конкуренция в сфере ИИ постепенно смещается от создания более «умных» моделей к разработке более эффективных систем.
Работа была представлена на международном симпозиуме IEEE по архитектуре высокопроизводительных вычислений (International Symposium on High-Performance Computer Architecture, HPCA). Авторы также открыли наборы тестов для оценки ИИ-агентов, чтобы ускорить разработку методов снижения одного из самых быстрорастущих расходов в области искусственного интеллекта — затрат на электроэнергию.
Darth SaharaИсточники:eurekalertИскусственный интеллект0Искусственный интеллектGPUПолупроводникиЭнергопотреблениеKAISTДата-центрыИИ-агенты56 минут назад
Источник