ИИ-агенты могут потреблять в 136 раз больше энергии, чем обычные чат-боты
Новое исследование KAIST впервые количественно оценило вычислительные затраты и энергопотребление ИИ-агентов — систем, способных самостоятельно рассуждать и выполнять сложные задачи. Команда ученых пришла к выводу, что такие агенты могут потреблять в 136,5 раза больше энергии на один запрос, чем обычный генеративный искусственный интеллект, например чат-бот.
Современные приложения на базе больших языковых моделей постепенно выходят за пределы систем, которые просто дают ответы на вопросы. Они эволюционируют в ИИ-агентов, которые могут самостоятельно планировать действия, использовать внешние инструменты, такие как веб-поиск и среда выполнения кода, а также решать сложные многошаговые задачи. Несмотря на быстрое внедрение таких систем, до сих пор почти не было данных о том, сколько ресурсов требуется для их работы.
Анализ показал, что агенты гораздо чаще обращаются к большим языковым моделям, чем традиционные системы с методом пошагового рассуждения. Каждое обращение учитывается как отдельный вычислительный запрос. Из-за многократных обращений значительно возрастает время ответа: задержка может увеличиваться в 153,7 раза. При этом графические процессоры простаивают до 54,5 процентов всего времени выполнения, поскольку система ожидает завершения операций внешних инструментов. Это создает новый тип неэффективности, при котором дорогостоящие GPU используются далеко не в полную мощность.
Команда также оценила энергопотребление ИИ-агентов в масштабах дата-центров. Агент с языковой моделью на 70 миллиардов параметров — масштабом, сравнимым с современными коммерческими ИИ-сервисами — в среднем потреблял 348,41 ватт-часа электроэнергии на один запрос. Это в 136,5 раза больше, чем требуется обычному генеративному ИИ для ответа на простой вопрос.
Кроме того, исследователи смоделировали сценарий, при котором агенты будут обрабатывать 13,7 миллиарда запросов в день — объем, эквивалентный текущему поисковому трафику Google. В таком случае суммарная потребность дата-центров в электроэнергии достигла бы 198,9 гигаватт, что значительно превышает мощность современных центров обработки данных, проектируемых на уровне нескольких гигаватт, и равно примерно половине среднего энергопотребления Соединенных Штатов.
