Сколько энергии потребляет ChatGPT?

Если вы покопаетесь в интернете в поисках ответа на вопрос, сколько энергии потребляет ChatGPT, то, скорее всего, найдете что-то вроде этого:

"ChatGPT потребляет в 10 раз больше электроэнергии, чем поиск в Google".

Если вы пойдете по следу, это утверждение приведет вас к 170-страничный отчет МЭАв котором приводится ссылка на статью, цитирующую вероятную оценку главы Alphabet... основанную на данных 2009 года. Вот это да!

В действительности, новые поисковые операции Google примерно в 10 раз эффективнее, чем в 2009 году, и реальное потребление энергии на запрос ChatGPT сегодня гораздо ниже, чем предполагали ранние тревожные звоночки.

Новые модели, такие как GPT-4o, добились значительных успехов в повышении эффективности, поэтому цифры в заголовках устарели и, честно говоря, немного вводят в заблуждение.

Какова же реальная картина? Именно в этом мы и разбираемся.

Вы сможете сделать следующие выводы:

• Что скрывается под капотом ChatGPT?
• Сколько энергии потребляет один поиск ChatGPT?
• Сколько энергии он потребляет по сравнению с Google Search и другими моделями ИИ?
• Что делает OpenAI для уменьшения своего воздействия?
• Какие шаги вы можете предпринять как пользователь, чтобы сделать использование ИИ более ответственным?

Давайте разберемся.

Что представляет собой ChatGPT?

Марк Руссинович, технический директор Microsoft Azure, дал нам возможность заглянуть за занавес. в подкасте что Microsoft опубликовала в 2023 году. 

По его словам, Microsoft создала инфраструктуру, способную обучать модели с сотнями миллиардов параметров. 

GPT-3, например, имел 175 миллиардов параметров, что уже кажется слишком много, пока вы не услышите, что модель Мегатрон-Тьюринг от Microsoft имеет 530 миллиардов.

В аппаратном плане оригинальный суперкомпьютер 2020 OpenAI объединял более 285 000 CPU-ядер AMD InfiniBand и 10 000 GPU NVIDIA V100 Tensor Core. 

Новая серия виртуальных машин H100 объединяет до восьми графических процессоров NVIDIA H100 Tensor Core на одну виртуальную машину и масштабируется до тысяч. 

Короче говоря, если вы задаетесь вопросом, что дает ChatGPT, то ответ один: все это.

Все ядра, все GPU, вся пропускная способность сети, о которой вы только могли мечтать.

Расчетное энергопотребление ChatGPT

Теперь перейдем к главному вопросу: сколько энергии потребляет ChatGPT на один вопрос? 

Вы можете ожидать, что он будет апокалиптическим, как будто он растапливает ледники с каждой набранной вами подсказкой. 

Но на самом деле, по последним оценкам, типичный запрос ChatGPT на GPT-4o потребляет около 0,3 ватт-часа (Вт-ч). 

Это примерно в десять раз меньше, чем по более старым (и, скорее всего, неточным) оценкам начала 2023 года, согласно которым этот показатель составлял 3 ватт-часа. 

Скачок в эффективности объясняется улучшением моделей, более совершенным оборудованием и осознанием того, что старые оценки были слишком пессимистичны в отношении количества токенов.

Для масштаба, 0,3 ватт-часа - это меньше энергии, чем потребляет ваш ноутбук, пока вы разогреваете кофе. 

Даже если вы целый день выполняете тяжелые запросы, количество энергии, потребляемое ChatGPT в день, все равно довольно скромное по сравнению, скажем, с работой кондиционера или игрового ПК. Но это только ваше использование.

По данным на февраль, база пользователей OpenAI превышала 400 миллионов в неделю. Представитель OpenAI сообщил агентству Reuters. Это будет очень много ватт-часов, даже если вы будете работать эффективно.

Важно отметить, что этот показатель в 0,3 ватт-часа все же несколько осторожен. 

Многие повседневные запросы, вероятно, стоят дешевле.

Но запросы с огромным количеством входных данных, обширными выходными данными или тяжелыми моделями рассуждений все равно могут привести к значительному росту потребления.

Энергопотребление: GPT-4 против GPT-3.5

Несмотря на то, что GPT-3.5 уже снят с производства, его наследие все еще сохраняется, особенно когда мы обсуждаем, сколько энергии потребляет ChatGPT в разных версиях.

Вот что говорят данные о его энергопотреблении по сравнению с GPT-4.

Для модели типа GPT-3 с примерно 175 миллиардами параметров выбросы уже были интенсивными, но переход к модели типа GPT-4 с ее более тяжелой архитектурой может увеличить выбросы примерно в 200 раз. 

Согласно Джорджу ХотцуGPT-4 - это восемь экземпляров модели GPT-3 с 220B-параметрами, сшитых вместе. 

Но, что важно, только две из этих моделей на самом деле проходят во время вывода, что означает, что реальные действия происходят с примерно 280B эффективных параметров, если учесть некоторое разделение параметров (~55B для механизмов внимания).

Сравните это с установкой GPT-3.5 на 175B, и вы начнете понимать, почему затраты GPT-4 на умозаключения в три раза выше. 

Рост потребления энергии опережает простое увеличение количества параметров, которое должно было бы означать лишь 1,6-кратный рост. 

Но это не так, потому что запросы GPT-4 просто намного дороже. 

Углеродный след моделей искусственного интеллекта

Запуск больших моделей ИИ не обходится дешево ни для планеты, ни для счетов за электроэнергию.

Эти модели требуют серьезных вычислительных мощностей, а значит, много электроэнергии и, во многих случаях, много вредных выбросов.

Например, GPT-3, как сообщается, потребовалось около 1 287 МВт-ч электроэнергии для тренировок, производство более 50 фунтов CO2.

Новые модели, такие как GPT-4o, еще больше, но OpenAI не раскрывает их точную площадь.

Помимо ChatGPT от OpenAI, у вас есть ИИ-помощник от Meta, который, скорее всего, работает на моделях Llama 3.2 (параметры 11B или 90B).

Опять же, точных данных о выбросах CO2 нет.

Модель Claude 3.5 Sonnet от Anthropic весит гораздо больше - по оценкам, около 400 миллиардов параметров, при этом точные данные об углеродном следе не раскрываются.

А Gemini от Google? Работает в вариантах "Flash" и "Pro", хотя Google не раскрывает точных параметров.

Мы можем предположить, что они находятся в том же диапазоне, что и GPT-4o или его мини-варианты.

И, говоря об упрощенных моделях, DeepSeek-V3 демонстрирует всего 37 миллиардов активных параметров (из 671 миллиарда). 

Его вариант рассуждений R1 демонстрирует высокую производительность, расходуя энергию на жетоны более экономно, чем GPT-4o. 

Чем ChatGPT отличается от других инструментов?

На данный момент вы должны знать, что количество энергии, потребляемой ChatGPT, зависит от версии, с которой вы взаимодействуете, длины подсказок и механики, находящейся под капотом. 

По сравнению с другими инструментами искусственного интеллекта ChatGPT занимает примерно среднее место по энергопотреблению, особенно для моделей высокого класса. 

Но когда речь заходит об огромной доле рынка и частоте использования, даже "средний" показатель превращается в огромный энергетический след в масштабе.

Использование энергии в сравнении с поиском Google

Еще в 2009 году, По оценкам Google энергозатраты на один поисковый запрос составляют 0,3 Вт-ч.

Перенесемся в 2024 год, и эта оценка превратится в пыль.

Оказалось, что современные поисковые запросы Google потребляют в 10 раз меньше энергии, чем те ранние оценки. 

Между тем, более ранние оценки энергии для среднего LLM-запроса, включая ChatGPT, также были примерно в 10 раз выше (2,9 Вт-ч).

Благодаря новейшим исследованиям, в которых энергопотребление Google на уровне 0,04 Вт-ч и ChatGPT на 0,3 Wh, эти две ошибки сводят друг друга на нет, что означает, что старое утверждение "LLM потребляют в 10 раз больше энергии на запрос, чем Google Search" по-прежнему в силе... но только потому, что все ошибались именно так, как надо. 

Что делает OpenAI для уменьшения воздействия?

OpenAI прекрасно понимает, что обучение и запуск таких моделей, как ChatGPT, расходует энергию значительно быстрее. 

В связи с этим возникает вопрос: что с этим делать?

Прежде всего, OpenAI продвигает повышение эффективности. 

Со временем появились более новые модели, такие как GPT-4o, а теперь GPT-4.1были специально оптимизированы для значительного снижения энергопотребления во время вычислений. 

Достижения в области архитектуры моделей, обработки токенов и усовершенствования оборудования на уровне сервера означают, что сегодня количество энергии, потребляемое запросом ChatGPT, уже намного меньше, чем год назад для той же задачи.

OpenAI также сотрудничает с Microsoft Azure, и Azure взяла на себя обязательство к 2025 году перевести свои центры обработки данных на 100% возобновляемых источников энергии. 

Это важно, потому что, когда вы отправляете запросы в ChatGPT, вы пингуете суперкомпьютеры Azure, о которых мы говорили ранее. 

Переход от ископаемого топлива к возобновляемым источникам энергии не приводит к прямому уменьшению потребляемой мощности, но радикально снижает углеродный след, связанный с этим.

Помимо инфраструктуры, есть и более перспективные вещи. OpenAI активно изучает способы сделать модели меньше без ущерба для производительности.

Сжатие моделей, дистилляция и более интеллектуальная маршрутизация (например, динамическая обработка токенов) - все это очень животрепещущие темы в кругах, посвященных эффективности ИИ. 

Что вы можете сделать как пользователь?

Пока OpenAI занимается большими структурными изменениями, пользователи все еще должны играть свою роль в минимизации отходов и ответственном использовании ChatGPT. 

Вот что вы можете сделать:

• Будьте лаконичны: Четко и жестко формулируйте подсказки. Каждый дополнительный обработанный жетон стоит немного энергии.
• Избегайте спамерских подсказок: Не поддавайтесь искушению отправить 15 слегка переформулированных вариантов одного и того же вопроса.
• Используйте подходящие модели: По возможности выбирайте более легкие и дешевые модели (например, GPT-4o-mini, если они предлагаются) для повседневных или легких задач.
• Пакетная обработка запросов: Вместо кучи разрозненных вопросов объедините их в одну, хорошо продуманную подсказку.

Если вы хотите сократить количество бесконечных повторов и генераций, разумно использовать специальные инструменты, которые генерируют чистый, готовый к публикации контент с первых попыток.

Именно здесь Необнаруживаемый ИИ такие инструменты, как Писатель-невидимка или Пересказчик Заходи. 

Вместо того чтобы просить ChatGPT создать идеальную версию вашего текста с помощью многочисленных правок и повторных попыток (каждая из которых требует больших затрат энергии), вы можете просто воспользоваться нашими специализированными инструментами, созданными для точности. 

Инструменты, предназначенные для конкретных действий, обычно работают эффективнее, и все наши инструменты как нельзя лучше вписываются в эту модель разумного, бережного использования энергии. 

Другими словами, более чистый результат за меньшее количество попыток = меньше сжигаемой энергии = более счастливые серверы = вы спасаете мир, по одному четкому абзацу за раз.

Готовы увидеть разницу? Запустите наш ИИ-детектор и Humanizer в виджете ниже!

Вопросы и ответы: ChatGPT и использование энергии

Заключительные размышления: Энергетические затраты на искусственный интеллект

В заключение отметим, что количество потребляемой ChatGPT энергии в значительной степени зависит от того, к какой модели вы обращаетесь и как ее используете. 

Но в целом очевидно, что новые модели становятся все более эффективными, и промышленность прилагает реальные усилия для снижения воздействия на окружающую среду.

Однако выбор правильного инструмента для решения конкретной задачи может существенно изменить ваш цифровой след. 

Более разумные рабочие процессы, меньшее количество повторных попыток и более четкие подсказки - все это позволяет снизить энергопотребление. 

А когда вы объединяете ChatGPT с такими специализированными инструментами, как Undetectable AI, вы получаете лучшее из двух миров.

Вы создаете чистый, отшлифованный и готовый к публикации контент без лишних проб и ошибок. Это означает экономию времени, вычислительных ресурсов и, конечно, немного планеты.

Если вы хотите работать умнее и экологичнее, подпишитесь на Undetectable AI сегодня.