ChatGPTのエネルギー消費量は?

ChatGPTがどれだけのエネルギーを使うのか、インターネットで調べてみると、おそらくこんな答えが見つかるだろう:

"ChatGPTはGoogle検索の10倍の電力を使う"

跡をたどれば、この主張は 170ページのIEA報告書2009年のデータに基づくアルファベット会長の推定を引用した論文にリンクしている。やばい!

現実には、グーグルの新しい検索オペレーションは、2009年当時よりも約10倍効率的であり、ChatGPTの今日のリクエストあたりの実際のエネルギー使用量は、初期の警鐘が示唆するよりもはるかに少ない。

GPT-4oのような新しいモデルは、効率性において大きな進歩を遂げた。つまり、世間に出回っている見出しの数字は時代遅れであり、正直なところ、少々誤解を招きやすい。

では、本当のところはどうなのか?それこそが、私たちがここで掘り下げていることなのだ。

あなたの収穫は次のようなものだろう:

  • ChatGPTを動かしているものは何ですか?
  • ChatGPTの検索にはどれくらいのエネルギーを使うのですか?
  • グーグル検索や他のAIモデルと比較した場合のエネルギー消費量は?
  • OpenAIは影響を減らすために何をしているのか?
  • AIの利用をより責任あるものにするために、ユーザーとしてどのような手段を講じることができるだろうか?

さあ、本題に入ろう。

ChatGPTとは?

Microsoft AzureのCTOであるマーク・ラシノビッチ氏が、カーテンの裏側を覗いてくれた。 ポッドキャストで その マイクロソフトが2023年に発表

同氏によれば、マイクロソフトは数千億のパラメーターを持つモデルをトレーニングできるインフラを構築したという。 

例えば、GPT-3のパラメーター数は1750億であり、マイクロソフトのメガトロン-チューリングモデルが5300億であったと聞くまでは、多すぎるように聞こえるだろう。

もうAIがあなたのテキストを検出する心配はありません。 Undetectable AI あなたを助けることができる:

  • AIがアシストする文章を出現させる 人間らしい。
  • バイパス ワンクリックですべての主要なAI検出ツール。
  • 用途 AI 無事に そして 堂々 学校でも仕事でも。
無料で試す

ハードウェア面では、オリジナルの2020 OpenAIスーパーコンピュータは、28万5000以上のAMD InfiniBand接続のCPUコアと、1万個のNVIDIA V100 Tensor Core GPUを組み合わせた。 

新しいH100仮想マシンシリーズは、VMあたり最大8つのNVIDIA H100 Tensor Core GPUをクラスタ化し、数千までスケールアウトします。 

要するに、何がChatGPTを動かしているのか不思議に思っているのであれば、答えは基本的に「全て」です。

すべてのコア、すべてのGPU、すべてのネットワーク帯域幅を、夢の中でため込むことができる。

ChatGPTの推定エネルギー使用量

さて、本題です。ChatGPTは1問あたりどのくらいのエネルギーを使っているのでしょうか? 

プロンプトを入力するたびに氷河が溶けるような、黙示録的なものだと期待するかもしれない。 

しかし実際のところ、GPT-4oでの典型的なChatGPTクエリの消費電力は約0.3ワットアワー(Wh)だと、最近の試算では言われている。 

これは、3ワット時という2023年初頭の古い(そしておそらく不正確な)見積もりよりも約10倍少ない。 

効率が飛躍的に向上したのは、より優れたモデル、よりシャープなハードウェア、そして以前の見積もりがトークン数についてあまりにも悲観的すぎたことに気づいたことによる。

規模から言えば、0.3ワット時というのは、コーヒーを温め直している間にノートパソコンが使うエネルギーよりも少ない。 

ChatGPTの一日の消費電力量は、たとえ一日中重いクエリーを打ち込んでいたとしても、例えばエアコンやゲーミングPCを動かすのに比べれば、かなり少ない数字です。しかし、これはあくまであなたの使用量です。

OpenAIのユーザー数は、2月の時点で毎週4億人を超えている。 OpenAIの広報担当者はロイターに次のように語った。.だから、効率的にやったとしても、かなりのワットアワーになる。

この0.3ワット時という数字は、まだ少し慎重な面もあることに注意する必要がある。 

日常的な問い合わせの多くは、それよりも安いだろう。

しかし、大量の入力、膨大な出力、または高負荷の推論モデルを含むクエリは、依然として消費量を大幅に押し上げる可能性がある。

エネルギー使用:GPT-4とGPT-3.5の比較

GPT-3.5が終了したとはいえ、その遺産はまだ残っています。特に、ChatGPTがバージョン間でどれだけのエネルギーを使っているかを議論しているときです。

GPT-4と比較したエネルギー使用量についてのデータだ。

約1,750億個のパラメータを持つGPT-3スタイルのモデルでは、排出量はすでに激しかったが、より重いアーキテクチャを持つGPT-4スタイルのモデルに移行すると、排出量は約200倍に跳ね上がる可能性がある。 

ジョージ・ホッツによればGPT-4は、220BパラメータのGPT-3的なモデルを8つつなぎ合わせたものだ。 

しかし重要なのは、これらのモデルのうち、推論中に実際にルーティングされるのは2つだけであることだ。つまり、実際の行動は、パラメータの共有(注意メカニズムでは〜55B)を考慮すれば、約280Bの有効パラメータで起こるということだ。

GPT-3.5の175Bのセットアップと比較すれば、GPT-4の推論コストが3倍も高い理由がわかるだろう。 

エネルギー使用量の増加は、単なるパラメータ数の増加を上回っている。 

しかし、GPT-4のクエリーは単純に値段が高いだけなので、そうなったわけではない。 

AIモデルのカーボンフットプリント

大規模なAIモデルを動かすのは、地球にとっても電気代にとっても安くはない。

これらのモデルは深刻な計算能力を必要とするため、多くの電力が必要となり、多くの場合、排出ガスも多くなる。

たとえば、GPT-3では訓練に約1,287MWhの電力が必要だったと報告されている、 50ポンド以上のCO2を排出.

GPT-4oのような新しいモデルはさらに大きいが、OpenAIは正確なフットプリントを公表していない。

OpenAIのChatGPTの先には、Llama 3.2モデル(11Bまたは90Bのパラメータ)で動作していると思われるMetaのAIアシスタントがある。

繰り返すが、CO2排出量の正確な数字は入手できない。

Anthropicのクロード3.5ソネットはもっと重く、約4000億パラメータと推定されるが、正確なカーボンフットプリントは公表されていない。

グーグルのジェミニは?Flash」と「Pro」のバリアントを搭載しているが、グーグルは正確なパラメータ数を明らかにしていない。

それでも、GPT-4oやそのミニバリエーションと同程度であることは推測できる。

そして、合理化されたモデルといえば、DeepSeek-V3は、わずか370億のアクティブ・パラメーター(全671Bのうち)でフレックスしている。 

そのR1推論バリアントは、GPT-4oよりもトークンあたりより繊細にエネルギーを消費しながら、強力なパフォーマンスを示している。 

ChatGPT は他のツールと比較してどうですか?

この時点で、ChatGPTがどれくらいのエネルギーを消費するかは、インタラクトしているバージョン、プロンプトの長さ、そしてフードの下のメカニズムに依存することを知っておく必要があります。 

AIツールの大きな世界と比較すると、ChatGPTのエネルギー需要は、特にハイエンドモデルの場合、ほぼ平均的である。 

しかし、圧倒的な市場シェアと使用頻度となると、「平均的」であっても、規模が大きくなれば膨大なエネルギーフットプリントとなる。

エネルギー使用量とグーグル検索の比較

2009年のことだ、 グーグル推定 の場合、1回の検索クエリにかかるエネルギーコストは0.3Whである。

2024年まで早送りすると、この予想は埃をかぶっている。

その結果、今日のグーグル検索は、初期の見積もりよりも10倍ほど少ないエネルギーしか消費していないことが判明した。 

一方、ChatGPTを含む平均的なLLMリクエストのエネルギー見積もりも、10倍ほど高かった(2.9Wh)。

最新の研究により、このようなことが明らかになった。 グーグルのエネルギー消費量0.04Wh とChatGPTが0.3Whであることから、この2つの間違いは互いに相殺され、「LLMはGoogle検索よりもクエリ1回あたり約10倍のエネルギーを消費している」という古い考え方はまだ正しいことになる。 

OpenAIは影響を減らすために何をしているのか?

OpenAIは、ChatGPTのようなモデルのトレーニングと実行が、著しく速い速度でエネルギーを消費することを十分に認識している。 

では、その対策はどうなっているのか?

まず、OpenAIは効率のアップグレードを推し進めている。 

時が経つにつれて、GPT-4oのような新しいモデルが登場した。 GPT-4.1推論中のエネルギー消費を大幅に削減するために、特に最適化されている。 

モデル・アーキテクチャ、トークン処理、サーバー・レベルのハードウェア改良の進歩により、今日、ChatGPTクエリーが使用するエネルギー量は、同じタスクに対して1年前よりもはるかに低くなっています。

OpenAIはMicrosoft Azureとも提携している。 Azureは、2025年までに100%の再生可能エネルギーでデータセンターを運営することを約束した。

ChatGPTにクエリーを投げているとき、先ほど話したAzureのスーパーコンピューターにpingを打っていることになるからだ。 

エネルギー源を化石燃料から自然エネルギーにシフトすることで、クエリーが使用するワット数を直接的に減らすことはできないが、それに伴う二酸化炭素排出量を根本的に減らすことができる。

インフラ以外にも、将来を見据えたことがいくつか起きている。OpenAIは、パフォーマンスを犠牲にすることなくモデルを小さくする方法を積極的に研究しています。

モデル圧縮、蒸留、(動的トークン処理のような)よりスマートなルーティングはすべて、AI効率化界では非常に重要なトピックだ。 

ユーザーとして何ができるか?

OpenAIが大きな構造転換を行う一方で、ユーザーは無駄を最小限に抑え、責任を持ってChatGPTを利用する役割を担っている。 

あなたにできることがある:

  • 簡潔に: プロンプトを明確かつ堅く囲む。余分なトークンを処理するたびに、エネルギーがかかります。
  • プロンプトのスパムは避ける: 同じ質問を少し言い換えたものを15個提出したいという誘惑に負けないでください。
  • 適切なモデルを使用する: 可能であれば、カジュアルな作業や軽い作業には、より軽量で安価なモデル(GPT-4o-miniなどがあれば)を選ぶとよい。
  • リクエストの一括処理 断片的な質問ではなく、よく練られた1つのプロンプトにまとめる。

何度も作り直したり再生成したりする手間を省きたいなら、最初の数回から、よりきれいで出版に適したコンテンツを生成する専用ツールを使うのが賢い方法だ。

ここがその場所だ。 検出不可能なAI のようなツールです。 ステルスライター または パラフレーザー に入る。 

ChatGPTに、何度も編集やリトライを繰り返し、完璧なテキストを求める代わりに(そのたびにエネルギーがかかります)、精度の高い専門ツールを使用することができます。 

一般的に、特定の動作のために設計されたツールは、より効率的に動作し、私たちのすべてのツールは、スマートでエネルギーを意識した使い方のこのモデルにぴったりです。 

言い換えれば、より少ない試行回数でよりクリーンな出力が得られる=消費エネルギーが少なくて済む=サーバーがよりハッピーになる=世界を救うことになる、ということだ。

違いを見る準備はできましたか?下のウィジェットでAIディテクターとヒューマナイザーを起動してください!

よくある質問ChatGPTとエネルギー使用

1回のChatGPTリクエストでどれくらいのエネルギーを使うのですか?

典型的なChatGPTクエリは、特にGPT-4oを使用する場合、約0.3ワットアワーを消費します。

これは、ハードウェア効率とモデルアーキテクチャの改善を反映した、より新しく正確な推定値に基づいている。 

以前の見積もりでは、1クエリあたり約3ワット時だったが、この数字は古い技術と仮定に基づいていた。

では、ChatGPTの1回のリクエストでどれだけのエネルギーを使うかというと、以前よりずっと少なくなっている。

トレーニングは、それを使うよりもエネルギーを消費するのか?

はい、もちろんです。ChatGPTのようなモデルのトレーニングには膨大なエネルギーを使います。

トレーニングには、何千ものGPUで何週間も何カ月もかけて膨大なデータセットを処理する必要があり、その結果、先行投資によるカーボンフットプリントは非常に大きくなる。

対照的に、モデルの使用(推論)は、リクエストごとに比較的少量のエネルギーを消費する。

OpenAIは持続可能性に関するデータを公表していますか?

いいえ、現在OpenAIは、詳細な持続可能性報告書やエネルギー使用量の完全な統計を公開していません。

独自の持続可能性目標と報告書を持っているMicrosoft Azureと緊密に連携している一方で、OpenAI自身はそのモデルのエネルギー消費量やカーボンフットプリントについて包括的な開示を行っていない。

最後に思うこと:AIのエネルギーコスト

結論として、ChatGPTがどれだけのエネルギーを消費するかは、どの機種にアクセスし、どのように使用するかによって大きく異なります。 

しかし、全体的に見れば、新しいモデルがより効率的になっていることは明らかであり、業界は環境への影響を減らすために実際に努力している。

とはいえ、適切なタスクに適切なツールを選択することで、デジタル・フットプリントは大きく変わる。 

よりスマートなワークフロー、より少ない再試行、より明確なプロンプト、これらすべてがエネルギー使用量の削減につながります。 

そして、ChatGPTとUndetectable AIのような専用ツールを組み合わせることで、両方の世界のベストを得ることができます。

試行錯誤を減らし、クリーンで洗練された、すぐに出版できるコンテンツを作成する。つまり、時間や計算の節約になり、そして地球も少しは救われるのです。

よりスマートに、よりグリーンな仕事をしたいのなら、 今すぐUndetectable AIに申し込む.

Undetectable AI (TM)