Hvor meget energi bruger ChatGPT?

Hvis du graver rundt på internettet efter svar på, hvor meget energi ChatGPT bruger, vil du sandsynligvis finde noget i retning af dette:

"ChatGPT bruger 10 gange mere strøm end en Google-søgning."

Hvis du følger sporet, fører denne påstand til en IEA-rapport på 170 sidersom linker til en artikel, der citerer et sandsynligt skøn fra en Alphabet-formand ... baseret på data fra 2009. Uha!

I virkeligheden er Googles nyere søgeoperationer omkring 10 gange mere effektive end i 2009, og ChatGPT's faktiske energiforbrug pr. anmodning i dag er langt lavere, end de tidlige alarmklokker antydede.

Nyere modeller som GPT-4o har gjort store fremskridt i effektivitet, hvilket betyder, at de overskrifter, der flyder rundt, er forældede og ærligt talt en smule misvisende.

Så hvad er det virkelige billede? Det er præcis det, vi dykker ned i her.

Det vil du få ud af det:

• Hvad driver ChatGPT under motorhjelmen?
• Hvor meget energi bruger en ChatGPT-søgning?
• Hvor meget energi bruger den i forhold til Google Search og andre AI-modeller?
• Hvad gør OpenAI for at mindske sin påvirkning?
• Hvilke skridt kan du tage som bruger for at gøre din brug af AI mere ansvarlig?

Lad os komme i gang.

Hvad driver ChatGPT?

Mark Russinovich, CTO for Microsoft Azure, gav os et kig bag forhænget i en podcast at Microsoft udgivet i 2023. 

Ifølge ham har Microsoft opbygget en infrastruktur, der kan træne modeller med hundredvis af milliarder af parametre. 

GPT-3 havde f.eks. 175 milliarder parametre, hvilket allerede lyder som for mange, indtil man hører, at Microsofts Megatron-Turing-model havde 530 milliarder.

Hardwaremæssigt samlede den oprindelige OpenAI-supercomputer fra 2020 over 285.000 AMD InfiniBand-forbundne CPU-kerner plus 10.000 NVIDIA V100 Tensor Core GPU'er. 

Den nye H100-serie af virtuelle maskiner grupperer op til otte NVIDIA H100 Tensor Core GPU'er pr. virtuel maskine og kan skaleres op til tusindvis. 

Kort sagt, hvis du spekulerer på, hvad der driver ChatGPT, er svaret dybest set: det hele.

Alle kerner, alle GPU'er, al den netværksbåndbredde, du nogensinde kunne samle på i dine drømme.

Anslået energiforbrug for ChatGPT

Nu til det egentlige spørgsmål: Hvor meget energi bruger ChatGPT pr. spørgsmål? 

Du forventer måske, at den er apokalyptisk, at den smelter gletsjere, hver gang du skriver en besked. 

Men faktisk siger de seneste estimater, at en typisk ChatGPT-forespørgsel på GPT-4o bruger ca. 0,3 watt-timer (Wh). 

Det er omkring ti gange mindre end ældre (og sandsynligvis unøjagtige) estimater fra begyndelsen af 2023, der anslog det til 3 watt-timer. 

Springet i effektivitet skyldes bedre modeller, skarpere hardware og en erkendelse af, at ældre estimater var alt for pessimistiske med hensyn til antallet af tokener.

Til sammenligning er 0,3 watt-timer mindre energi end det, din bærbare computer bruger, mens du varmer din kaffe. 

Selv hvis du sender tunge forespørgsler hele dagen, er tallene for, hvor meget energi ChatGPT bruger om dagen, stadig ret tamme sammenlignet med f.eks. at køre din AC eller gaming-pc. Men det er kun dit forbrug.

OpenAI's brugerbase var på over 400 millioner ugentligt i februar, hvis man ser på, hvad en En talsmand for OpenAI sagde til Reuters. Så det er mange watt-timer, selv hvis man er effektiv.

Det er vigtigt at bemærke, at dette tal på 0,3 watt-timer stadig er lidt til den forsigtige side. 

Mange hverdagsforespørgsler er sandsynligvis billigere end det.

Men forespørgsler, der involverer store mængder input, omfattende output eller tunge ræsonneringsmodeller, kan stadig presse forbruget meget højere op.

Energiforbrug: GPT-4 vs GPT-3.5

Selv om GPT-3.5 er udgået, hænger dens arv stadig ved, især når vi diskuterer, hvor meget energi ChatGPT bruger på tværs af versioner.

Her er, hvad dataene siger om dens energiforbrug sammenlignet med GPT-4.

For en GPT-3-model med ca. 175 milliarder parametre var udledningen allerede voldsom, men hvis man gik over til en GPT-4-model med en tungere arkitektur, kunne udledningen stige ca. 200 gange. 

Ifølge George HotzGPT-4 er otte instanser af en 220B-parameter GPT-3-lignende model, der er syet sammen. 

Men vigtigst af alt er det kun to af disse modeller, der rent faktisk dirigeres under udledningen, hvilket betyder, at den virkelige handling sker med ca. 280B effektive parametre, når man tager højde for en vis parameterdeling (~55B for opmærksomhedsmekanismer).

Sammenlign det med GPT-3.5's 175B-opsætning, og du begynder at forstå, hvorfor GPT-4's inferensomkostninger er op til tre gange højere. 

Væksten i energiforbruget overgår den blotte stigning i antallet af parametre, som kun burde have antydet en stigning på 1,6 gange. 

Men det var ikke det, der skete, for GPT-4's forespørgsler er simpelthen meget dyrere. 

AI-modellers CO2-fodaftryk

Det er ikke billigt at køre store AI-modeller, hverken for planeten eller for strømregningen.

Disse modeller kræver seriøse computermuskler, hvilket betyder masser af elektricitet og i mange tilfælde masser af emissioner.

For eksempel krævede GPT-3 angiveligt omkring 1.287 MWh elektricitet for at træne, producerer over 50 pund CO2.

Nyere modeller som GPT-4o er endnu større, men OpenAI har ikke offentliggjort deres nøjagtige fodaftryk.

Ud over OpenAI's ChatGPT har du Meta's AI-assistent, som sandsynligvis kører på Llama 3.2-modeller (enten 11B- eller 90B-parametre).

Igen er de nøjagtige tal for CO2-udledning ikke tilgængelige.

Anthropics Claude 3.5 Sonnet vejer meget tungere, anslået til omkring 400 milliarder parametre uden at oplyse om det nøjagtige CO2-aftryk.

Og Googles Gemini? Drevet af "Flash"- og "Pro"-varianterne, selvom Google ikke har afsløret de nøjagtige parametertal.

Vi kan stadig udlede, at de er i samme størrelsesorden som GPT-4o eller dens minivarianter.

Og nu vi taler om strømlinede modeller, så er DeepSeek-V3 herude med kun 37 milliarder aktive parametre (ud af 671B i alt). 

Den ræsonnerende R1-variant viser stærk ydeevne, mens den suger energi mere forsigtigt pr. token end GPT-4o. 

Hvordan er ChatGPT sammenlignet med andre værktøjer?

På dette tidspunkt bør du vide, at hvor meget energi ChatGPT bruger, afhænger af den version, du interagerer med, længden af spørgsmålene og mekanikken under motorhjelmen. 

Sammenlignet med det større univers af AI-værktøjer ligger ChatGPT omkring gennemsnittet med hensyn til energibehov, især for avancerede modeller. 

Men når det drejer sig om markedsandel og brugsfrekvens, betyder selv "gennemsnit" et massivt energifodaftryk i stor skala.

Energiforbrug vs. Google-søgning

Tilbage i 2009, Google anslog energiomkostningerne for en enkelt søgning til at være 0,3 Wh.

Spol frem til 2024, og det skøn er blevet støvet.

Det viser sig, at nutidens Google-søgninger faktisk bruger ca. 10 gange mindre energi end de tidlige estimater. 

I mellemtiden var tidligere energiestimater for en gennemsnitlig LLM-forespørgsel, inklusive ChatGPT, også omkring 10 gange for høje (2,9 Wh).

Med den nyeste forskning, der sætter Googles energiforbrug på 0,04 Wh og ChatGPT på 0,3 Wh, ophæver disse to fejl hinanden, hvilket betyder, at den gamle "LLM'er bruger ca. 10 gange mere energi pr. forespørgsel end Google Search" stadig holder ... men kun fordi alle tog fejl på den helt rigtige måde. 

Hvad gør OpenAI for at mindske påvirkningen?

OpenAI er fuldt ud klar over, at træning og drift af modeller som ChatGPT forbrænder energi i et betydeligt hurtigere tempo. 

Det bringer os til spørgsmålet: Hvad gør man ved det?

For det første har OpenAI presset på for at opgradere effektiviteten. 

Med tiden er nyere modeller, som GPT-4o, og nu GPT-4.1er specielt optimeret til et betydeligt lavere energiforbrug under udledningen. 

Fremskridt inden for modelarkitektur, tokenhåndtering og hardwareforbedringer på serverniveau betyder, at hvor meget energi en ChatGPT-forespørgsel bruger, allerede i dag er langt lavere, end det ville have været for bare et år siden for den samme opgave.

OpenAI samarbejder også med Microsoft Azure, og Azure har forpligtet sig til at drive sine datacentre på 100% vedvarende energi inden 2025. 

Det er vigtigt, for når du sender forespørgsler til ChatGPT, pinger du Azure-supercomputere, som vi talte om tidligere. 

At flytte energikilden væk fra fossile brændstoffer til vedvarende energi mindsker ikke direkte den wattstyrke, en forespørgsel bruger, men det sænker radikalt det CO2-fodaftryk, der er knyttet til den.

Ud over infrastrukturen sker der nogle mere fremtidsorienterede ting. OpenAI undersøger aktivt, hvordan man kan gøre modellerne mindre uden at gå på kompromis med ydeevnen.

Modelkomprimering, destillation og smartere routing (som dynamisk token-behandling) er alle meget aktuelle emner i AI-effektivitetskredse. 

Hvad kan du gøre som bruger?

Mens OpenAI håndterer de store strukturelle ændringer, har brugerne stadig en rolle at spille i forhold til at minimere spild og bruge ChatGPT ansvarligt. 

Her er, hvad du kan gøre:

• Vær kortfattet: Indram dine opfordringer klart og tydeligt. Hver ekstra token, der behandles, koster lidt energi.
• Undgå at spamme prompter: Modstå fristelsen til at indsende 15 let omformulerede versioner af det samme spørgsmål.
• Brug passende modeller: Vælg så vidt muligt lettere, billigere modeller (som GPT-4o-mini, hvis den tilbydes) til afslappede eller lette opgaver.
• Batch dine anmodninger: I stedet for en masse fragmenterede spørgsmål kan du samle dem i en enkelt, gennemtænkt opfordring.

Hvis du vil skære ned på endeløse gentagelser og genskabelser, er det smart at bruge dedikerede værktøjer, der genererer renere, udgivelsesklart indhold fra de første par forsøg.

Det er her Uopdagelig AI værktøjer som Skjult forfatter eller Parafraser Kom ind. 

I stedet for at bede ChatGPT om den perfekte version af din tekst gennem flere redigeringer og forsøg (som hver især koster mere energi), kan du blot bruge vores specialiserede værktøjer, der er bygget til præcision. 

Værktøjer, der er designet til specifikke handlinger, fungerer generelt mere effektivt, og alle vores værktøjer passer lige ind i denne model for smart, energibevidst brug. 

Med andre ord, renere output i færre forsøg = mindre energiforbrug = gladere servere = du redder verden, et skarpt afsnit ad gangen.

Er du klar til at se forskellen? Start vores AI Detector og Humanizer i widgetten nedenfor!

Ofte stillede spørgsmål: ChatGPT og energiforbrug

De sidste tanker: Energiomkostningerne ved AI

Konklusionen er, at hvor meget energi ChatGPT bruger, afhænger meget af, hvilken model du har adgang til, og hvordan du bruger den. 

Men generelt er det tydeligt, at nyere modeller bliver mere effektive, og branchen gør en reel indsats for at reducere miljøpåvirkningen.

Når det er sagt, kan det at vælge det rigtige værktøj til den rigtige opgave gøre en meningsfuld forskel i dit digitale fodaftryk. 

Smartere arbejdsgange, færre gentagelser og tydeligere beskeder giver alt sammen et lavere energiforbrug. 

Og når du kombinerer ChatGPT med specialbyggede værktøjer som Undetectable AI, får du det bedste fra begge verdener.

Du genererer rent, poleret og udgivelsesklart indhold med færre forsøg og fejl. Det betyder, at du sparer tid, computere og ja, også en lille smule af planeten.

Hvis du vil arbejde smartere og grønnere, Tilmeld dig Undetectable AI i dag.