Hvor mye energi bruker ChatGPT?

Hvis du graver rundt på internett for å finne svar på hvor mye energi ChatGPT bruker, vil du sannsynligvis finne noe sånt som dette:

"ChatGPT bruker 10 ganger mer strøm enn et Google-søk."

Hvis du følger sporet, fører denne påstanden til en 170 siders IEA-rapportsom lenker til en artikkel som siterer et sannsynlig estimat fra en Alphabet-styreleder ... basert på data fra 2009. Jøss!

I virkeligheten er Googles nyere søkeoperasjoner omtrent 10 ganger mer effektive enn i 2009, og ChatGPTs faktiske energiforbruk per forespørsel i dag er langt lavere enn de tidlige alarmklokkene antydet.

Nyere modeller som GPT-4o har gjort store fremskritt når det gjelder effektivitet, noe som betyr at de overskriftstallene som sirkulerer, er utdaterte og ærlig talt litt misvisende.

Så hva er det virkelige bildet? Det er akkurat det vi dykker ned i her.

Det vil du få med deg:

• Hva driver ChatGPT under panseret?
• Hvor mye energi bruker et ChatGPT-søk?
• Hvor mye energi bruker den sammenlignet med Google Søk og andre AI-modeller?
• Hva gjør OpenAI for å redusere sin påvirkning?
• Hva kan du som bruker gjøre for å gjøre AI-bruken din mer ansvarlig?

La oss komme i gang.

Hva driver ChatGPT?

Mark Russinovich, CTO for Microsoft Azure, ga oss en titt bak forhenget i en podcast det Microsoft publisert i 2023. 

Ifølge ham har Microsoft bygget en infrastruktur som er i stand til å trene opp modeller med hundrevis av milliarder av parametere. 

GPT-3 hadde for eksempel 175 milliarder parametere, noe som høres for mye ut helt til man hører at Microsofts Megatron-Turing-modell hadde 530 milliarder.

Den opprinnelige OpenAI-superdatamaskinen fra 2020 hadde over 285 000 AMD InfiniBand-tilkoblede CPU-kjerner og 10 000 NVIDIA V100 Tensor Core GPU-er. 

Den nye H100-serien med virtuelle maskiner grupperer opptil åtte NVIDIA H100 Tensor Core GPU-er per VM og kan skaleres opp til tusenvis. 

Kort sagt, hvis du lurer på hva som driver ChatGPT, er svaret i bunn og grunn: alt sammen.

Alle kjerner, alle GPU-er, all nettverksbåndbredden du kan drømme om.

Anslått energibruk for ChatGPT

Nå til det egentlige spørsmålet: Hvor mye energi bruker ChatGPT per spørsmål? 

Du forventer kanskje at det skal være apokalyptisk, som om det smelter isbreer for hver melding du skriver. 

Men ifølge nyere estimater bruker en typisk ChatGPT-spørring på GPT-4o omtrent 0,3 wattimer (Wh). 

Det er omtrent ti ganger mindre enn eldre (og sannsynligvis unøyaktige) estimater fra tidlig i 2023, som anslo det til 3 wattimer. 

Effektivitetsforbedringen skyldes bedre modeller, skarpere maskinvare og en erkjennelse av at tidligere estimater var altfor pessimistiske når det gjaldt antall tokener.

For å sette det på spissen: 0,3 wattimer er mindre energi enn det den bærbare datamaskinen din bruker mens du varmer opp kaffen. 

Selv om du bruker mye energi hele dagen, er tallene for hvor mye energi ChatGPT bruker per dag fortsatt ganske beskjedne sammenlignet med for eksempel å kjøre AC-en eller spill-PC-en. Men det er bare din bruk.

OpenAIs brukerbase var på over 400 millioner ukentlig i februar, ifølge en En talsperson for OpenAI sa til Reuters. Så det blir mange watt-timer, selv om du er effektiv.

Det er viktig å merke seg at dette tallet på 0,3 wattimer fortsatt er litt i overkant forsiktig. 

Mange dagligdagse spørsmål er sannsynligvis billigere enn det.

Men spørringer som involverer store mengder inndata, omfattende utdata eller tunge resonneringsmodeller, kan likevel presse forbruket mye høyere.

Energiforbruk: GPT-4 vs GPT-3.5

Selv om GPT-3.5 har gått ut på dato, henger arven fortsatt igjen, spesielt når vi diskuterer hvor mye energi ChatGPT bruker på tvers av versjoner.

Her er hva dataene sier om energiforbruket sammenlignet med GPT-4.

For en GPT-3-modell med rundt 175 milliarder parametere var utslippene allerede store, men hvis man går over til en GPT-4-modell med en tyngre arkitektur, kan utslippene øke med rundt 200 ganger. 

Ifølge George HotzGPT-4 er åtte instanser av en GPT-3-lignende modell med 220 B-parametere som er sydd sammen. 

Men viktigere er det at bare to av disse modellene faktisk blir rutet under inferens, noe som betyr at den virkelige handlingen skjer med omtrent 280B effektive parametere når du tar høyde for en viss parameterdeling (~55B for oppmerksomhetsmekanismer).

Sammenlignet med GPT-3.5s 175B-oppsett, begynner du å forstå hvorfor GPT-4s inferenskostnader er opptil tre ganger så høye. 

Veksten i energibruk er større enn økningen i antall parametere, som bare skulle tilsi en økning på 1,6 ganger. 

Men det var ikke det som skjedde, fordi GPT-4s spørringer rett og slett er mye dyrere. 

Karbonfotavtrykket til AI-modeller

Det er ikke billig å kjøre store AI-modeller, verken for planeten eller strømregningen.

Disse modellene krever store datamaskiner, noe som betyr mye strøm og i mange tilfeller store utslipp.

For eksempel skal GPT-3 ha krevd rundt 1287 MWh strøm for å trene, som produserer over 50 kilo CO2.

Nyere modeller som GPT-4o er enda større, men OpenAI har ikke offentliggjort det nøyaktige fotavtrykket deres.

I tillegg til OpenAIs ChatGPT har du Metas AI-assistent, som sannsynligvis kjører på Llama 3.2-modeller (enten 11B- eller 90B-parametere).

Heller ikke her finnes det eksakte tall for CO2-utslipp.

Anthropics Claude 3.5 Sonnet veier mye tyngre, anslått til rundt 400 milliarder parametere uten at det eksakte karbonfotavtrykket er oppgitt.

Og Googles Gemini? Drevet av "Flash" og "Pro" -variantene, selv om Google ikke har avslørt eksakte parametertall.

Vi kan likevel konkludere med at de er i samme størrelsesorden som GPT-4o eller minivariantene.

Og apropos strømlinjeformede modeller, DeepSeek-V3 er her ute og bøyer seg med bare 37 milliarder aktive parametere (av totalt 671B). 

R1-varianten viser sterk ytelse, samtidig som den er mer skånsom med energien per token enn GPT-4o. 

Hvordan er ChatGPT sammenlignet med andre verktøy?

På dette tidspunktet bør du vite at hvor mye energi ChatGPT bruker, avhenger av hvilken versjon du samhandler med, lengden på meldingene og mekanikken under panseret. 

Sammenlignet med AI-verktøy i et større univers ligger ChatGPT omtrent på gjennomsnittet når det gjelder energibehov, spesielt for avanserte modeller. 

Men når det gjelder markedsandel og bruksfrekvens, betyr selv "gjennomsnittlig" et enormt energifotavtrykk i stor skala.

Energiforbruk vs Google Search

Tilbake i 2009, Google anslår energikostnaden for et enkelt søk til å være 0,3 Wh.

Spoler vi frem til 2024, har dette estimatet blitt støvete.

Det viser seg at dagens Google-søk faktisk bruker omtrent 10 ganger mindre energi enn de tidlige estimatene. 

I mellomtiden var tidligere energianslag for en gjennomsnittlig LLM-forespørsel, inkludert ChatGPT, også omtrent 10 ganger for høye (2,9 Wh).

Med den nyeste forskningen som setter energiforbruket til Google på 0,04 Wh og ChatGPT på 0,3 Wh, opphever disse to feilene hverandre, noe som betyr at den gamle "LLM-er bruker omtrent 10 ganger mer energi per spørring enn Google Søk" fortsatt holder ... men bare fordi alle tok feil på akkurat den rette måten. 

Hva gjør OpenAI for å redusere påvirkningen?

OpenAI er fullt klar over at trening og kjøring av modeller som ChatGPT forbruker energi i et betydelig raskere tempo. 

Det bringer oss til spørsmålet: Hva blir gjort med det?

For det første har OpenAI presset på for å oppgradere effektiviteten. 

Over tid har nyere modeller, som GPT-4o, og nå GPT-4.1er spesielt optimalisert for å redusere energiforbruket under inferens. 

Fremskritt innen modellarkitektur, token-håndtering og maskinvareforbedringer på servernivå betyr at hvor mye energi en ChatGPT-spørring bruker, allerede i dag er langt lavere enn det ville ha vært for bare ett år siden for den samme oppgaven.

OpenAI samarbeider også med Microsoft Azure, og Azure har forpliktet seg til å drive datasentrene sine med 100% fornybar energi innen 2025. 

Det er viktig, for når du sender spørsmål til ChatGPT, pinger du Azure-superdatamaskiner som vi snakket om tidligere. 

Å skifte energikilde fra fossilt brensel til fornybar energi reduserer ikke direkte wattforbruket i en spørring, men det reduserer karbonfotavtrykket radikalt.

Utover infrastrukturen skjer det en del mer fremtidsrettede ting. OpenAI forsker aktivt på måter å gjøre modellene mindre uten at det går på bekostning av ytelsen.

Modellkomprimering, destillasjon og smartere ruting (som dynamisk token-prosessering) er alle svært aktuelle temaer i AI-effektivitetskretser. 

Hva kan du gjøre som bruker?

Selv om OpenAI håndterer de store strukturelle endringene, har brukerne fortsatt en rolle å spille når det gjelder å minimere sløsing og bruke ChatGPT på en ansvarlig måte. 

Her er hva du kan gjøre:

• Vær kortfattet: Gi klare og tydelige rammer for instruksjonene dine. Hver ekstra token som behandles, koster litt energi.
• Unngå spamming av meldinger: Motstå fristelsen til å sende inn 15 litt omformulerte versjoner av det samme spørsmålet.
• Bruk egnede modeller: Når det er mulig, bør du velge lettere, billigere modeller (som GPT-4o-mini, hvis den tilbys) for uformelle eller lette oppgaver.
• Batch forespørslene dine: I stedet for en haug med fragmenterte spørsmål, kan du samle dem i én enkelt, gjennomtenkt ledetekst.

Hvis du vil slippe å gjøre endeløse omkamper og genereringer på nytt, er det smart å bruke dedikerte verktøy som genererer renere, publiseringsklart innhold fra de første forsøkene.

Det er her Ikke påvisbar AI verktøy som Stealth Writer eller Omskriver ...kom inn. 

I stedet for å be ChatGPT om den perfekte versjonen av teksten din gjennom flere redigeringer og nye forsøk (som hver gang koster mer energi), kan du ganske enkelt bruke våre spesialiserte verktøy som er bygget for presisjon. 

Verktøy som er utviklet for spesifikke oppgaver, er generelt mer effektive, og alle verktøyene våre passer rett inn i denne modellen for smart og energibevisst bruk. 

Med andre ord, renere produksjon på færre forsøk = mindre energiforbruk = lykkeligere servere = du redder verden, ett skarpt avsnitt om gangen.

Er du klar til å se forskjellen? Start vår AI Detector og Humanizer i widgeten nedenfor!

Vanlige spørsmål: ChatGPT og energibruk

Avsluttende tanker: Energikostnadene ved kunstig intelligens

Hvor mye energi ChatGPT bruker, avhenger i stor grad av hvilken modell du bruker og hvordan du bruker den. 

Men generelt er det tydelig at nyere modeller blir stadig mer effektive, og bransjen gjør en reell innsats for å redusere miljøpåvirkningen.

Når det er sagt, kan det å velge riktig verktøy til riktig oppgave utgjøre en betydelig forskjell i det digitale fotavtrykket ditt. 

Smartere arbeidsflyter, færre nye forsøk og tydeligere beskjeder bidrar til lavere energiforbruk. 

Og når du kombinerer ChatGPT med spesialbygde verktøy som Undetectable AI, får du det beste fra begge verdener.

Du genererer rent, polert og publiseringsklart innhold med mindre prøving og feiling. Det betyr at du sparer tid, data og, ja, litt av planeten også.

Hvis du vil jobbe smartere og grønnere, Registrer deg for Undetectable AI i dag.