Berapa Banyak Energi yang Digunakan ChatGPT?

Jika Anda mencari jawaban di internet tentang berapa banyak energi yang digunakan ChatGPT, Anda mungkin akan menemukan sesuatu seperti ini:

"ChatGPT menggunakan listrik 10 kali lebih banyak daripada Google Penelusuran."

Jika Anda mengikuti jejak ini, klaim ini mengarah ke Laporan IEA setebal 170 halamanyang menautkan ke sebuah makalah yang mengutip perkiraan kemungkinan dari seorang pimpinan Alphabet... berdasarkan data dari tahun 2009. Astaga!

Pada kenyataannya, operasi pencarian Google yang lebih baru sekitar 10x lebih efisien daripada tahun 2009, dan penggunaan energi aktual ChatGPT per permintaan saat ini jauh lebih rendah daripada yang disarankan oleh lonceng alarm awal.

Model yang lebih baru seperti GPT-4o telah membuat langkah besar dalam hal efisiensi, yang berarti angka-angka utama yang beredar sudah ketinggalan zaman dan, sejujurnya, sedikit menyesatkan.

Jadi, bagaimana gambaran sebenarnya? Itulah yang akan kita bahas di sini.

Anda akan membawa pulang makanan Anda:

• Apa yang menggerakkan ChatGPT di balik layar?
• Berapa banyak energi yang digunakan untuk satu pencarian ChatGPT?
• Berapa banyak energi yang dikonsumsi dibandingkan dengan Google Penelusuran dan model AI lainnya?
• Apa yang dilakukan OpenAI untuk mengurangi dampaknya?
• Langkah-langkah apa yang dapat Anda ambil sebagai pengguna agar penggunaan AI Anda lebih bertanggung jawab?

Mari kita bahas.

Apa Kekuatan ChatGPT?

Mark Russinovich, CTO Microsoft Azure, memberi kami intipan di balik tirai dalam podcast bahwa Microsoft diterbitkan pada tahun 2023. 

Menurutnya, Microsoft membangun infrastruktur yang mampu melatih model dengan ratusan miliar parameter. 

GPT-3, misalnya, memiliki 175 miliar parameter, yang sudah terdengar terlalu banyak sampai Anda mendengar bahwa model Megatron-Turing dari Microsoft melenturkan 530 miliar.

Dari sisi perangkat keras, superkomputer OpenAI 2020 yang asli menggabungkan lebih dari 285.000 inti CPU yang terhubung dengan AMD InfiniBand ditambah 10.000 GPU NVIDIA V100 Tensor Core. 

Seri mesin virtual H100 yang baru mengelompokkan hingga delapan GPU NVIDIA H100 Tensor Core per VM dan meningkatkan skalanya menjadi ribuan, seperti jenis infrastruktur berkinerja tinggi yang digunakan dalam meng-hosting server Minecraft untuk memberikan pengalaman latensi rendah dan waktu aktif yang tinggi.

Singkatnya, jika Anda bertanya-tanya apa yang mendukung ChatGPT, jawabannya pada dasarnya adalah: semuanya.

Semua core, semua GPU, semua bandwidth jaringan yang bisa Anda timbun dalam mimpi Anda.

Perkiraan Penggunaan Energi ChatGPT

Sekarang, ke pertanyaan yang sebenarnya: berapa banyak energi yang digunakan ChatGPT per pertanyaan? 

Anda mungkin mengharapkannya menjadi apokaliptik, seperti mencairkan gletser dengan setiap prompt yang Anda ketik. 

Tetapi sebenarnya, perkiraan terbaru mengatakan bahwa permintaan ChatGPT Anda yang khas pada GPT-4o berkisar sekitar 0,3 watt-jam (Wh). 

Angka tersebut sekitar sepuluh kali lebih kecil dari perkiraan lama (dan kemungkinan besar tidak akurat) dari awal tahun 2023 yang mematoknya di angka 3 watt-jam. 

Lompatan dalam efisiensi ini berasal dari model yang lebih baik, perangkat keras yang lebih tajam, dan menyadari bahwa perkiraan sebelumnya terlalu pesimis tentang jumlah token.

Untuk skala, 0,3 watt-jam adalah energi yang lebih kecil daripada yang digunakan laptop Anda saat Anda memanaskan kopi. 

Bahkan jika Anda mengerjakan kueri yang berat sepanjang hari, berapa banyak energi yang digunakan ChatGPT per hari masih cukup jinak dibandingkan dengan, misalnya, menjalankan AC atau PC gaming Anda. Tetapi itu hanya penggunaan Anda.

Basis pengguna OpenAI lebih dari 400 juta setiap minggu pada bulan Februari, dengan jumlah Juru bicara OpenAI mengatakan kepada Reuters. Jadi, itu akan menjadi banyak watt-jam bahkan jika Anda bersikap efisien.

Penting untuk dicatat, bahwa angka 0,3 watt-jam ini masih sedikit berlebihan. 

Banyak pertanyaan sehari-hari yang mungkin lebih murah dari itu.

Namun, kueri yang melibatkan input dalam jumlah besar, output yang ekstensif, atau model penalaran tugas berat masih dapat mendorong konsumsi jauh lebih tinggi.

Penggunaan Energi: GPT-4 vs GPT-3.5

Meskipun GPT-3.5 telah tenggelam, warisannya masih tersisa, terutama ketika kita membahas berapa banyak energi yang digunakan ChatGPT di seluruh versi.

Berikut adalah data yang mengatakan tentang penggunaan energinya dibandingkan dengan GPT-4.

Untuk model gaya GPT-3 dengan sekitar 175 miliar parameter, emisi sudah sangat tinggi, tetapi beralih ke model gaya GPT-4 dengan arsitektur yang lebih berat dapat mendongkrak emisi sekitar 200 kali lipat. 

Menurut George HotzGPT-4 adalah delapan contoh model GPT-3 berparameter 220B yang dijahit menjadi satu. 

Namun yang terpenting, hanya dua dari model ini yang benar-benar dirutekan selama inferensi yang berarti tindakan nyata terjadi dengan sekitar 280B parameter efektif setelah Anda memperhitungkan beberapa pembagian parameter (~55B untuk mekanisme perhatian).

Bandingkan dengan pengaturan 175B GPT-3.5, dan Anda akan mulai memahami mengapa biaya inferensi GPT-4 mencapai tiga kali lipat lebih tinggi. 

Pertumbuhan penggunaan energi melebihi peningkatan jumlah parameter, yang seharusnya hanya menunjukkan peningkatan 1,6 kali lipat. 

Tetapi bukan itu yang terjadi karena kueri GPT-4 jauh lebih mahal. 

Jejak Karbon dari Model AI

Menjalankan model AI yang besar tidaklah murah, baik untuk planet ini maupun untuk tagihan listrik.

Model-model ini membutuhkan tenaga komputasi yang besar, yang berarti banyak listrik dan, dalam banyak kasus, banyak emisi.

Sebagai contoh, GPT-3 dilaporkan membutuhkan sekitar 1.287 MWh listrik untuk melatih, menghasilkan lebih dari 50 pon CO2.

Model yang lebih baru seperti GPT-4o bahkan lebih besar, tetapi OpenAI belum merilis jejak pastinya.

Di luar ChatGPT dari OpenAI, Anda memiliki asisten AI Meta, yang kemungkinan besar berjalan pada model Llama 3.2 (parameter 11B atau 90B).

Sekali lagi, angka pasti emisi CO2 tidak tersedia.

Claude 3.5 Soneta dari Anthropic memiliki bobot yang jauh lebih berat, diperkirakan sekitar 400 miliar parameter tanpa pengungkapan jejak karbon yang tepat.

Dan Google Gemini? Didukung oleh varian "Flash" dan "Pro", meskipun Google belum mengungkapkan angka parameter yang tepat.

Kami masih dapat menyimpulkan bahwa mereka berada di kisaran yang sama dengan GPT-4o atau varian mininya.

Dan berbicara tentang model yang ramping, DeepSeek-V3 di sini melenturkan hanya dengan 37 miliar parameter aktif (dari total 671 miliar). 

Varian penalaran R1-nya menunjukkan kinerja yang kuat sambil menghirup energi lebih halus per token daripada GPT-4o. 

Bagaimana ChatGPT Dibandingkan dengan Alat Lain?

Pada titik ini, Anda harus tahu bahwa berapa banyak energi yang digunakan ChatGPT tergantung pada versi yang Anda gunakan untuk berinteraksi, panjangnya petunjuk, dan mekanisme di baliknya. 

Dibandingkan dengan alat AI yang lebih besar, ChatGPT memiliki kebutuhan energi yang rata-rata, terutama untuk model kelas atas. 

Namun, jika menyangkut pangsa pasar dan frekuensi penggunaan, bahkan "rata-rata" pun dapat diterjemahkan ke dalam jejak energi yang sangat besar dalam skala besar.

Penggunaan energi vs Pencarian Google

Kembali pada tahun 2009, Google memperkirakan biaya energi dari satu permintaan pencarian menjadi 0,3 Wh.

Maju cepat ke tahun 2024, dan perkiraan tersebut telah menjadi berdebu.

Ternyata pencarian Google hari ini sebenarnya menggunakan energi sekitar 10x lebih sedikit daripada perkiraan awal. 

Sementara itu, estimasi energi sebelumnya untuk permintaan LLM rata-rata, termasuk ChatGPT juga sekitar 10x terlalu tinggi (2,9 Wh).

Dengan penelitian terbaru yang menempatkan konsumsi energi Google sebesar 0,04 Wh dan ChatGPT pada 0,3 Wh, kedua kesalahan ini saling membatalkan satu sama lain, yang berarti bahwa "LLM menggunakan sekitar 10x lebih banyak energi per kueri daripada Google Penelusuran" masih berlaku... tetapi hanya karena semua orang salah dengan cara yang tepat. 

Apa yang Dilakukan OpenAI untuk Mengurangi Dampak?

OpenAI sepenuhnya menyadari bahwa pelatihan dan menjalankan model seperti ChatGPT membakar energi dengan tingkat yang jauh lebih cepat. 

Hal ini membawa kita pada pertanyaan: apa yang dilakukan untuk mengatasinya?

Pertama, OpenAI telah mendorong peningkatan efisiensi. 

Seiring berjalannya waktu, model yang lebih baru, seperti GPT-4o, dan sekarang GPT-4.1telah dioptimalkan secara khusus untuk konsumsi energi yang jauh lebih rendah selama inferensi. 

Kemajuan dalam arsitektur model, penanganan token, dan peningkatan perangkat keras tingkat server berarti bahwa saat ini, jumlah energi yang digunakan kueri ChatGPT sudah jauh lebih rendah dibandingkan dengan setahun yang lalu untuk tugas yang sama.

OpenAI juga bermitra dengan Microsoft Azure, dan Azure telah berkomitmen untuk menjalankan pusat datanya dengan energi terbarukan 100% pada tahun 2025. 

Ini penting karena ketika Anda melemparkan pertanyaan ke ChatGPT, Anda melakukan ping ke superkomputer Azure yang telah kita bicarakan sebelumnya. 

Mengalihkan sumber energi dari bahan bakar fosil ke energi terbarukan tidak secara langsung mengurangi watt yang digunakan, tetapi secara radikal menurunkan jejak karbon yang melekat padanya.

Di luar infrastruktur, ada beberapa hal lain yang akan terjadi di masa depan. OpenAI secara aktif meneliti cara-cara untuk membuat model yang lebih kecil tanpa mengorbankan kinerja.

Kompresi model, penyulingan, dan perutean yang lebih cerdas (seperti pemrosesan token dinamis) adalah topik yang sangat penting dalam lingkaran efisiensi AI. 

Apa yang Dapat Anda Lakukan sebagai Pengguna?

Meskipun OpenAI menangani perubahan struktural yang besar, pengguna masih memiliki peran dalam meminimalkan pemborosan dan menggunakan ChatGPT secara bertanggung jawab. 

Inilah yang dapat Anda lakukan:

• Singkat saja: Susunlah permintaan Anda dengan jelas dan tegas. Setiap token tambahan yang diproses membutuhkan sedikit energi.
• Hindari permintaan yang bersifat spamming: Tahan godaan untuk mengirimkan 15 versi pertanyaan yang sama dengan kata-kata yang berbeda.
• Gunakan model yang sesuai: Apabila memungkinkan, pilihlah model yang lebih ringan dan lebih murah (seperti GPT-4o-mini, jika ditawarkan) untuk tugas-tugas yang santai atau ringan.
• Batch permintaan Anda: Alih-alih sekumpulan pertanyaan yang terpisah-pisah, gabungkan pertanyaan-pertanyaan tersebut ke dalam satu pertanyaan yang dipikirkan dengan matang.

Jika Anda ingin mengurangi permintaan ulang dan pembuatan ulang yang tak ada habisnya, sebaiknya gunakan alat khusus yang menghasilkan konten yang lebih bersih dan siap terbit dari beberapa percobaan pertama.

Di sinilah AI yang tidak terdeteksi alat seperti Penulis Siluman atau Parafrase masuklah. 

Daripada meminta ChatGPT untuk versi teks Anda yang sempurna melalui beberapa pengeditan dan percobaan ulang (masing-masing membutuhkan lebih banyak energi), Anda cukup menggunakan alat khusus kami yang dibuat untuk presisi. 

Alat yang dirancang untuk tindakan tertentu umumnya bekerja lebih efisien dan semua alat kami cocok dengan model penggunaan cerdas dan sadar energi ini. 

Dengan kata lain, hasil yang lebih bersih dalam percobaan yang lebih sedikit = lebih sedikit energi yang dibakar = server yang lebih bahagia = Anda menyelamatkan dunia, satu paragraf yang tajam pada satu waktu.

Siap untuk melihat perbedaannya? Luncurkan AI Detector dan Humanizer kami di widget di bawah ini!

Pertanyaan yang Sering Diajukan: ChatGPT dan Penggunaan Energi

Pemikiran Akhir: Biaya Energi dari AI

Kesimpulannya, berapa banyak energi yang digunakan ChatGPT sangat bergantung pada model mana yang Anda akses dan bagaimana Anda menggunakannya. 

Namun secara keseluruhan, jelas bahwa model-model yang lebih baru menjadi lebih efisien, dan industri ini melakukan upaya nyata untuk mengurangi dampak lingkungan.

Meskipun demikian, memilih alat yang tepat untuk tugas yang tepat dapat membuat perbedaan yang berarti dalam jejak digital Anda. 

Alur kerja yang lebih cerdas, percobaan ulang yang lebih sedikit, dan petunjuk yang lebih jelas, semuanya akan mengurangi penggunaan energi. 

Dan ketika Anda menggabungkan ChatGPT dengan alat yang dibuat khusus seperti Undetectable AI, Anda akan mendapatkan yang terbaik dari kedua dunia.

Anda menghasilkan konten yang bersih, rapi, dan siap untuk dipublikasikan dengan lebih sedikit coba-coba. Itu berarti menghemat waktu, biaya, dan ya, sedikit menghemat planet ini juga.

Jika Anda ingin bekerja dengan lebih cerdas dan lebih ramah lingkungan, daftar ke Undetectable AI hari ini.