Αν ψάξετε στο διαδίκτυο για απαντήσεις στο ερώτημα πόση ενέργεια καταναλώνει το ChatGPT, θα βρείτε πιθανότατα κάτι τέτοιο:
"Το ChatGPT χρησιμοποιεί 10 φορές περισσότερη ηλεκτρική ενέργεια από μια αναζήτηση στο Google".
Αν ακολουθήσετε τα ίχνη, ο ισχυρισμός αυτός οδηγεί σε ένα Έκθεση 170 σελίδων του ΙΕΑ, το οποίο παραπέμπει σε ένα έγγραφο που παραθέτει μια πιθανή εκτίμηση από έναν πρόεδρο της Alphabet... με βάση στοιχεία του 2009. Yikes!
Στην πραγματικότητα, οι νεότερες λειτουργίες αναζήτησης της Google είναι περίπου 10 φορές πιο αποδοτικές από ό,τι το 2009, και η πραγματική χρήση ενέργειας ανά αίτηση από το ChatGPT σήμερα είναι πολύ χαμηλότερη από ό,τι έδειχναν οι πρώτοι συναγερμοί.
Τα νεότερα μοντέλα, όπως το GPT-4o, έχουν κάνει σημαντικά βήματα στην αποδοτικότητα, πράγμα που σημαίνει ότι οι επικεφαλής αριθμοί που κυκλοφορούν είναι ξεπερασμένοι και, ειλικρινά, λίγο παραπλανητικοί.
Ποια είναι λοιπόν η πραγματική εικόνα; Αυτό ακριβώς είναι το θέμα στο οποίο θα καταδυθούμε εδώ.
Τα οφέλη σας θα είναι:
- Τι τροφοδοτεί το ChatGPT κάτω από το καπό;
- Πόση ενέργεια καταναλώνει μια αναζήτηση ChatGPT;
- Πόση ενέργεια καταναλώνει σε σύγκριση με το Google Search και άλλα μοντέλα τεχνητής νοημοσύνης;
- Τι κάνει το OpenAI για να μειώσει τον αντίκτυπό του;
- Ποια μέτρα μπορείτε να λάβετε ως χρήστης για να κάνετε τη χρήση της ΤΝ πιο υπεύθυνη;
Ας μπούμε στο θέμα.
Τι Δυνάμεις ChatGPT?
Ο Mark Russinovich, CTO του Microsoft Azure, μας έδωσε μια ματιά πίσω από την κουρτίνα σε ένα podcast που Η Microsoft δημοσίευσε το 2023.
Σύμφωνα με τον ίδιο, η Microsoft δημιούργησε μια υποδομή ικανή να εκπαιδεύει μοντέλα με εκατοντάδες δισεκατομμύρια παραμέτρους.
Το GPT-3, για παράδειγμα, είχε 175 δισεκατομμύρια παραμέτρους, που ήδη ακούγεται υπερβολικά πολύ, μέχρι να ακούσετε ότι το μοντέλο Megatron-Turing της Microsoft είχε 530 δισεκατομμύρια.
Μην ανησυχείτε ποτέ ξανά για την τεχνητή νοημοσύνη που ανιχνεύει τα κείμενά σας. Undetectable AI Μπορεί να σας βοηθήσει:
- Κάντε το γραπτό σας με υποστήριξη AI να εμφανιστεί ανθρωποειδής.
- Παράκαμψη όλα τα κύρια εργαλεία ανίχνευσης AI με ένα μόνο κλικ.
- Χρήση AI με ασφάλεια και με αυτοπεποίθηση στο σχολείο και στην εργασία.
Όσον αφορά το υλικό, ο αρχικός υπερυπολογιστής OpenAI του 2020 συνδύασε πάνω από 285.000 πυρήνες επεξεργαστών AMD InfiniBand και 10.000 GPU NVIDIA V100 Tensor Core.
Η νέα σειρά εικονικών μηχανών H100 συγκεντρώνει έως και οκτώ NVIDIA H100 Tensor Core GPU ανά VM και κλιμακώνεται σε χιλιάδες.
Εν ολίγοις, αν αναρωτιέστε τι τροφοδοτεί το ChatGPT, η απάντηση είναι βασικά: όλα αυτά.
Όλοι οι πυρήνες, όλες οι GPUs, όλο το εύρος ζώνης δικτύου που θα μπορούσατε ποτέ να συγκεντρώσετε στα όνειρά σας.
Εκτιμώμενη ενεργειακή χρήση του ChatGPT
Τώρα, στο πραγματικό ερώτημα: πόση ενέργεια χρησιμοποιεί το ChatGPT ανά ερώτηση;
Μπορεί να περιμένετε να είναι αποκαλυπτικό, σαν να λιώνει παγετώνες με κάθε πληκτρολόγηση.
Αλλά στην πραγματικότητα, πρόσφατες εκτιμήσεις λένε ότι το τυπικό ερώτημα ChatGPT στο GPT-4o καταναλώνει περίπου 0,3 watt-hours (Wh).
Αυτό είναι περίπου δέκα φορές λιγότερο από παλαιότερες (και πιθανώς ανακριβείς) εκτιμήσεις από τις αρχές του 2023 που το τοποθετούσαν στις 3 βατ-ώρες.
Το άλμα στην αποδοτικότητα οφείλεται σε καλύτερα μοντέλα, σε καλύτερο υλικό και στη συνειδητοποίηση ότι οι παλαιότερες εκτιμήσεις ήταν υπερβολικά απαισιόδοξες όσον αφορά τον αριθμό των συμβόλων.
Για την κλίμακα, 0,3 βατ-ώρες είναι λιγότερη ενέργεια από αυτή που καταναλώνει ο φορητός σας υπολογιστής ενώ ζεσταίνετε τον καφέ σας.
Ακόμα και αν εκτελείτε βαριά ερωτήματα όλη την ημέρα, οι αριθμοί για το πόση ενέργεια καταναλώνει το ChatGPT ανά ημέρα είναι ακόμα αρκετά ήμεροι σε σύγκριση, ας πούμε, με τη λειτουργία του κλιματιστικού σας ή του υπολογιστή σας για παιχνίδια. Αλλά αυτή είναι μόνο η δική σας χρήση.
Η βάση χρηστών του OpenAI ξεπερνούσε τα 400 εκατομμύρια εβδομαδιαίως από τον Φεβρουάριο, σύμφωνα με τα όσα αναφέρει ένα Εκπρόσωπος του OpenAI δήλωσε στο Reuters. Έτσι, θα είναι πολλές ώρες watt, ακόμη και αν είστε αποδοτικοί.
Είναι σημαντικό να σημειωθεί ότι αυτή η τιμή των 0,3 watt-ωρών είναι ακόμα λίγο επιφυλακτική.
Πολλά καθημερινά ερωτήματα είναι πιθανώς φθηνότερα από αυτό.
Αλλά τα ερωτήματα που περιλαμβάνουν τεράστιες ποσότητες εισόδου, εκτεταμένες εξόδους ή μοντέλα συλλογιστικής βαρέως τύπου μπορούν να αυξήσουν την κατανάλωση πολύ περισσότερο.
Χρήση ενέργειας: 3,5
Παρόλο που η GPT-3.5 έχει καταργηθεί, η κληρονομιά της παραμένει, ειδικά όταν συζητάμε για το πόση ενέργεια χρησιμοποιεί το ChatGPT σε όλες τις εκδόσεις.
Ακολουθούν τα στοιχεία για τη χρήση ενέργειας σε σύγκριση με το GPT-4.
Για ένα μοντέλο τύπου GPT-3 με περίπου 175 δισεκατομμύρια παραμέτρους, οι εκπομπές ήταν ήδη έντονες, αλλά η μετάβαση σε ένα μοντέλο τύπου GPT-4 με τη βαρύτερη αρχιτεκτονική του θα μπορούσε να αυξήσει τις εκπομπές κατά περίπου 200 φορές.
Σύμφωνα με τον George Hotz, το GPT-4 είναι οκτώ περιπτώσεις ενός μοντέλου GPT-3 με 220B παραμέτρους, που έχουν συρραφεί μαζί.
Αλλά είναι σημαντικό ότι μόνο δύο από αυτά τα μοντέλα δρομολογούνται πραγματικά κατά τη διάρκεια της συμπερασματολογίας, πράγμα που σημαίνει ότι η πραγματική δράση συμβαίνει με περίπου 280Β αποτελεσματικές παραμέτρους, αφού λάβετε υπόψη σας κάποια κατανομή παραμέτρων (~55Β για τους μηχανισμούς προσοχής).
Συγκρίνετε αυτό με την εγκατάσταση 175B της GPT-3.5 και αρχίζετε να καταλαβαίνετε γιατί το κόστος εξαγωγής συμπερασμάτων της GPT-4 είναι έως και τρεις φορές υψηλότερο.
Η αύξηση της χρήσης ενέργειας ξεπερνά την απλή αύξηση του αριθμού των παραμέτρων, η οποία θα έπρεπε να υποδηλώνει αύξηση μόνο κατά 1,6 φορές.
Αλλά δεν συνέβη αυτό, επειδή τα ερωτήματα του GPT-4 είναι απλά πολύ πιο ακριβά.
Το ανθρακικό αποτύπωμα των μοντέλων τεχνητής νοημοσύνης
Η λειτουργία μεγάλων μοντέλων τεχνητής νοημοσύνης δεν είναι φθηνή, ούτε για τον πλανήτη ούτε για τον λογαριασμό ρεύματος.
Αυτά τα μοντέλα απαιτούν σοβαρή υπολογιστική ισχύ, πράγμα που σημαίνει πολλή ηλεκτρική ενέργεια και, σε πολλές περιπτώσεις, πολλές εκπομπές ρύπων.
Για παράδειγμα, η GPT-3 φέρεται να χρειάστηκε περίπου 1.287 MWh ηλεκτρικής ενέργειας για την εκπαίδευση, παράγοντας πάνω από 50 κιλά CO2.
Τα νεότερα μοντέλα, όπως το GPT-4o, είναι ακόμη μεγαλύτερα, αλλά η OpenAI δεν έχει δημοσιεύσει το ακριβές αποτύπωμά τους.
Πέρα από το ChatGPT του OpenAI, έχετε τον βοηθό τεχνητής νοημοσύνης της Meta, ο οποίος πιθανότατα εκτελείται σε μοντέλα Llama 3.2 (είτε με παραμέτρους 11B είτε με παραμέτρους 90B).
Και πάλι, δεν υπάρχουν ακριβή στοιχεία για τις εκπομπές CO2.
Το Claude 3.5 Sonnet της Anthropic ζυγίζει πολύ βαρύτερα, υπολογίζεται σε περίπου 400 δισεκατομμύρια παραμέτρους, χωρίς να αποκαλύπτεται το ακριβές αποτύπωμα άνθρακα.
Και το Gemini της Google; Τροφοδοτείται από τις παραλλαγές "Flash" και "Pro", αν και η Google δεν έχει αποκαλύψει ακριβείς αριθμούς παραμέτρων.
Μπορούμε ακόμα να συμπεράνουμε ότι είναι στην ίδια κατηγορία με το GPT-4o ή τις μίνι παραλλαγές του.
Και μιλώντας για εξορθολογισμένα μοντέλα, το DeepSeek-V3 είναι εδώ έξω και παρουσιάζει μόλις 37 δισεκατομμύρια ενεργές παραμέτρους (από τις 671B συνολικά).
Η παραλλαγή της R1 παρουσιάζει ισχυρές επιδόσεις, ενώ απορροφά την ενέργεια πιο διακριτικά ανά κουπόνι σε σχέση με το GPT-4o.
Πώς συγκρίνεται το ChatGPT με άλλα εργαλεία;
Σε αυτό το σημείο, θα πρέπει να γνωρίζετε ότι το πόση ενέργεια χρησιμοποιεί το ChatGPT εξαρτάται από την έκδοση με την οποία αλληλεπιδράτε, τη διάρκεια των προτροπών και τους μηχανισμούς κάτω από το καπό.
Σε σύγκριση με το ευρύτερο σύμπαν των εργαλείων τεχνητής νοημοσύνης, το ChatGPT είναι περίπου μέσος όρος όσον αφορά τις ενεργειακές απαιτήσεις, ειδικά για τα μοντέλα υψηλών προδιαγραφών.
Αλλά όταν πρόκειται για το απόλυτο μερίδιο αγοράς και τη συχνότητα χρήσης, ακόμη και ο "μέσος όρος" μεταφράζεται σε ένα τεράστιο ενεργειακό αποτύπωμα σε κλίμακα.
Χρήση ενέργειας vs Google Search
Πίσω στο 2009, Η Google εκτίμησε το ενεργειακό κόστος ενός μεμονωμένου ερωτήματος αναζήτησης να είναι 0,3 Wh.
Προχωρήστε στο 2024, και η εκτίμηση αυτή έχει ξεθωριάσει.
Αποδεικνύεται ότι οι σημερινές αναζητήσεις στο Google χρησιμοποιούν στην πραγματικότητα περίπου 10 φορές λιγότερη ενέργεια από εκείνες τις πρώτες εκτιμήσεις.
Εν τω μεταξύ, οι προηγούμενες εκτιμήσεις ενέργειας για ένα μέσο αίτημα LLM, συμπεριλαμβανομένου του ChatGPT, ήταν επίσης περίπου 10 φορές υψηλότερες (2,9 Wh).
Με την τελευταία έρευνα που θέτει το κατανάλωση ενέργειας της Google σε 0,04 Wh και ChatGPT στο 0,3 Wh, αυτά τα δύο λάθη αλληλοεξουδετερώνονται, πράγμα που σημαίνει ότι το παλιό "οι LLMs χρησιμοποιούν περίπου 10x περισσότερη ενέργεια ανά ερώτημα από το Google Search" εξακολουθεί να ισχύει... αλλά μόνο επειδή όλοι έκαναν λάθος με τον σωστό τρόπο.
Τι κάνει το OpenAI για να μειώσει τον αντίκτυπο;
Η OpenAI έχει πλήρη επίγνωση ότι η εκπαίδευση και η λειτουργία μοντέλων όπως το ChatGPT καταναλώνει ενέργεια με σημαντικά ταχύτερο ρυθμό.
Αυτό μας φέρνει στο ερώτημα: τι γίνεται γι' αυτό;
Κατ' αρχάς, το OpenAI έχει προωθήσει αναβαθμίσεις της αποδοτικότητας.
Με την πάροδο του χρόνου, τα νεότερα μοντέλα, όπως το GPT-4o, και τώρα GPT-4.1, έχουν βελτιστοποιηθεί ειδικά για σημαντικά χαμηλότερη κατανάλωση ενέργειας κατά την εξαγωγή συμπερασμάτων.
Η πρόοδος στην αρχιτεκτονική του μοντέλου, ο χειρισμός των συμβόλων και οι βελτιώσεις του υλικού σε επίπεδο διακομιστή σημαίνουν ότι σήμερα, η ενέργεια που χρησιμοποιεί ένα ερώτημα ChatGPT είναι ήδη πολύ χαμηλότερη από ό,τι θα ήταν ακόμη και πριν από ένα χρόνο για την ίδια εργασία.
Το OpenAI συνεργάζεται επίσης με τη Microsoft Azure και Η Azure έχει δεσμευτεί να λειτουργεί τα κέντρα δεδομένων της με 100% ανανεώσιμη ενέργεια έως το 2025..
Αυτό είναι σημαντικό επειδή όταν στέλνετε ερωτήματα στο ChatGPT, κάνετε ping στους υπερυπολογιστές Azure που αναφέραμε προηγουμένως.
Η μετατόπιση της πηγής ενέργειας από τα ορυκτά καύσιμα στις ανανεώσιμες πηγές ενέργειας δεν συρρικνώνει άμεσα την ισχύ που χρησιμοποιεί ένα ερώτημα, αλλά μειώνει ριζικά το αποτύπωμα άνθρακα που συνδέεται με αυτό.
Πέρα από τις υποδομές, συμβαίνουν και άλλα πράγματα που αφορούν το μέλλον. Το OpenAI ερευνά ενεργά τρόπους για να κάνει τα μοντέλα μικρότερα χωρίς να θυσιάζει την απόδοση.
Η συμπίεση μοντέλων, η απόσταξη και η εξυπνότερη δρομολόγηση (όπως η δυναμική επεξεργασία συμβόλων) είναι όλα πολύ ζωντανά θέματα στους κύκλους αποδοτικότητας της ΤΝ.
Τι μπορείτε να κάνετε ως χρήστης;
Ενώ το OpenAI χειρίζεται τις μεγάλες διαρθρωτικές αλλαγές, οι χρήστες εξακολουθούν να έχουν ρόλο στην ελαχιστοποίηση των αποβλήτων και στην υπεύθυνη χρήση του ChatGPT.
Ακούστε τι μπορείτε να κάνετε:
- Να είστε συνοπτικοί: Διαμορφώστε τις προτροπές σας με σαφήνεια και αυστηρότητα. Κάθε επιπλέον συμβολική επεξεργασία κοστίζει λίγη ενέργεια.
- Αποφύγετε τις προτροπές spamming: Αντισταθείτε στον πειρασμό να υποβάλετε 15 ελαφρώς αναδιατυπωμένες εκδοχές της ίδιας ερώτησης.
- Χρησιμοποιήστε κατάλληλα μοντέλα: Όταν είναι δυνατόν, επιλέξτε ελαφρύτερα, φθηνότερα μοντέλα (όπως το GPT-4o-mini, αν προσφέρεται) για περιστασιακές ή ελαφριές εργασίες.
- Συσσώρευση των αιτημάτων σας: Αντί για ένα σωρό αποσπασματικές ερωτήσεις, συγκεντρώστε τις σε μια ενιαία, καλά μελετημένη προτροπή.
Αν θέλετε να μειώσετε τις ατελείωτες επαναλήψεις και επαναδημιουργίες, είναι έξυπνο να χρησιμοποιείτε ειδικά εργαλεία που δημιουργούν καθαρότερο, έτοιμο για δημοσίευση περιεχόμενο από τις πρώτες προσπάθειες.
Εδώ είναι που Μη ανιχνεύσιμο AI εργαλεία όπως Συγγραφέας Stealth ή Παραφραστής να έρθει.
Αντί να ζητάτε από το ChatGPT την τέλεια έκδοση του κειμένου σας μέσω πολλαπλών επεξεργασιών και επαναληπτικών προσπαθειών (κάθε μία από τις οποίες κοστίζει περισσότερη ενέργεια), μπορείτε απλά να χρησιμοποιήσετε τα εξειδικευμένα εργαλεία μας που είναι κατασκευασμένα για ακρίβεια.
Τα εργαλεία που έχουν σχεδιαστεί για συγκεκριμένες ενέργειες αποδίδουν γενικά πιο αποτελεσματικά και όλα τα εργαλεία μας εντάσσονται σε αυτό το μοντέλο έξυπνης, ενεργειακά συνειδητής χρήσης.
Με άλλα λόγια, καθαρότερη απόδοση σε λιγότερες προσπάθειες = λιγότερη ενέργεια που καίγεται = πιο ευτυχισμένοι διακομιστές = σώζετε τον κόσμο, μια τραγανή παράγραφο τη φορά.
Είστε έτοιμοι να δείτε τη διαφορά; Ξεκινήστε τον ανιχνευτή AI Detector και τον Humanizer στο widget παρακάτω!
Συχνές ερωτήσεις: ChatGPT και χρήση ενέργειας
Πόση ενέργεια καταναλώνει ένα αίτημα ChatGPT;
Ένα τυπικό ερώτημα ChatGPT, ειδικά όταν χρησιμοποιείται το GPT-4o, καταναλώνει περίπου 0,3 watt-ώρες.
Αυτό βασίζεται σε νεότερες και ακριβέστερες εκτιμήσεις που αντικατοπτρίζουν τις βελτιώσεις στην αποδοτικότητα του υλικού και την αρχιτεκτονική του μοντέλου.
Οι προηγούμενες εκτιμήσεις ήταν περίπου 3 βατ-ώρες ανά ερώτημα, αλλά οι αριθμοί αυτοί βασίζονταν σε παλαιότερη τεχνολογία και παραδοχές.
Έτσι, πόση ενέργεια καταναλώνει ένα αίτημα ChatGPT σήμερα είναι πολύ χαμηλότερη από ό,τι παλαιότερα.
Είναι η εκπαίδευση πιο ενεργοβόρα από τη χρήση της;
Ναι, απολύτως. Η εκπαίδευση ενός μοντέλου όπως το ChatGPT καταναλώνει τεράστια ποσότητα ενέργειας, πολύ περισσότερη από την εκτέλεσή του για καθημερινά ερωτήματα.
Η εκπαίδευση περιλαμβάνει την επεξεργασία τεράστιων συνόλων δεδομένων επί εβδομάδες ή μήνες σε χιλιάδες GPU, γεγονός που έχει ως αποτέλεσμα ένα πολύ μεγάλο αρχικό αποτύπωμα άνθρακα.
Αντίθετα, η χρήση του μοντέλου (συμπερασμός) καταναλώνει σχετικά μικρά ποσά ενέργειας ανά αίτηση.
Δημοσιεύει το OpenAI δεδομένα βιωσιμότητας;
Όχι, η OpenAI δεν δημοσιεύει επί του παρόντος λεπτομερείς δημόσιες εκθέσεις βιωσιμότητας ή πλήρη στατιστικά στοιχεία χρήσης ενέργειας.
Ενώ συνεργάζονται στενά με τη Microsoft Azure, η οποία έχει τους δικούς της στόχους και εκθέσεις βιωσιμότητας, η ίδια η OpenAI δεν έχει προβεί σε ολοκληρωμένες γνωστοποιήσεις σχετικά με την κατανάλωση ενέργειας ή το αποτύπωμα άνθρακα των μοντέλων της.
Τελικές σκέψεις: Το ενεργειακό κόστος της Τεχνητής Νοημοσύνης
Εν κατακλείδι, το πόση ενέργεια χρησιμοποιεί το ChatGPT εξαρτάται σε μεγάλο βαθμό από το μοντέλο στο οποίο έχετε πρόσβαση και από τον τρόπο χρήσης του.
Συνολικά, όμως, είναι σαφές ότι τα νεότερα μοντέλα γίνονται πιο αποδοτικά και ότι η βιομηχανία καταβάλλει πραγματικές προσπάθειες για τη μείωση των περιβαλλοντικών επιπτώσεων.
Τούτου λεχθέντος, η επιλογή του σωστού εργαλείου για τη σωστή εργασία μπορεί να κάνει σημαντική διαφορά στο ψηφιακό σας αποτύπωμα.
Οι πιο έξυπνες ροές εργασίας, οι λιγότερες επαναλήψεις και οι σαφέστερες υποδείξεις οδηγούν σε χαμηλότερη κατανάλωση ενέργειας.
Και όταν συνδυάζετε το ChatGPT με ειδικά σχεδιασμένα εργαλεία όπως το Undetectable AI, έχετε το καλύτερο και από τους δύο κόσμους.
Δημιουργείτε καθαρό, γυαλισμένο και έτοιμο προς δημοσίευση περιεχόμενο με λιγότερες δοκιμές και λάθη. Αυτό σημαίνει εξοικονόμηση χρόνου, υπολογιστών και, ναι, και λίγο από τον πλανήτη.
Αν θέλετε να εργάζεστε πιο έξυπνα και πιο οικολογικά, εγγραφείτε για το Undetectable AI σήμερα.