Γιατί η Google κατασκευάζει έναν προσαρμοσμένο εγκέφαλο για τα μοντέλα τεχνητής νοημοσύνης της;

Κάθε φορά που ζητάτε από μια ΤΝ να συνοψίσει ένα μεγάλο έγγραφο ή να δημιουργήσει ένα κομμάτι κώδικα, ξεκινά μια αθόρυβη βιομηχανική διαδικασία. Οι λέξεις στην οθόνη σας είναι το τελικό προϊόν, αλλά οι πρώτες ύλες είναι ο ηλεκτρισμός και το πυρίτιο. Για να παραχθεί μια μόνο παράγραφος κειμένου, μια φάρμα διακομιστών σε ένα μέρος όπως η Αϊόβα ή η Φινλανδία καταναλώνει αρκετή ενέργεια για να λειτουργήσει μια οικιακή συσκευή για αρκετά λεπτά. Αυτοί οι διακομιστές βασίζονται σε τσιπ που λειτουργούν ως το ψηφιακό αργό πετρέλαιο της εποχής μας, τροφοδοτώντας κάθε ερώτημα αναζήτησης και αυτοματοποιημένη απάντηση.

Επί του παρόντος, η ζήτηση για αυτά τα ψηφιακά υλικά είναι τόσο υψηλή που οι γραμμές εφοδιασμού λυγίζουν. Η Google προσπαθεί τώρα να παρακάμψει αυτό το σημείο συμφόρησης αλλάζοντας ριζικά τον τρόπο λειτουργίας του υλικού της. Η εταιρεία αναπτύσσει ένα νέο τσιπ διακομιστή, με την ανεπίσημη ονομασία Frozen v2, το οποίο ενσωματώνει στοιχεία του μοντέλου AI Gemini απευθείας στο φυσικό υλικό. Αυτό αποτελεί απόκλιση από τον τρόπο με τον οποίο λειτουργούν συνήθως οι υπολογιστές. Παραδοσιακά, ένα τσιπ είναι ένα εργαλείο γενικής χρήσης που εκτελεί οποιοδήποτε λογισμικό του δώσετε. Η Google κατασκευάζει τώρα ένα τσιπ που είναι, κατά κάποιο τρόπο, προ-διαμορφωμένο για να ταιριάζει στη συγκεκριμένη λογική της δικής της ΤΝ.

το κόστος μιας ψηφιακής σκέψης

Για να καταλάβουμε γιατί η Google κάνει αυτό το βήμα, πρέπει να εξετάσουμε την αποδοτικότητα ενός μεμονωμένου AI token. Ένα token είναι περίπου ισοδύναμο με μια λέξη ή ένα μέρος μιας λέξης. Όταν ένα μοντέλο όπως το Gemini επεξεργάζεται πληροφορίες, μετακινεί αυτά τα tokens μέσα από επίπεδα μαθηματικών υπολογισμών. Σε μια τυπική εγκατάσταση, το υλικό δαπανά τεράστια ποσότητα ενέργειας μόνο για τη μεταφορά δεδομένων πέρα-δώθε μεταξύ του επεξεργαστή και της μνήμης. Αυτή η κίνηση δημιουργεί θερμότητα και καταναλώνει ηλεκτρική ενέργεια, γεγονός που μεταφράζεται σε υψηλότερο κόστος για την εταιρεία και, τελικά, για τον χρήστη.

Το Google Cloud απέρριψε πρόσφατα επιχειρηματικές προτάσεις από εξωτερικούς πελάτες επειδή απλώς δεν διέθετε αρκετή υπολογιστική ισχύ για όλους. Αυτή η κρίση χωρητικότητας είναι μια βιομηχανική πραγματικότητα που οι περισσότεροι χρήστες δεν βλέπουν ποτέ. Όταν ένας πάροχος cloud λέει όχι σε ένα συμβόλαιο, είναι επειδή τα κέντρα δεδομένων του είναι φυσικά γεμάτα ή οι λογαριασμοί ενέργειας γίνονται μη βιώσιμοι. Το The Information αναφέρει ότι αυτές οι εσωτερικές εντάσεις είναι που ώθησαν την ανάπτυξη του Frozen v2. Ο στόχος είναι να δημιουργηθεί ένα τσιπ που θα είναι έξι έως δέκα φορές πιο αποδοτικό από τα τρέχοντα μοντέλα, με βάση τον αριθμό των tokens που εξυπηρετούνται ανά μονάδα ισχύος.

Πρακτικά μιλώντας, εάν η Google μπορεί να προσφέρει 10 φορές περισσότερες απαντήσεις ΤΝ με την ίδια ποσότητα ηλεκτρικής ενέργειας, λύνει δύο προβλήματα ταυτόχρονα. Μειώνει το αστρονομικό κόστος λειτουργίας του Gemini και επιτρέπει στην εταιρεία να εξυπηρετεί περισσότερους χρήστες χωρίς να κατασκευάσει δέκα φορές περισσότερα κέντρα δεδομένων. Για τον μέσο χρήστη, αυτό μπορεί να είναι η διαφορά μεταξύ ενός δωρεάν εργαλείου ΤΝ και ενός που κρύβεται πίσω από μια μηνιαία συνδρομή είκοσι δολαρίων.

το σύννεφο φτάνει στο φυσικό του όριο

Ιστορικά, οι εταιρείες τεχνολογίας έλυναν τα προβλήματα ταχύτητας κάνοντας τα τσιπ μικρότερα και τοποθετώντας περισσότερα από αυτά σε ένα μόνο δωμάτιο. Έχουμε φτάσει σε ένα σημείο όπου αυτή η στρατηγική έχει φθίνουσες αποδόσεις. Τα σύγχρονα μοντέλα ΤΝ είναι τόσο μεγάλα που απαιτούν χιλιάδες τσιπ που εργάζονται σε τέλειο συγχρονισμό. Εάν ένα τσιπ είναι αργό, ολόκληρο το σύστημα περιμένει.

Η Google χρησιμοποιεί ήδη τις δικές της Μονάδες Επεξεργασίας Τανυστών (TPUs) για μεγάλο μέρος των εργασιών της στην ΤΝ. Αυτά είναι εξειδικευμένα τσιπ, αλλά εξακολουθούν να είναι αρκετά ευέλικτα ώστε να εκτελούν πολλούς διαφορετικούς τύπους μοντέλων. Το Frozen v2 είναι διαφορετικό επειδή είναι λιγότερο ένα εργαλείο γενικής χρήσης και περισσότερο ένας εξειδικευμένος σκελετός για το Gemini. Ενσωματώνοντας συγκεκριμένα μέρη του μοντέλου απευθείας στο πυρίτιο, η Google μειώνει την ανάγκη του τσιπ να «σκέφτεται» πώς να επεξεργαστεί τα δεδομένα. Οι οδηγίες είναι ήδη εκεί, χαραγμένες στο ίδιο το υλικό.

Αυτή η προσέγγιση έχει έναν σημαντικό συμβιβασμό. Εάν οι μηχανικοί αλλάξουν σημαντικά το μοντέλο Gemini σε τρία χρόνια, ένα ενσωματωμένο τσιπ μπορεί να καταστεί παρωχημένο. Είναι ένα στοίχημα υψηλού ρίσκου ότι η τρέχουσα αρχιτεκτονική του Gemini είναι ο θεμελιώδης σχεδιασμός για την επόμενη δεκαετία. Οι μηχανικοί εξακολουθούν να οριστικοποιούν πόση από την πληροφορία του μοντέλου θα είναι μόνιμη στο υλικό, μια απόφαση που θα καθορίσει πόσο άκαμπτο ή ευέλικτο θα είναι το τσιπ όταν φτάσει τελικά το 2028.

πώς το frozen v2 αλλάζει το παιχνίδι των τσιπ

Από την πλευρά της αγοράς, αυτή η κίνηση είναι μια σαφής προσπάθεια μείωσης της εξάρτησης από εξωτερικούς προμηθευτές όπως η Nvidia. Ενώ η Google κατασκευάζει τις δικές της TPUs, μεγάλο μέρος του κόσμου εξακολουθεί να τρέχει στους επεξεργαστές H100 και H200 της Nvidia. Δημιουργώντας ένα τσιπ που είναι ουσιαστικά αδιαχώριστο από το λογισμικό της, η Google δημιουργεί έναν κλειστό βρόχο. Αυτό καθιστά πολύ δύσκολο για τους ανταγωνιστές να φτάσουν την αποδοτικότητά τους, επειδή ο ανταγωνιστής έχει μόνο το λογισμικό, ενώ η Google έχει το λογισμικό και την εξειδικευμένη μηχανή που κατασκευάστηκε για να το τρέχει.

Κοιτάζοντας τη συνολική εικόνα, αυτό το έργο είναι μια απάντηση σε μια ασταθή αγορά όπου όλοι κυνηγούν την ίδια περιορισμένη προσφορά πυριτίου. Οι μετοχές της Alphabet σημείωσαν άνοδο 3,3% μετά την αναφορά, γεγονός που δείχνει ότι οι επενδυτές εκτιμούν την αυτονομία περισσότερο από οτιδήποτε άλλο αυτή τη στιγμή. Η αγορά αναγνωρίζει ότι η εταιρεία με το πιο αποδοτικό υλικό κερδίζει τον πόλεμο των περιθωρίων κέρδους. Εάν κοστίζει στην OpenAI πέντε σεντς για να απαντήσει σε μια ερώτηση και στην Google κοστίζει μισό σεντ, η Google έχει ένα συστημικό πλεονέκτημα που είναι σχεδόν αδύνατο να ξεπεραστεί μόνο μέσω ενημερώσεων λογισμικού.

ιχνηλατώντας τη διαδρομή από το λογισμικό στο υλικό

Μεγεθύνοντας, μπορούμε να δούμε πώς αυτό επηρεάζει τον κύκλο ζωής ενός προϊόντος. Στις πρώτες μέρες μιας νέας τεχνολογίας, το λογισμικό είναι γρήγορο και το υλικό είναι αργό. Οι προγραμματιστές αλλάζουν τον κώδικά τους κάθε εβδομάδα, επομένως το υλικό πρέπει να είναι ένας λευκός καμβάς που μπορεί να προσαρμοστεί. Καθώς μια τεχνολογία ωριμάζει, το λογισμικό σταθεροποιείται σε μια μορφή. Αυτό είναι το σημείο όπου έχει νόημα να «ψηθεί» το λογισμικό μέσα στο υλικό.

Το είδαμε αυτό με τα βιντεοπαιχνίδια. Στη δεκαετία του 1990, οι υπολογιστές χρησιμοποιούσαν επεξεργαστές γενικής χρήσης για τα πάντα. Τελικά, οι εταιρείες δημιούργησαν κάρτες γραφικών (GPUs) που ήταν ενσωματωμένες για να κάνουν ένα πράγμα: να υπολογίζουν τρίγωνα και φως. Η ΤΝ διέρχεται επί του παρόντος την ίδια μετάβαση. Το Frozen v2 είναι ένα αναδυόμενο σημάδι ότι η ΤΝ δεν είναι πλέον ένα πειραματικό έργο λογισμικού. Γίνεται μια θεμελιώδης υπηρεσία κοινής ωφέλειας, όπως ο ηλεκτρισμός ή το νερό, όπου προτεραιότητα είναι η οικονομικά αποδοτική παροχή σε μαζική κλίμακα.

Περιέργως, το Bloomberg ανέφερε πρόσφατα ότι η Google έπρεπε να καθυστερήσει το τελευταίο της μοντέλο Gemini επειδή δεν πέτυχε τους εσωτερικούς στόχους. Αυτό υπογραμμίζει τις τριβές σε αυτή τη μετάβαση. Εάν το λογισμικό δεν είναι ακόμη τέλειο, η ενσωμάτωσή του σε ένα τσιπ είναι μια επικίνδυνη κίνηση. Η καθυστέρηση υποδηλώνει ότι η Google εξακολουθεί να βελτιώνει το «σχήμα» της ΤΝ της προτού δεσμεύσει αυτό το σχήμα σε μια παραγωγή πυριτίου δισεκατομμυρίων δολαρίων. Ένα λάθος στον σχεδιασμό του υλικού δεν μπορεί να διορθωθεί με μια γρήγορη επιδιόρθωση ή μια ολονύκτια ενημέρωση.

ο μακρύς δρόμος προς το 2028

Για τον μέσο χρήστη, το 2028 φαίνεται πολύ μακρινό για να περιμένει ένα ταχύτερο chatbot. Στον κόσμο του βιομηχανικού υλικού, τα τέσσερα χρόνια είναι ένας τυπικός κύκλος ανάπτυξης. Ο σχεδιασμός ενός τσιπ, η δοκιμή της αρχιτεκτονικής και η εξασφάλιση χρόνου σε ένα εργοστάσιο κατασκευής όπως η TSMC απαιτούν χρόνια προετοιμασίας. Αυτό σημαίνει ότι η Google λαμβάνει αποφάσεις σήμερα για την ΤΝ που θα χρησιμοποιείτε στο τέλος της δεκαετίας.

Πίσω από την ορολογία, πρόκειται για την ανθεκτικότητα. Η Google προσπαθεί να διασφαλίσει ότι οι υπηρεσίες της θα παραμείνουν διαθέσιμες ακόμη και αν οι παγκόσμιες προμήθειες τσιπ παραμείνουν περιορισμένες. Κατασκευάζοντας το δικό τους εξειδικευμένο υλικό, είναι λιγότερο ευάλωτοι στην κυκλική φύση της βιομηχανίας ημιαγωγών. Χτίζουν το δικό τους εργοστάσιο παραγωγής ενέργειας αντί να αγοράζουν ηλεκτρική ενέργεια από το δίκτυο. Αυτό το επίπεδο κάθετης ολοκλήρωσης είναι ακριβό, αλλά παρέχει ένα επίπεδο ελέγχου που λείπει από τις περισσότερες άλλες εταιρείες τεχνολογίας.

Από την πλευρά του καταναλωτή, δεν θα δείτε απαραίτητα ένα λογότυπο "Frozen v2" στο τηλέφωνό σας ή στο πρόγραμμα περιήγησής σας. Ο αντίκτυπος θα είναι αόρατος. Θα παρατηρήσετε ότι το Gemini ανταποκρίνεται ταχύτερα, χειρίζεται μεγαλύτερα έγγραφα χωρίς καθυστέρηση και ίσως προσφέρει πιο προηγμένες λειτουργίες δωρεάν. Η βαριά βιομηχανία που συμβαίνει στο παρασκήνιο —η χύτευση του πυριτίου και η βελτιστοποίηση των δικτύων ηλεκτροδότησης— είναι αυτή που καθιστά δυνατή την ελαφριά ψηφιακή εμπειρία.

τι σημαίνει αυτό για τη μηνιαία συνδρομή σας

Τελικά, η ανάπτυξη του Frozen v2 είναι μια υπενθύμιση ότι η ΤΝ δεν είναι μόνο ένα ψηφιακό φαινόμενο. Είναι ένα φυσικό φαινόμενο. Καθώς τα μοντέλα γίνονται πιο περίπλοκα, το υλικό πρέπει να γίνει πιο εξειδικευμένο για να συμβαδίζει. Αυτή είναι μια πρακτική στροφή προς ένα μέλλον όπου οι συσκευές μας δεν θα τρέχουν απλώς ΤΝ, αλλά θα είναι φυσικά κατασκευασμένες από ΤΝ.

Προς το παρόν, ο καλύτερος τρόπος προετοιμασίας είναι να παρατηρήσετε πώς αυτά τα εργαλεία ενσωματώνονται στις καθημερινές σας συνήθειες. Καθώς η αποδοτικότητα βελτιώνεται, η ΤΝ πιθανότατα θα μετακινηθεί από ένα αυτόνομο πλαίσιο συνομιλίας στο παρασκήνιο κάθε εφαρμογής που χρησιμοποιείτε. Δώστε προσοχή στο κόστος. Εάν η αποδοτικότητα του υλικού όντως δεκαπλασιαστεί, θα πρέπει να περιμένουμε να δούμε την τρέχουσα τάση των αυξανόμενων τιμών συνδρομής να σταθεροποιείται ή ακόμη και να αντιστρέφεται. Θα πρέπει να αναζητάτε υπηρεσίες που μπορούν να αποδείξουν ότι είναι βιώσιμες, καθώς αυτές θα είναι εκείνες που θα επιβιώσουν από την επερχόμενη κρίση ενέργειας και χωρητικότητας. Η αόρατη ραχοκοκαλιά του διαδικτύου αλλάζει και το αποτέλεσμα θα είναι ένα πιο εξορθολογισμένο, αν και ίσως πιο κλειστό, ψηφιακό οικοσύστημα.

Πηγές: The Information, Bloomberg News, Alphabet Investor Relations, Google Cloud Official Communications.