Η ισχυρότερη Τεχνητή Νοημοσύνη στον κόσμο θα μπορούσε σύντομα να ζει μέσα σε μια εφαρμογή κοινωνικής δικτύωσης

Ένα κοινό αφήγημα στον κόσμο της τεχνολογίας υποδηλώνει ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης των ΗΠΑ κατέχουν ένα ανυπέρβλητο πλεονέκτημα έναντι του υπόλοιπου κόσμου. Ενώ εταιρείες όπως η Anthropic και η OpenAI κυριαρχούν στους τίτλους των ειδήσεων με τις σειρές Mythos και GPT, μια αθόρυβη μετατόπιση συντελείται στα κέντρα δεδομένων της εταιρείας πίσω από το TikTok. Η ByteDance εκπαιδεύει επί του παρόντος ένα τεράστιο μοντέλο AI με 10 τρισεκατομμύρια παραμέτρους. Για να το θέσουμε σε προοπτική, αυτό το σύστημα είναι τρεις φορές το μέγεθος του μεγαλύτερου υπάρχοντος κινεζικού μοντέλου και ενδεχομένως μεγαλύτερο από τα πιο προηγμένα συστήματα που είναι διαθέσιμα αυτή τη στιγμή στη Δύση.

Κοιτάζοντας τη συνολική εικόνα, αυτή η κίνηση αποτελεί μια διακήρυξη τεχνικής ανεξαρτησίας. Για χρόνια, πολλές αναδυόμενες εταιρείες AI βασίζονταν σε μια συντόμευση που ονομάζεται απόσταξη (distillation). Αυτή η διαδικασία περιλαμβάνει τη λήψη ενός μοντέλου υψηλής απόδοσης από έναν ανταγωνιστή και την εκπαίδευση μιας μικρότερης έκδοσης ώστε να μιμείται τη συμπεριφορά του. Είναι το ψηφιακό ισοδύναμο ενός μαθητή που αντιγράφει τις εργασίες ενός κορυφαίου μελετητή για να πάρει προβιβάσιμο βαθμό. Ο ιδρυτής της ByteDance, Zhang Yiming, απέρριψε αυτόν τον δρόμο. Πρόσφατα δήλωσε στους ερευνητές του ότι η εταιρεία πρέπει να στοχεύσει σε κορυφαίες δυνατότητες παγκοσμίως μέσω πρωτότυπης ανάπτυξης. Ουσιαστικά, η ByteDance χτίζει τον ψηφιακό της εγκέφαλο από το μηδέν για να διασφαλίσει ότι μπορεί τελικά να ξεπεράσει τους δασκάλους που κάποτε μελέτησε.

Κατανοώντας το βάρος των δέκα τρισεκατομμυρίων παραμέτρων

Πίσω από την ορολογία των παραμέτρων κρύβεται μια απλή έννοια ψηφιακής μνήμης και χωρητικότητας. Σκεφτείτε ένα μοντέλο AI ως έναν ακούραστο ασκούμενο. Οι παράμετροι είναι ο αριθμός των μεμονωμένων συνδέσεων ή ψηφιακών συνάψεων που χρησιμοποιεί ο ασκούμενος για να αποθηκεύσει πληροφορίες και να αναγνωρίσει μοτίβα. Ένα μοντέλο με 1 δισεκατομμύριο παραμέτρους είναι σαν μια βασική αριθμομηχανή. Ένα μοντέλο με 100 δισεκατομμύρια παραμέτρους είναι ένας ικανός ερευνητής. Ένα μοντέλο 10 τρισεκατομμυρίων παραμέτρων είναι μια βιβλιοθήκη που μπορεί να σκέφτεται.

Οι εκτιμήσεις του κλάδου τοποθετούν το πιο προηγμένο μοντέλο της Anthropic, το Mythos 5, σε περίπου 8 τρισεκατομμύρια παραμέτρους. Το Fable 5, το μοντέλο που χρησιμοποιούν πολλοί επαγγελματίες προγραμματιστές σήμερα, βρίσκεται περίπου στα 5 τρισεκατομμύρια. Η ByteDance στοχεύει στα 10 τρισεκατομμύρια. Αν και το απόλυτο μέγεθος δεν είναι ο μόνος παράγοντας για το πόσο έξυπνη γίνεται μια AI, θέτει το θεμελιώδες όριο σε αυτά που μπορεί να μάθει η μηχανή. Ένα μεγαλύτερο μοντέλο έχει υψηλότερο ταβάνι για συλλογιστική, σύνθετο προγραμματισμό και κατανόηση των αποχρώσεων της ανθρώπινης γλώσσας σε διαφορετικούς πολιτισμούς.

Αυτή η κλίμακα απαιτεί τεράστιο όγκο φυσικής υποδομής. Η ByteDance πέρασε τρία χρόνια χτίζοντας επιθετικά το δίκτυο των κέντρων δεδομένων της. Η εταιρεία λειτουργεί μια μονάδα cloud που ονομάζεται Volcano Engine, η οποία λειτουργεί ως η αόρατη ραχοκοκαλιά για αυτές τις φιλοδοξίες AI. Αυτή η μονάδα κάνει περισσότερα από το να φιλοξενεί απλώς το μοντέλο· παρέχει την εξειδικευμένη υπολογιστική ισχύ που απαιτείται για την επεξεργασία των βουνών δεδομένων που απαιτεί ένα σύστημα 10 τρισεκατομμυρίων παραμέτρων. Η εκπαίδευση ενός μοντέλου αυτού του μεγέθους διαρκεί συνήθως τρεις έως έξι μήνες συνεχούς υπολογισμού προτού καν ξεκινήσει η διαδικασία λεπτομερούς ρύθμισης (fine-tuning).

Γιατί η πρωτότυπη έρευνα είναι ένα ριψοκίνδυνο αλλά απαραίτητο στοίχημα

Ιστορικά, ο ταχύτερος δρόμος προς την αγορά ήταν η βελτίωση αυτού που ήδη λειτουργούσε. Επιλέγοντας να αποφύγει την απόσταξη, η ByteDance αποδέχτηκε έναν πιο αργό κύκλο ανάπτυξης. Αυτή η απόφαση πηγάζει από την πεποίθηση ότι ένα αντιγραμμένο μοντέλο δεν μπορεί ποτέ να είναι καλύτερο από το πρωτότυπο. Εάν εκπαιδεύσετε την AI σας να μιμείται τα αποτελέσματα ενός αντιπάλου, κληρονομείτε επίσης όλα τα λάθη και τις προκαταλήψεις αυτού του αντιπάλου.

Στο εσωτερικό, η ομάδα της ByteDance καθοδηγείται από τον Wu Yonghui, πρώην επιστήμονα της Google DeepMind. Η ομάδα του, αποτελούμενη από 2.000 μέλη, περιλαμβάνει μηχανικούς υποδομής και ειδικούς επισήμανσης δεδομένων διασκορπισμένους σε όλο τον κόσμο. Χτίζοντας τη δική τους αρχιτεκτονική, δημιουργούν ένα σύστημα που είναι εξειδικευμένο για τους συγκεκριμένους τύπους δεδομένων που κατέχει η ByteDance. Αυτό περιλαμβάνει τις τεράστιες ποσότητες περιεχομένου βίντεο από το TikTok και τα δεδομένα συνομιλιών υψηλού όγκου από το Doubao, τον κορυφαίο βοηθό AI της εταιρείας στην Κίνα.

Από την πλευρά του καταναλωτή, τα αποτελέσματα αυτής της έρευνας έρχονται ήδη στην επιφάνεια. Το μοντέλο SeeDance της ByteDance είναι επί του παρόντος ένα από τα πιο προηγμένα εργαλεία για τη δημιουργία ρεαλιστικού βίντεο. Ενώ οι ανταγωνιστές των ΗΠΑ περιορίζονται από απαγορεύσεις ασφαλείας ή περιορισμένη πρόσβαση στα κορυφαία μοντέλα τους, η ByteDance προωθεί την τεχνολογία της απευθείας στα χέρια εκατοντάδων εκατομμυρίων χρηστών. Το Doubao έχει ήδη 324 εκατομμύρια μηνιαίους ενεργούς χρήστες που αλληλεπιδρούν με την AI καθημερινά. Ένα μεγαλύτερο, πιο ικανό μοντέλο θα κάνει αυτές τις αλληλεπιδράσεις να μοιάζουν λιγότερο με συνομιλία με ένα bot και περισσότερο με συνεργασία με έναν άνθρωπο εμπειρογνώμονα.

Η μηχανή υλικού και ο αγώνας των προσαρμοσμένων τσιπ

Τα μοντέλα AI υψηλής ποιότητας είναι τόσο καλά όσο το πυρίτιο στο οποίο τρέχουν. Αυτή τη στιγμή, η παγκόσμια προμήθεια τσιπ AI είναι ασταθής και αυστηρά ρυθμιζόμενη. Η ByteDance απάντησε προσπαθώντας να αναπτύξει τα δικά της προσαρμοσμένα τσιπ AI. Αυτή η στρατηγική αντικατοπτρίζει ό,τι έχουν κάνει η Apple και η Google με το δικό τους υλικό. Σχεδιάζοντας το τσιπ και το μοντέλο AI ταυτόχρονα, μια εταιρεία μπορεί να κάνει το σύστημα να τρέχει πολύ πιο γρήγορα καταναλώνοντας λιγότερο ηλεκτρικό ρεύμα.

Εδώ είναι που η μακροοικονομική πραγματικότητα επηρεάζει τον καθημερινό χρήστη. Η λειτουργία της AI είναι απίστευτα ακριβή. Το κόστος ηλεκτρικής ενέργειας και μόνο για ένα μοντέλο 10 τρισεκατομμυρίων παραμέτρων είναι αστρονομικό. Εάν μια εταιρεία μπορεί να μειώσει αυτά τα κόστη μέσω προσαρμοσμένου υλικού, μπορεί να προσφέρει τις υπηρεσίες AI της σε χαμηλότερη τιμή ή ακόμη και δωρεάν. Η ByteDance τοποθετείται ως ο ηγέτης χαμηλού κόστους και υψηλής απόδοσης στον χώρο. Δεν χτίζουν απλώς ένα έξυπνο μοντέλο· χτίζουν ένα επεκτάσιμο εργοστάσιο νοημοσύνης.

Αντίθετα, η εξάρτηση από τεράστια συμπλέγματα υλικού δημιουργεί μια συστημική ευπάθεια. Εάν η προμήθεια προηγμένων τσιπ περιοριστεί περαιτέρω, ακόμη και η καλύτερη ερευνητική ομάδα στον κόσμο θα δυσκολευτεί να ολοκληρώσει τη διαδικασία εκπαίδευσης. Αυτό δημιουργεί έναν αγώνα δρόμου ενάντια στον χρόνο. Το παράθυρο εκπαίδευσης τριών έως έξι μηνών για αυτό το νέο μοντέλο είναι μια περίοδος υψηλού ρίσκου όπου όλα πρέπει να πάνε τέλεια. Μια μεμονωμένη αστοχία υλικού ή μια αλλαγή στη διεθνή εμπορική πολιτική μπορεί να καθυστερήσει το έργο για μήνες.

Πρακτικές επιπτώσεις για τον καθημερινό χρήστη

Αυτό σημαίνει ότι τα εργαλεία AI που χρησιμοποιείτε για επεξεργασία βίντεο, συγγραφή ή αναζήτηση στον ιστό πρόκειται να γίνουν σημαντικά πιο ισχυρά χωρίς να χρειάζεστε νέο τηλέφωνο ή υπολογιστή. Η δύσκολη δουλειά γίνεται στο cloud. Καθώς η ByteDance ενσωματώνει αυτές τις δυνατότητες των 10 τρισεκατομμυρίων παραμέτρων στις εφαρμογές της, το εμπόδιο μεταξύ περιεχομένου επαγγελματικού επιπέδου και ερασιτεχνικής δημιουργίας θα εξαφανιστεί. Ένας έφηβος με ένα smartphone θα έχει πρόσβαση στην ίδια δημιουργική δύναμη που κατείχε ένα στούντιο του Χόλιγουντ πριν από μια δεκαετία.

Από την πλευρά της αγοράς, αυτός ο ανταγωνισμός αναγκάζει τα εργαστήρια των ΗΠΑ να καινοτομούν ταχύτερα. Όταν ένας αντίπαλος δείχνει ότι μπορεί να χτίσει ένα μεγαλύτερο, πιο ανεξάρτητο μοντέλο, σπάει το μονοπώλιο στην AI υψηλής τεχνολογίας. Για τον χρήστη, αυτός ο ανταγωνισμός είναι καθαρά θετικός. Οδηγεί σε καλύτερα χαρακτηριστικά, πιο διαφανείς ελέγχους απορρήτου και πιο προσιτές συνδρομές καθώς οι εταιρείες ανταγωνίζονται για την προσοχή σας.

Τελικά, το μέγεθος του μοντέλου είναι απλώς ένας αριθμός μέχρι να παράγει απτά αποτελέσματα. Η πραγματική δοκιμασία για την ByteDance θα είναι αν αυτός ο τιτάνας των 10 τρισεκατομμυρίων παραμέτρων μπορεί να λύσει προβλήματα που τα μικρότερα μοντέλα δεν μπορούν. Είτε πρόκειται για την πρόβλεψη των τάσεων της αγοράς είτε για τη δημιουργία μιας απρόσκοπτης μετάφρασης ενός ζωντανού βίντεο, η χρησιμότητα της AI είναι η μόνη μέτρηση που πραγματικά μετράει για το άτομο που κρατά το τηλέφωνο.

Κοιτάζοντας ευρύτερα, το παγκόσμιο τοπίο της AI δεν είναι πλέον μια κούρσα για έναν. Η στροφή προς την ανεξάρτητη ανάπτυξη μαζικής κλίμακας στην Κίνα σηματοδοτεί ένα νέο κεφάλαιο στην ιστορία της τεχνολογίας. Οι χρήστες θα πρέπει να προετοιμαστούν για ένα ψηφιακό περιβάλλον όπου οι εφαρμογές που χρησιμοποιούν για ψυχαγωγία είναι επίσης τα πιο εξελιγμένα εργαλεία στην επαγγελματική τους εργαλειοθήκη. Παρατηρήστε τις ψηφιακές σας συνήθειες τους επόμενους μήνες. Μπορεί να παρατηρήσετε την αγαπημένη σας εφαρμογή βίντεο να γίνεται εκπληκτικά καλύτερη στο να καταλαβαίνει ακριβώς τι θέλετε προτού καν ολοκληρώσετε την πληκτρολόγηση του αιτήματός σας. Η εποχή του ψηφιακού τιτάνα είναι εδώ.

Πηγές:

• Latepost Tech Analysis Report on ByteDance Internal Strategy
• The Information: ByteDance Project Seed Development Briefing
• Volcano Engine Enterprise Solutions Product Roadmap
• Moonshot AI Research Benchmarks for Kimi K3
• Industry Estimates for Anthropic Mythos and Fable Parameter Counts