Γιατί ο εξυπνότερος μαθηματικός του κόσμου ανησυχεί ότι η ΤΝ λύνει προβλήματα πολύ γρήγορα

Οι περισσότεροι άνθρωποι υποθέτουν ότι οι ταχύτερες απαντήσεις οδηγούν σε ταχύτερη πρόοδο. Στον κόσμο των μαθηματικών υψηλού επιπέδου, ο Terence Tao βλέπει μια πιθανή κρίση. Ο κάτοχος του μεταλλίου Fields είναι ο κορυφαίος μαθηματικός της γενιάς του. Πρόσφατα προειδοποίησε ότι η τεχνητή νοημοσύνη εξαντλεί το απόθεμα των γόνιμων ανοιχτών μαθηματικών προβλημάτων. Εργαστήρια ΤΝ όπως το OpenAI και το Anthropic βρίσκονται σε έναν αγώνα δρόμου για την αυτοματοποίηση της συλλογιστικής. Αυτή η τεχνολογία μπορεί πλέον να ισοπεδώσει ένα δύσκολο πρόβλημα τη στιγμή που ένας άνθρωπος αρχίζει να εργάζεται πάνω σε αυτό.

Πίσω από την ορολογία, τα μαθηματικά αφορούν λιγότερο την τελική απάντηση και περισσότερο τα νέα εργαλεία που κατασκευάζουν οι άνθρωποι για να φτάσουν σε αυτήν την απάντηση. Ιστορικά, ένα δύσκολο μαθηματικό πρόβλημα λειτουργεί ως βουνό. Για να το ανέβουν, οι μαθηματικοί πρέπει να εφεύρουν νέο αναρριχητικό εξοπλισμό, σχοινιά και τεχνικές. Αυτές οι εφευρέσεις βοηθούν στη συνέχεια την κοινωνία να λύσει πρακτικά προβλήματα στην κρυπτογραφία, τη φυσική και την επιστήμη των υπολογιστών. Εάν ένα ελικόπτερο ΤΝ απλώς σας αφήσει στην κορυφή, έχετε την απάντηση, αλλά δεν κατασκευάσατε ποτέ τον εξοπλισμό.

Η ταχύτητα του εκσκαφέα πυριτίου

Για τον μέσο χρήστη, τα μαθηματικά μοιάζουν με ένα έτοιμο προϊόν σε ένα εγχειρίδιο. Στην πραγματικότητα, τα μαθηματικά είναι ένα ζωντανό βιομηχανικό έργο. Οι ερευνητές εντοπίζουν συγκεκριμένα κενά στις γνώσεις μας και περνούν δεκαετίες προσπαθώντας να τα γεφυρώσουν. Ο Tao παρατηρεί ότι η ΤΝ έχει γίνει ένας εκσκαφέας υψηλής ταχύτητας σε αυτόν τον τομέα. Εκεί που ένας άνθρωπος μπορεί να περάσει χρόνια σκάβοντας μέσα από ένα θεωρητικό εμπόδιο, ένα μεγάλο γλωσσικό μοντέλο σε συνδυασμό με έναν ελεγκτή τυπικών αποδείξεων μπορεί μερικές φορές να καθαρίσει το μονοπάτι σε δευτερόλεπτα.

Το OpenAI κυκλοφόρησε το μοντέλο o1 για να επιδείξει μια στροφή προς την εσωτερική συλλογιστική. Σε αντίθεση με τα προηγούμενα chatbots που μάντευαν την επόμενη λέξη, αυτά τα νεότερα συστήματα σκέφτονται πριν μιλήσουν. Ελέγχουν τη δική τους εργασία έναντι των νόμων της λογικής. Το Anthropic ακολούθησε παρόμοια πορεία με τις τελευταίες εκδόσεις του Claude. Αυτά τα εργαλεία δεν γράφουν πλέον μόνο email. Εντοπίζουν ελαττώματα σε σύνθετες αποδείξεις που στέκουν εδώ και χρόνια.

Αυτή η ταχύτητα δημιουργεί ένα πρόβλημα στην αλυσίδα εφοδιασμού της ανθρώπινης νοημοσύνης. Οι μαθηματικοί βασίζονται σε μια σταθερή ροή άλυτων προβλημάτων για να εκπαιδεύσουν την επόμενη γενιά φοιτητών. Εάν η ΤΝ λύσει όλα τα μεσαίας προς υψηλής δυσκολίας προβλήματα αμέσως, το πεδίο εκπαίδευσης για νέους ανθρώπινους εμπειρογνώμονες εξαφανίζεται. Αυτή η διαδικασία αφήνει τους ανθρώπους μόνο με τα απίστευτα δύσκολα προβλήματα που ούτε η ΤΝ δεν μπορεί να αγγίξει. Το ενδιάμεσο έδαφος της ανακάλυψης εξατμίζεται.

Γιατί μια απάντηση δεν είναι λύση

Στο βάθος, ο τρόπος με τον οποίο η ΤΝ λύνει ένα πρόβλημα διαφέρει θεμελιωδώς από τον τρόπο λειτουργίας του ανθρώπινου εγκεφάλου. Μια ΤΝ μπορεί να χρησιμοποιήσει μια αναζήτηση ωμής βίας ή μια περίεργη στατιστική συσχέτιση για να βρει μια απόδειξη. Παρέχει την απόδειξη, αλλά η απόδειξη είναι συχνά εκατομμύρια γραμμές κώδικα. Κανένας άνθρωπος δεν μπορεί να την διαβάσει. Κανένας άνθρωπος δεν μπορεί να μάθει από αυτήν. Με απλά λόγια, η ΤΝ μας δίνει τον χρυσό αλλά κρύβει τον χάρτη για το ορυχείο.

Ο Tao ζητά τώρα μια αλλαγή στον τρόπο με τον οποίο η κοινότητα αξιολογεί αυτά τα επιτεύγματα. Προτείνει οι μαθηματικοί να χαρακτηρίζουν ορισμένα προβλήματα ως «απαιτούντα ανάλυση». Σε αυτό το πλαίσιο, μια απλή απάντηση από μια ΤΝ μετράει ελάχιστα. Για να λάβει αναγνώριση, αυτός που το λύνει πρέπει να εξηγήσει τη συλλογιστική με τρόπο που να μεταφέρει τη γνώση σε άλλους ανθρώπους. Αυτή η στροφή στοχεύει στην προστασία της εκπαιδευτικής αξίας του κλάδου.

Ιστορικά, τα πιο διάσημα προβλήματα στα μαθηματικά δεν ήταν χρήσιμα λόγω των απαντήσεών τους. Το Τελευταίο Θεώρημα του Φερμά χρειάστηκε 350 χρόνια για να λυθεί. Η τελική απόδειξη είχε εκατοντάδες σελίδες. Η πραγματική απάντηση — ότι κανένας τρεις θετικοί ακέραιοι a, b και c δεν ικανοποιούν μια συγκεκριμένη εξίσωση για n μεγαλύτερο του 2 — δεν έχει σχεδόν καμία πρακτική εφαρμογή. Ωστόσο, οι τεχνικές που εφευρέθηκαν για να φτάσουμε σε αυτήν την απάντηση διασφαλίζουν τώρα κάθε συναλλαγή με πιστωτική κάρτα στο διαδίκτυο. Εάν μια ΤΝ είχε απλώς δηλώσει ότι η απάντηση ήταν αληθής το 1637, ίσως να μην είχαμε τη σύγχρονη κρυπτογράφηση σήμερα.

Η πλευρά της αγοράς στην αυτοματοποιημένη λογική

Από την πλευρά της αγοράς, αυτή η εξέλιξη αποτελεί μια τεράστια νίκη για τους τεχνολογικούς κολοσσούς. Εταιρείες όπως η Google DeepMind δεν ενδιαφέρονται για τα μαθηματικά μόνο για χάρη της επιστήμης. Θέλουν να δημιουργήσουν μια μηχανή συλλογιστικής γενικής χρήσης. Εάν μια ΤΝ μπορεί να λύσει ένα μαθηματικό πρόβλημα που απαιτεί 20 βήματα λογικής, μπορεί επίσης να βελτιστοποιήσει μια παγκόσμια διαδρομή ναυτιλίας ή να διαχειριστεί ένα δίκτυο ηλεκτρικής ενέργειας με τέλεια απόδοση.

Αυτό δημιουργεί ένα ασταθές περιβάλλον για τους εργαζόμενους της γνώσης. Μετακινούμαστε από μια εποχή υπολογισμού σε μια εποχή επαλήθευσης. Στην καθημερινή ζωή, η δουλειά σας μπορεί να μετατοπιστεί από την εκτέλεση της εργασίας στον έλεγχο της εργασίας ενός αυτοματοποιημένου συστήματος. Αυτό ακούγεται ευκολότερο, αλλά απαιτεί βαθύτερο επίπεδο θεμελιωδών γνώσεων. Δεν μπορείτε να επαληθεύσετε μια λύση εάν δεν κατανοείτε τους κανόνες του παιχνιδιού.

Πρακτικά μιλώντας, αυτό επηρεάζει τον τρόπο που διδάσκουμε τα παιδιά. Εάν ένα smartphone μπορεί να λύσει ένα πρόβλημα λογισμού και να εξηγήσει τα βήματα, η αξία της απομνημόνευσης αυτών των βημάτων πέφτει στο μηδέν. Οι εκπαιδευτικοί πρέπει τώρα να επικεντρωθούν στο «γιατί» αντί για το «πώς». Βλέπουμε μια στροφή όπου η ικανότητα να θέτεις τη σωστή ερώτηση είναι πιο πολύτιμη από την ικανότητα να βρίσκεις την απάντηση.

Ο κίνδυνος ενός κενού επιστημονικού κλάδου

Κοιτάζοντας τη συνολική εικόνα, η ανησυχία είναι ότι τα μαθηματικά θα μπορούσαν να γίνουν ένα «μαύρο κουτί». Εάν αναθέσουμε όλη τη δύσκολη λογική στις μηχανές, οι δικοί μας πνευματικοί μύες θα ατροφήσουν. Η προειδοποίηση του Tao είναι μια έκκληση για ανθεκτικότητα. Θέλει να διασφαλίσει ότι τα μαθηματικά παραμένουν μια ανθρωποκεντρική προσπάθεια. Ο στόχος είναι να διατηρηθεί ο άνθρωπος στη διαδικασία, όχι ως αριθμομηχανή, αλλά ως πλοηγός.

Βρισκόμαστε επί του παρόντος σε μια κυκλική φάση υιοθέτησης της τεχνολογίας. Πρώτα, εκπλησσόμαστε από την ικανότητα. Στη συνέχεια, συνειδητοποιούμε το κόστος αυτής της ικανότητας. Τέλος, προσαρμόζουμε τα συστήματά μας για να διαχειριστούμε την αλλαγή. Αυτή τη στιγμή βρισκόμαστε στη μετάβαση μεταξύ έκπληξης και προσαρμογής. Τα εργαστήρια ΤΝ θα συνεχίσουν να κυκλοφορούν ταχύτερα και εξυπνότερα μοντέλα κάθε έξι μήνες. Το απόθεμα των προβλημάτων θα συνεχίσει να συρρικνώνεται.

Τελικά, η αξία των μαθηματικών είναι ο αγώνας. Ο αγώνας παράγει τις παρενέργειες που κινούν τον σύγχρονο κόσμο μας. Εάν αφαιρέσουμε τον αγώνα, ίσως σταματήσουμε να παράγουμε τις παρενέργειες. Αυτός είναι ο απτός κίνδυνος που εντοπίζει ο Tao. Χτίζουμε έναν κόσμο όπου γνωρίζουμε τα πάντα αλλά κατανοούμε πολύ λίγα.

Τι σημαίνει αυτό για εσάς

Η ουσία είναι ότι ο ορισμός της νοημοσύνης αλλάζει. Για τον μέσο καταναλωτή, αυτό σημαίνει ότι τα εργαλεία στην τσέπη σας γίνονται πιο ικανά από τους ειδικούς που συνηθίζατε να προσλαμβάνετε. Ωστόσο, αυτά τα εργαλεία στερούνται αίσθησης σκοπού ή πλαισίου.

Πρώτον, να αναμένετε μια αλλαγή στην εκπαίδευση. Τα σχολεία πιθανότατα θα στραφούν προς προφορικές εξετάσεις ή επιτηρούμενες, γραπτές δοκιμασίες σε χαρτί για να διασφαλίσουν ότι οι μαθητές μαθαίνουν πραγματικά. Η εξάρτηση από τις ψηφιακές εργασίες για το σπίτι είναι πιθανό να τελειώσει επειδή η ΤΝ έχει καταστήσει αδύνατη τη δίκαιη βαθμολόγηση.

Δεύτερον, η δική σας επαγγελματική αξία θα εξαρτηθεί από την ικανότητά σας να ελέγχετε την ΤΝ. Είτε είστε στη λογιστική, τη νομική ή τη μηχανική, η μηχανή θα παρέχει το πρώτο προσχέδιο. Η δουλειά σας είναι να βρείτε το ένα λάθος στα χίλια που θα μπορούσε να προκαλέσει μια συστημική αποτυχία.

Τέλος, εκτιμήστε τους αόρατους μηχανισμούς της ανακάλυψης. Πίσω από κάθε εφαρμογή και κάθε συσκευή βρίσκεται μια μακριά αλυσίδα λυμένων μαθηματικών προβλημάτων. Εάν αυτά τα προβλήματα λύνονται πολύ γρήγορα από τις μηχανές, η ανθρώπινη σύνδεση με τη δική μας τεχνολογία γίνεται αδιαφανής. Το να παραμένει κανείς περίεργος για το πώς λειτουργούν τα πράγματα δεν είναι πλέον απλώς ένα χόμπι. Είναι μια απαραίτητη δεξιότητα επιβίωσης σε έναν αυτοματοποιημένο κόσμο.

Πηγές:
University of California, Los Angeles Department of Mathematics
International Mathematical Union Fields Medal Archives
OpenAI Research Blog regarding o1 model series
Anthropic Technical Documentation for Claude 3.5 Sonnet
DeepMind AlphaProof and AlphaGeometry Technical Reports