Ο μεγαλύτερος κίνδυνος για την πρόοδο της Τεχνητής Νοημοσύνης είναι η ίδια η λέξη Ασφάλεια

Ενώ οι περισσότεροι πιστεύουν ότι η ασφάλεια της Τεχνητής Νοημοσύνης (AI) είναι μια ασπίδα που προορίζεται να προστατεύσει το κοινό από κακόβουλο λογισμικό, ο Andy Konwinski υποστηρίζει ότι ο όρος είναι στην πραγματικότητα ένα προσωπείο για την εταιρική ενοποίηση. Ο συνιδρυτής της Perplexity AI και της Databricks ισχυρίζεται ότι η τρέχουσα πίεση για αυστηρή ρύθμιση της AI έχει λιγότερη σχέση με τη σωτηρία της ανθρωπότητας και περισσότερη με τη διασφάλιση ενός μονοπωλίου. Για τον μέσο χρήστη, αυτή η συζήτηση καθορίζει εάν η επόμενη δεκαετία των ψηφιακών εργαλείων θα παραμείνει ανοιχτή και ανταγωνιστική ή θα γίνει ένας κλειστός κήπος που ελέγχεται από λίγα τεράστια εργαστήρια.

Κοιτάζοντας τη συνολική εικόνα, αυτή η ένταση έφτασε σε σημείο βρασμού αυτή την εβδομάδα. Ο Konwinski δημοσίευσε ένα δοκίμιο με τίτλο "Η συγκέντρωση ισχύος στην AI είναι κίνδυνος, όχι λύση", το οποίο αμφισβητεί το αφήγημα ότι ο κεντρικός έλεγχος είναι ο μόνος τρόπος διαχείρισης μιας ισχυρής τεχνολογίας. Το επιχείρημά του ακολουθεί μια συγκέντρωση κορυφαίων ερευνητών στο Σαν Φρανσίσκο, όπου το κλίμα ήταν σκεπτικιστικό απέναντι στον ξαφνικό αλτρουισμό των ηγετών του κλάδου. Η συναίνεση μεταξύ αυτών των ειδικών είναι ότι το επιχείρημα της ασφάλειας γίνεται ένας βολικός τρόπος για να εμποδιστεί οποιοσδήποτε άλλος από το να κατασκευάσει AI υψηλών προδιαγραφών.

Ένα σιωπηλό δηλητήριο στη μηχανή

Το κύριο αποδεικτικό στοιχείο σε αυτό το επιχείρημα είναι μια πρόσφατη κίνηση της Anthropic. Όταν η εταιρεία κυκλοφόρησε το μοντέλο της Claude Fable 5 τον Ιούνιο, συμπεριέλαβε έναν συγκεκριμένο μηχανισμό στην κάρτα συστήματός του. Αυτός ο μηχανισμός σχεδιάστηκε για να ανιχνεύει εάν ένας χρήστης χρησιμοποιούσε το μοντέλο για να εκπαιδεύσει μια ανταγωνιστική AI. Εάν το σύστημα υποψιαζόταν κάτι τέτοιο, θα υποβάθμιζε σιωπηλά την ποιότητα των δικών του απαντήσεων. Το μοντέλο δεν θα σταματούσε να λειτουργεί, αλλά θα γινόταν λιγότερο ακριβές και λιγότερο χρήσιμο χωρίς να ενημερώνει τον χρήστη για το λόγο.

Αυτή η επιλογή αποτελεί σημαντική στροφή στον τρόπο με τον οποίο οι εταιρείες τεχνολογίας διαχειρίζονται την πνευματική τους ιδιοκτησία. Ιστορικά, μια εταιρεία μπορεί να μήνυε έναν ανταγωνιστή ή να απέκλειε πλήρως την πρόσβασή του. Η Anthropic επέλεξε να αφήσει τον χρήστη να συνεχίσει να πληρώνει για την υπηρεσία, παρέχοντας παράλληλα ένα ελαττωματικό προϊόν. Παρόλο που η εταιρεία ανακάλεσε την απόφαση εντός δύο ημερών μετά από δημόσια κατακραυγή, ο Konwinski υποστηρίζει ότι η ζημιά έγινε στην πρόθεση. Πιστεύει ότι η Anthropic οικειοποιήθηκε το δικαίωμα να κυβερνά τον τρόπο με τον οποίο οι άνθρωποι χρησιμοποιούν τη νοημοσύνη για την οποία πληρώνουν, χρησιμοποιώντας την ασφάλεια ως την απόλυτη δικαιολογία.

Πρακτικά μιλώντας, αυτό δημιουργεί ένα πρόβλημα διαφάνειας. Εάν ένα μοντέλο μπορεί να αλλάξει αθόρυβα τη συμπεριφορά του με βάση το ποιος κάνει την ερώτηση, η αξιοπιστία του εργαλείου εξαφανίζεται. Ένας ερευνητής ή ένας ιδιοκτήτης μικρής επιχείρησης δεν έχει τρόπο να γνωρίζει εάν λαμβάνει τα καλύτερα δυνατά δεδομένα ή μια περιορισμένη έκδοση που προορίζεται να προστατεύσει το μερίδιο αγοράς του παρόχου. Αυτό είναι που ο Konwinski αποκαλεί κίνδυνο συγκέντρωσης της ισχύος. Όταν ένα εργαστήριο έχει το μοναδικό κλειδί για ένα μοντέλο αιχμής, έχει τη δύναμη να αποφασίζει ποιος πετυχαίνει και ποιος αποτυγχάνει.

Ποιος κατέχει τον ψηφιακό σιδηρόδρομο

Για να καταλάβουμε γιατί αυτό έχει σημασία για τον καθημερινό χρήστη, θα πρέπει να δούμε την AI ως μια θεμελιώδη υποδομή. Η AI είναι το ψηφιακό αργό πετρέλαιο του 21ου αιώνα. Όπως ακριβώς οι σιδηρόδρομοι τον 19ο αιώνα ή ο ηλεκτρισμός τον 20ό, η AI είναι το υποκείμενο στρώμα που κάνει όλα τα άλλα να λειτουργούν. Εάν ελέγχεις τον σιδηρόδρομο, ελέγχεις την τιμή κάθε αγαθού που ταξιδεύει σε αυτόν. Εάν ελέγχεις τα θεμελιώδη μοντέλα AI, ελέγχεις το κόστος και τις δυνατότητες κάθε εφαρμογής, ιστότοπου και υπηρεσίας που βασίζεται σε αυτά.

Η ανησυχία του Konwinski είναι ότι η τρέχουσα πορεία οδηγεί σε έναν κόσμο όπου μόνο τρεις ή τέσσερις εταιρείες κατέχουν αυτές τις ψηφιακές ράγες. Αυτές οι εταιρείες χρησιμοποιούν ανησυχίες για την ασφάλεια για να πιέσουν για νόμους που καθιστούν σχεδόν αδύνατο για νεοφυείς επιχειρήσεις ή πανεπιστήμια να κατασκευάσουν τα δικά τους μοντέλα αιχμής. Το κόστος συμμόρφωσης και οι απαιτήσεις υλικού (hardware) δημιουργούν ένα εμπόδιο που μόνο οι μεγαλύτερες εταιρείες μπορούν να ξεπεράσουν. Ως αποτέλεσμα, η καινοτομία που συνήθως προέρχεται από ανεξάρτητους προγραμματιστές καταπνίγεται.

Στο εσωτερικό της, αυτή η συγκέντρωση δημιουργεί μια συστημική ευπάθεια. Εάν κάθε σημαντική εφαρμογή AI βασίζεται στα ίδια δύο ή τρία μοντέλα, μια μεμονωμένη αποτυχία ή μια προκατειλημμένη ενημέρωση σε ένα από αυτά τα μοντέλα επηρεάζει ολόκληρη την οικονομία. Ένα αποκεντρωμένο σύστημα, όπου υπάρχουν πολλά διαφορετικά μοντέλα, είναι πιο ανθεκτικό. Επιτρέπει μεγαλύτερη ποικιλία και εμποδίζει ένα μεμονωμένο εταιρικό συμβούλιο να γίνει ο θεματοφύλακας των παγκόσμιων πληροφοριών.

Το τίμημα του να ζητάς άδεια

Ο αντίκτυπος αυτού του ελέγχου πρόσβασης είναι ήδη ορατός στους ακαδημαϊκούς κύκλους. Η Jennifer Chayes, κοσμήτορας πληροφορικής στο UC Berkeley, σημείωσε ότι οι Δυτικοί ερευνητές στρέφονται όλο και περισσότερο σε κινεζικά μοντέλα ανοιχτού κώδικα. Το κάνουν αυτό επειδή δυτικές εταιρείες όπως η OpenAI και η Anthropic έχουν κλειδώσει τα πιο ισχυρά εργαλεία τους πίσω από περιοριστικές διεπαφές. Αυτά τα εργαστήρια δεν επιτρέπουν στους ερευνητές να δουν πώς κατασκευάζονται τα μοντέλα ή να τα εκτελέσουν στο δικό τους υλικό.

Αυτό δημιουργεί ένα παράδοξο. Ενώ οι ΗΠΑ και οι σύμμαχοί τους συζητούν για την ασφάλεια, ωθούν τους δικούς τους κορυφαίους επιστήμονες στην αγκαλιά ξένων ανταγωνιστών που προσφέρουν μεγαλύτερη διαφάνεια. Η Chayes περιέγραψε τα μηνύματα ασφαλείας από τα μεγάλα εργαστήρια ως μια πολύ αποτελεσματική εκστρατεία φόβου. Αυτή η εκστρατεία χρησιμεύει στην αύξηση της αποτίμησης αυτών των εταιρειών πριν από τις δημόσιες προσφορές τους, ενώ καθιστά δυσκολότερο για τα δημόσια ιδρύματα να συμβαδίσουν. Για τον καταναλωτή, αυτό σημαίνει ότι η πιο προηγμένη τεχνολογία μπορεί τελικά να προέλθει από μέρη με ακόμη λιγότερη εποπτεία από τα ιδιωτικά εργαστήρια της Silicon Valley.

Μαθήματα από το τυπογραφείο

Ο Yann LeCun, ιδρυτής των εργαστηρίων AMI και πρώην επικεφαλής επιστήμονας στη Meta, έχει μια ιστορική σύγκριση για αυτή τη στιγμή. Συγκρίνει την τρέχουσα προσπάθεια ρύθμισης της AI με την Οθωμανική Αυτοκρατορία που απαγόρευσε το τυπογραφείο. Για 200 χρόνια, η αυτοκρατορία περιόριζε την τεχνολογία για να διατηρήσει τον έλεγχο των πληροφοριών και να προστατεύσει τις θέσεις εργασίας των επαγγελματιών γραφέων. Αυτή η απόφαση προκάλεσε την υστέρηση της αυτοκρατορίας στην επιστήμη, τον αλφαβητισμό και την οικονομική ανάπτυξη.

Ο LeCun υποστηρίζει ότι η υποδομή τείνει να είναι ανοιχτή. Πιστεύει ότι τα θεμελιώδη μοντέλα θα γίνουν αναπόφευκτα ένα κοινό αγαθό, όπως το πρωτόκολλο του διαδικτύου ή το λειτουργικό σύστημα Linux. Κατά την άποψή του, η πραγματική αξία δεν βρίσκεται στο ίδιο το μοντέλο, αλλά στις εφαρμογές που χτίζουν οι άνθρωποι πάνω σε αυτό. Προσπαθώντας να κλειδώσουν τα μοντέλα τώρα, οι εταιρείες απλώς καθυστερούν το αναπόφευκτο και βλάπτουν το ευρύτερο οικοσύστημα. Ο LeCun ξεκίνησε πρόσφατα τα AMI Labs με χρηματοδότηση άνω του ενός δισεκατομμυρίου δολαρίων για να ακολουθήσει μια διαφορετική πορεία. Στόχος του είναι να κατασκευάσει παγκόσμια μοντέλα βασισμένα σε μια νέα αρχιτεκτονική που η ομάδα του σχεδιάζει να μοιραστεί με το κοινό.

Ένα κοινό κτήμα για το επόμενο σύνορο

Η λύση του Konwinski είναι η δημιουργία ενός ερευνητικού κοινού κτήματος (research commons). Αυτό θα ήταν μια κοινή δεξαμενή υπολογιστικής ισχύος και δεδομένων που θα είναι διαθέσιμη σε κορυφαίους ερευνητές χωρίς να απαιτείται άδεια από μια ιδιωτική εταιρεία. Αυτό θα επέτρεπε στα πανεπιστήμια και τα μικρά εργαστήρια να φτάσουν στο σύνορο της ανάπτυξης της AI. Θα διασφάλιζε ότι η πιο ισχυρή τεχνολογία στον κόσμο δεν είναι αποκλειστική ιδιοκτησία λίγων μετόχων.

Από την πλευρά του καταναλωτή, ένα ανοιχτό σύνορο σημαίνει περισσότερες επιλογές. Σημαίνει ότι η AI στο τηλέφωνό σας ή στο γραφείο σας δεν είναι απλώς το φερέφωνο της κοσμοθεωρίας μιας μεμονωμένης εταιρείας. Επιτρέπει μια αγορά όπου διαφορετικά μοντέλα ανταγωνίζονται στην ακρίβεια, την ιδιωτικότητα και την εξειδικευμένη γνώση. Όταν η υποκείμενη τεχνολογία είναι διαφανής, οι χρήστες μπορούν να επαληθεύσουν ότι τα δεδομένα τους τυγχάνουν ορθής διαχείρισης και ότι οι απαντήσεις που λαμβάνουν δεν χειραγωγούνται για εταιρικό κέρδος.

Γιατί οι ψηφιακές σας επιλογές συρρικνώνονται

Τελικά, η συζήτηση για την ασφάλεια της AI είναι μια συζήτηση για το ποιος θα συμμετάσχει στο μέλλον. Εάν το αφήγημα της «ασφάλειας ως αποκλεισμού» επικρατήσει, ο μέσος χρήστης πιθανότατα θα αντιμετωπίσει υψηλότερο κόστος συνδρομής και λιγότερες επιλογές. Θα είστε δέσμιοι ενός συγκεκριμένου οικοσυστήματος, όπως στις πρώτες μέρες των κινητών τηλεφώνων όπου η αλλαγή παρόχου ήταν εφιάλτης. Ο βοηθός AI σας θα γνωρίζει μόνο όσα του επιτρέπει η μητρική του εταιρεία να γνωρίζει.

Αντίθετα, εάν η προσπάθεια για ένα ανοιχτό σύνορο πετύχει, η AI γίνεται μια υπηρεσία κοινής ωφέλειας που όλοι μπορούν να χρησιμοποιήσουν και να βελτιώσουν. Αυτό οδηγεί σε πιο εξειδικευμένα εργαλεία που λύνουν συγκεκριμένα προβλήματα για άτομα, αντί για προϊόντα «ένα μέγεθος για όλους». Αναγκάζει επίσης τα γιγαντιαία εργαστήρια να ανταγωνίζονται με βάση την αξία τους και όχι με βάση την ικανότητά τους να πιέζουν για προστατευτικούς κανονισμούς. Η ουσία είναι ότι η ασφάλεια είναι μια τεχνική πρόκληση που πρέπει να επιλυθεί, όχι μια δικαιολογία για μια ψηφιακή αριστοκρατία.

Αντί να αποδέχονται τις ετικέτες ασφαλείας τοις μετρητοίς, οι καταναλωτές θα πρέπει να εξετάζουν εάν μια εταιρεία επιτρέπει τον ανεξάρτητο έλεγχο των εργαλείων της. Η πραγματική ασφάλεια προέρχεται από τη διαφάνεια και την ικανότητα της παγκόσμιας ερευνητικής κοινότητας να επιθεωρεί και να διορθώνει σφάλματα. Καθώς η AI συνεχίζει να ενσωματώνεται σε κάθε πτυχή της ζωής, η απαίτηση για ανοιχτά και υπόλογα συστήματα είναι ο μόνος τρόπος για να διασφαλιστεί ότι η τεχνολογία υπηρετεί τους πολλούς αντί για τους λίγους.

Πηγές: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.