Ο ΟΗΕ συγκροτεί 40μελή παγκόσμια επιτροπή για την ασφάλεια της Τεχνητής Νοημοσύνης εν μέσω αυξανόμενων προειδοποιήσεων από ειδικούς του κλάδου

Σε μια κίνηση που αποσκοπεί στη γεφύρωση του χάσματος μεταξύ της ταχείας τεχνολογικής προόδου και της διεθνούς εποπτείας, ο Γενικός Γραμματέας των Ηνωμένων Εθνών Αντόνιο Γκουτέρες εγκαινίασε επίσημα μια 40μελή παγκόσμια επιστημονική επιτροπή αφιερωμένη στην ασφάλεια της τεχνητής νοημοσύνης. Η επιτροπή αυτή, την οποία ο Γκουτέρες περιέγραψε ως ένα «θεμελιώδες βήμα προς την παγκόσμια επιστημονική κατανόηση της ΤΝ», έχει ως αποστολή τη διερεύνηση των υπαρξιακών και συστημικών κινδύνων που εγκυμονούν τα προηγμένα μοντέλα μηχανικής μάθησης.

Η συγκρότηση αυτού του σώματος έρχεται σε μια κομβική στιγμή. Κατά τη διάρκεια του περασμένου έτους, μια αυξανόμενη ομάδα πληροφοριοδοτών δημοσίου συμφέροντος (whistleblowers) και πρώην εργαζομένων από ηγέτιδες εταιρείες του κλάδου, όπως η OpenAI, η Anthropic και η Google DeepMind, εξέφρασαν ανησυχίες σχετικά με την έλλειψη διαφάνειας και την ταχύτητα με την οποία αναπτύσσονται τα μοντέλα αιχμής. Αυτή η πρωτοβουλία του ΟΗΕ αντιπροσωπεύει την πρώτη συντονισμένη προσπάθεια για τη συγκέντρωση της επιστημονικής συναίνεσης σχετικά με την ΤΝ σε παγκόσμια κλίμακα, ανεξάρτητα από την εταιρική επιρροή.

Ο Καταλύτης: Συναγερμός εκ των έσω

Η ώθηση για ένα κεντρικό όργανο του ΟΗΕ επιταχύνθηκε σημαντικά από το κίνημα «Δικαίωμα στην Προειδοποίηση» (Right to Warn). Αυτή η ομάδα ειδικών της τεχνολογίας υποστήριξε ότι τα τρέχοντα κίνητρα που βασίζονται στο κέρδος εμποδίζουν τις εταιρείες να αποκαλύψουν την πραγματική έκταση των κινδύνων που σχετίζονται με την Τεχνητή Γενική Νοημοσύνη (AGI). Τόνισαν ανησυχίες που κυμαίνονται από τη διάβρωση των δημοκρατικών διαδικασιών μέσω των deepfakes έως την πιθανότητα τα αυτόνομα συστήματα να παρακάμψουν τον ανθρώπινο έλεγχο.

Με την ίδρυση αυτής της επιτροπής, ο ΟΗΕ επιδιώκει να παράσχει μια πλατφόρμα όπου τα επιστημονικά δεδομένα —και όχι οι εταιρικές δημόσιες σχέσεις— θα υπαγορεύουν το παγκόσμιο αφήγημα για την ασφάλεια. Τα 40 μέλη, προερχόμενα από την ακαδημαϊκή κοινότητα, την κοινωνία των πολιτών και τεχνικά ερευνητικά κέντρα από διάφορες γεωγραφικές περιοχές, αναμένεται να λειτουργήσουν ως ουδέτεροι διαιτητές της αλήθειας σε ένα ολοένα και πιο πολωμένο τεχνολογικό τοπίο.

Πλοήγηση σε Γεωπολιτικές Τριβές

Η έναρξη της επιτροπής δεν έγινε χωρίς αντιπαραθέσεις. Οι Ηνωμένες Πολιτείες, μαζί με αρκετούς βασικούς συμμάχους, εξέφρασαν αρχικά σθεναρή αντίθεση στην κίνηση αυτή. Η τριβή πηγάζει από μια θεμελιώδη διαφωνία σχετικά με το πού πρέπει να βρίσκεται η έδρα της ισχύος της ΤΝ. Ενώ οι ΗΠΑ υποστηρίζουν πλαίσια ασφάλειας υπό την ηγεσία της βιομηχανίας και τη Διαδικασία της Χιροσίμα για την ΤΝ υπό την ηγεσία των G7, η προσέγγιση του ΟΗΕ δίνει έμφαση σε ένα πιο περιεκτικό, πολυμερές μοντέλο διακυβέρνησης.

Οι επικριτές στην Ουάσιγκτον υποστηρίζουν ότι ένα όργανο υπό την ηγεσία του ΟΗΕ μπορεί να βαλτώσει στη γραφειοκρατία ή να χρησιμοποιηθεί από αντίπαλα έθνη για να καταπνίξει τη δυτική καινοτομία. Αντίθετα, οι υποστηρικτές της επιτροπής υποστηρίζουν ότι η ΤΝ είναι μια τεχνολογία «χωρίς σύνορα», όπως και η κλιματική αλλαγή, που απαιτεί μια παγκόσμια απάντηση η οποία θα περιλαμβάνει τον Παγκόσμιο Νότο, ο οποίος συχνά μένει έξω από τις συζητήσεις που επικεντρώνονται στη Silicon Valley.

Ένα Επιστημονικό «IPCC για την ΤΝ»

Για να κατανοήσει κανείς την αποστολή της επιτροπής, μπορεί να ανατρέξει στη Διακυβερνητική Επιτροπή για την Κλιματική Αλλαγή (IPCC). Ακριβώς όπως η IPCC δεν χαράσσει πολιτική αλλά παρέχει τα επιστημονικά δεδομένα που ενημερώνουν τις παγκόσμιες κλιματικές συνθήκες, η επιτροπή ΤΝ του ΟΗΕ στοχεύει στη δημιουργία μιας κοινής έκθεσης για την «Κατάσταση της Επιστήμης». Αυτή η έκθεση θα χρησιμεύσει ως βάση για τα έθνη ώστε να αναπτύξουν τους δικούς τους εγχώριους κανονισμούς χωρίς να χρειάζεται να ξεκινήσουν από το μηδέν.

Οι βασικοί τομείς εστίασης της επιτροπής περιλαμβάνουν:

• Ποσοτικοποίηση Κινδύνου: Ανάπτυξη τυποποιημένων μετρήσεων για τη μέτρηση της πιθανότητας ενός μοντέλου για εξαπάτηση ή επιβλαβή αποτελέσματα.
• Κυριαρχία Δεδομένων: Αντιμετώπιση του τρόπου προέλευσης των δεδομένων εκπαίδευσης και του αντίκτυπου στην πνευματική ιδιοκτησία σε διαφορετικές δικαιοδοσίες.
• Διαλειτουργικότητα: Διασφάλιση ότι τα πρότυπα ασφαλείας σε μια χώρα μπορούν να αναγνωριστούν και να επιβληθούν σε μια άλλη.

Πρακτικές Επιπτώσεις για τον Τεχνολογικό Τομέα

Για τους προγραμματιστές, τις νεοφυείς επιχειρήσεις και τους ηγέτες επιχειρήσεων, η συμμετοχή του ΟΗΕ σηματοδοτεί μια στροφή από τις εθελοντικές «δεσμεύσεις ασφαλείας» προς ένα πιο δομημένο ρυθμιστικό περιβάλλον. Παρόλο που η επιτροπή δεν έχει την εξουσία να ψηφίζει νόμους, τα ευρήματά της πιθανότατα θα επηρεάσουν μελλοντικές διεθνείς εμπορικές συμφωνίες και εθνικούς ελέγχους ασφαλείας.

Τι να κάνετε στη συνέχεια: Προετοιμασία για Παγκόσμια Πρότυπα

Καθώς η επιτροπή ξεκινά το έργο της, οι οργανισμοί θα πρέπει να προχωρήσουν πέρα από μια αντιδραστική στάση όσον αφορά την ασφάλεια της ΤΝ. Ακολουθούν τα πρακτικά βήματα που πρέπει να εξετάσουν οι ηγέτες της τεχνολογίας:

1. Έλεγχος για Διαφάνεια: Επανεξετάστε τις εσωτερικές διαδικασίες ανάπτυξης ΤΝ. Μπορείτε να εξηγήσετε πώς τα μοντέλα σας καταλήγουν σε συγκεκριμένα συμπεράσματα; Η επιτροπή του ΟΗΕ είναι πιθανό να προτείνει υψηλά πρότυπα για την «εξηγησιμότητα».
2. Παρακολούθηση Διεθνών Σημείων Αναφοράς: Μείνετε ενημερωμένοι για τις τριμηνιαίες ενημερώσεις της επιτροπής. Αυτές πιθανότατα θα γίνουν το προσχέδιο για μελλοντικές απαιτήσεις συμμόρφωσης στην ΕΕ, την Ασία και τελικά στις ΗΠΑ.
3. Συμμετοχή σε Διαλόγους Πολλαπλών Ενδιαφερομένων: Μην βασίζεστε αποκλειστικά σε κλαδικές ομάδες. Συμμετέχετε σε φόρουμ που περιλαμβάνουν την κοινωνία των πολιτών και ακαδημαϊκούς ερευνητές για να αποκτήσετε μια ευρύτερη προοπτική σχετικά με τον αντίκτυπο της ΤΝ.
4. Προτεραιότητα στην Έρευνα Ασφάλειας: Διαθέστε ένα ποσοστό της Έρευνας και Ανάπτυξης (R&D) ειδικά στην ασφάλεια και την ευθυγράμμιση. Το χάσμα μεταξύ «ικανότητας» και «ασφάλειας» είναι η κύρια ανησυχία του νέου οργάνου του ΟΗΕ.

Ο Μακρύς Δρόμος Μπροστά

Η ίδρυση αυτής της 40μελούς επιτροπής αποτελεί αναγνώριση ότι η ΤΝ δεν είναι πλέον απλώς ένα εμπορικό προϊόν· είναι μια παγκόσμια κοινή ωφέλεια με τη δύναμη να αναδιαμορφώσει τις κοινωνίες. Ενώ η πολιτική διαδρομή παραμένει δύσβατη, η δέσμευση σε μια επιστημονική, βασισμένη σε αποδείξεις προσέγγιση προσφέρει μια αχτίδα ελπίδας για ένα μέλλον όπου η τεχνολογία υπηρετεί την ανθρωπότητα με ασφάλεια και ισότητα.

Πηγές:

• United Nations: Secretary-General's High-level Advisory Body on Artificial Intelligence
• Reuters: UN appoints global panel to study AI risks
• The Guardian: Tech whistleblowers call for right to warn on AI risks
• UN News: Guterres announces 40-member AI advisory body