Πέρα από το Εργαστήριο: Γιατί η Συμμετοχική Τεχνητή Νοημοσύνη Πρέπει να Διαρκεί Περισσότερο από τη Φάση του Σχεδιασμού

Παρά την πρωτοφανή έξαρση των παγκόσμιων πρωτοβουλιών που αποσκοπούν στο να καταστήσουν την τεχνητή νοημοσύνη πιο συμπεριληπτική, ένα εντυπωσιακό παράδοξο έχει αναδυθεί: καθώς το λεξιλόγιο της συμμετοχής γίνεται πανταχού παρόν, η πραγματική επιρροή του κοινού παραμένει αξιοσημείωτα κατακερματισμένη. Μια πρόσφατη ανασκόπηση ογδόντα έργων συμμετοχικής ΤΝ αποκάλυψε ότι, ενώ οι κοινότητες καλούνται συχνά στο τραπέζι κατά τα αρχικά στάδια της συλλογής δεδομένων ή του σχεδιασμού, απουσιάζουν σχεδόν εξ ολοκλήρου μόλις το σύστημα τεθεί σε λειτουργία. Έχουμε κατακτήσει την τέχνη του εργαστηρίου έναρξης (kick-off workshop), αλλά δεν έχουμε βρει ακόμη πώς να κρατήσουμε την πόρτα ανοιχτή μόλις ο κώδικας αρχίσει να τρέχει.

Η Ψευδαίσθηση της Ανοιχτής Πόρτας

Πρόσφατα πέρασα ένα απόγευμα σε ένα κοινοτικό κέντρο όπου ένα τοπικό συμβούλιο παρουσίαζε ένα νέο εργαλείο κατανομής πόρων που βασίζεται στην ΤΝ. Η αίθουσα ήταν γεμάτη από τη βουή μιας γνήσιας πολιτικής ενέργειας. Ζητήθηκε από τους κατοίκους να χρωματίσουν χάρτες και να συζητήσουν τι σήμαινε γι' αυτούς η δικαιοσύνη. Ήταν ένα κλασικό παράδειγμα συμμετοχικού σχεδιασμού—ζωντανό, ειλικρινές και βαθιά ριζωμένο στο τοπικό πλαίσιο. Ωστόσο, καθώς η συνεδρία τελείωνε, μια γυναίκα που καθόταν κοντά μου έθεσε μια καίρια ερώτηση: «Τι θα συμβεί σε έξι μήνες όταν ο αλγόριθμος αποφασίσει ότι ο δρόμος μου δεν χρειάζεται πια λεωφορείο; Με ποιον θα μιλήσω τότε;»

Η παύση του συντονιστή ήταν αποκαλυπτική. Εκείνη τη στιγμή, το συστημικό κενό στην τρέχουσα προσέγγισή μας για τη διακυβέρνηση της ΤΝ έγινε αισθητό. Αντιμετωπίζουμε τη συμμετοχή ως ένα διακριτό γεγονός—μια τελετή εγκαινίων για έναν αλγόριθμο—παρά ως μια συνεχή σχέση. Μόλις ολοκληρωθεί η φάση του συμμετοχικού σχεδιασμού, η διακυβέρνηση του συστήματος μετατοπίζεται σχεδόν αναπόφευκτα πίσω στους αδιαφανείς διαδρόμους των προγραμματιστών ή των φορέων ανάθεσης. Η κοινότητα, έχοντας εξυπηρετήσει τον σκοπό της ως σημείο δεδομένων ή ως ομάδα διαβούλευσης, παραγκωνίζεται ουσιαστικά.

Το Κενό στον Κύκλο Ζωής: Από τον Σχεδιασμό στην Υλοποίηση

Σε μακροεπίπεδο, αυτή η τάση αντανακλά μια ευρύτερη κοινωνιολογική στροφή προς αυτό που θα μπορούσαμε να ονομάσουμε «οικονομία της διαβούλευσης». Σε αυτό το μοντέλο, η συμμετοχή αντιμετωπίζεται ως ένα κουτάκι προς συμπλήρωση για λόγους συμμόρφωσης, παρά ως αναδιανομή ισχύος. Τόσο οι Αρχές του ΟΟΣΑ για την ΤΝ όσο και η Πράξη της ΕΕ για την ΤΝ δίνουν έμφαση στην εμπλοκή των ενδιαφερόμενων μερών ως ακρογωνιαίο λίθο της αξιόπιστης ΤΝ. Ωστόσο, στην πράξη, αυτή η εμπλοκή είναι συχνά εμπροσθοβαρής. Καλούμε τους ενδιαφερόμενους να βοηθήσουν στην κατασκευή του αυτοκινήτου, αλλά σπάνια τους δίνουμε μια θέση στο όχημα μόλις αυτό βγει στον δρόμο.

Αυτό το κενό στον κύκλο ζωής δεν είναι απλώς μια διαδικαστική παράλειψη· είναι ένα δομικό ελάττωμα. Τα συστήματα ΤΝ δεν είναι στατικά εργαλεία· είναι δυναμικές οντότητες που εξελίσσονται μέσω βρόχων ανατροφοδότησης, επανεκπαίδευσης και μεταβαλλόμενων περιβαλλοντικών συνθηκών. Όταν η εμπλοκή των ενδιαφερόμενων μερών σταματά στη φάση της υλοποίησης, το σύστημα χάνει την κοινωνική του σύνδεση. Κατά συνέπεια, οι ίδιες οι κοινότητες που βοήθησαν στη διαμόρφωση του αρχικού μοντέλου βρίσκονται περιθωριοποιημένες όταν το σύστημα αρχίζει να εμφανίζει απρόβλεπτες μεροληψίες ή όταν το πεδίο λειτουργίας του επεκτείνεται πέρα από την αρχική συμφωνία.

Γλωσσολογικά Μιλώντας: Η Σημασιολογία της Συμμετοχής

Κοιτάζοντας τη συνολική εικόνα, μπορούμε να δούμε αυτή την ένταση να αντικατοπτρίζεται στη γλώσσα που χρησιμοποιούμε. Στη βιομηχανία της τεχνολογίας, ο όρος «χρήστης» είναι εδώ και καιρό ο κυρίαρχος περιγραφικός όρος. Γλωσσολογικά μιλώντας, ένας χρήστης είναι ένας παθητικός αποδέκτης μιας υπηρεσίας. Η στροφή προς τον όρο «ενδιαφερόμενο μέρος» (stakeholder) είχε σκοπό να υποδηλώσει δράση και έννομο συμφέρον. Ωστόσο, εάν ένα ενδιαφερόμενο μέρος έχει φωνή μόνο κατά τη διάρκεια μιας ομάδας εστίασης ενενήντα λεπτών, ο όρος γίνεται μια συμβολική χειρονομία παρά μια λειτουργική πραγματικότητα.

Μέσα από αυτό το πρίσμα, η τρέχουσα κατάσταση της συμμετοχικής ΤΝ μοιάζει λιγότερο με δημοκρατική επανάσταση και περισσότερο με θεατρική σκηνή. Εκτελούμε τις τελετουργίες της συμπερίληψης—τα αυτοκόλλητα σημειώματα, τις ανοιχτές συγκεντρώσεις, τους χάρτες δεοντολογίας—αλλά το σενάριο είναι συχνά προκαθορισμένο. Για να είναι πραγματικά συμμετοχικός, ο διάλογος πρέπει να προχωρήσει πέρα από τον εφήμερο ενθουσιασμό της «εκτόξευσης» και να εδραιωθεί στην πεζή, μακροπρόθεσμη εργασία της παρακολούθησης και της εξέλιξης του συστήματος.

Το Αρχιπέλαγος της Διακυβέρνησης

Ιστορικά, θα μπορούσαμε να το συγκρίνουμε αυτό με τον τρόπο που οι σύγχρονες πόλεις έχουν γίνει ένα αρχιπέλαγος ατομικοποιημένων χώρων. Ζούμε σε κοντινή απόσταση, ωστόσο τα συστήματα διακυβέρνησής μας είναι συχνά απομονωμένα νησιά. Ένα νησί χειρίζεται την τεχνική ανάπτυξη, ένα άλλο τη νομική συμμόρφωση και ένα μικρό, προσωρινό νησί χτίζεται για την «εμπλοκή της κοινότητας». Μόλις το έργο ολοκληρωθεί, η γέφυρα προς το νησί της κοινότητας αποσυναρμολογείται.

Παραδόξως, οι πιο κρίσιμες στιγμές για την επιρροή των ενδιαφερόμενων μερών συμβαίνουν αφού το σύστημα τεθεί σε λειτουργία. Τότε είναι που γίνονται ορατές οι αποχρώσεις του αντικτύπου στον πραγματικό κόσμο. Χωρίς έναν μηχανισμό για συνεχή εμπλοκή, ο βρόχος ανατροφοδότησης σπάει. Το σύστημα γίνεται μια «αίθουσα με καθρέφτες», αντανακλώντας μόνο τις εσωτερικές μετρήσεις των προγραμματιστών και όχι τις βιωμένες εμπειρίες των ανθρώπων που επηρεάζει.

Διεκδικώντας ξανά το Αφήγημα: Διαχρονική Δράση

Τελικά, ο στόχος της συμμετοχικής ΤΝ θα πρέπει να είναι η εγκαθίδρυση μιας διαχρονικής δράσης (longitudinal agency). Αυτό σημαίνει τη δημιουργία δομών όπου οι ενδιαφερόμενοι δεν είναι απλώς σύμβουλοι, αλλά συν-κυβερνήτες καθ' όλη τη διάρκεια ζωής της τεχνολογίας. Αυτό απαιτεί μια στροφή από την «εφάπαξ» εμπλοκή στη «διαρκή» συμμετοχή.

Σε καθημερινούς όρους, αυτό θα μπορούσε να μοιάζει με επιτροπές ελέγχου υπό την καθοδήγηση της κοινότητας που έχουν τη δύναμη να προκαλέσουν αναθεώρηση του συστήματος, ή μηχανισμούς «ανθρώπου στον βρόχο» (human-in-the-loop) που δίνουν προτεραιότητα στην τοπική γνώση έναντι της αλγοριθμικής αποτελεσματικότητας. Περιλαμβάνει την αναγνώριση ότι η εμπειρογνωμοσύνη ενός κατοίκου που κατανοεί τον κοινωνικό ιστό της γειτονιάς του είναι εξίσου ζωτική με την εμπειρογνωμοσύνη του επιστήμονα δεδομένων που κατανοεί την αρχιτεκτονική του νευρωνικού δικτύου.

Τροφή για Σκέψη

Καθώς πλοηγούμαστε σε αυτό το μεταβαλλόμενο τοπίο, πρέπει να θέσουμε στον εαυτό μας άβολα ερωτήματα σχετικά με τη φύση της ισχύος στην ψηφιακή εποχή. Εάν συμμετέχετε σε ένα τεχνολογικό έργο, σκεφτείτε αυτούς τους προβληματισμούς:

• Ποιος κυβερνά την εξέλιξη; Εάν το σύστημα ΤΝ αλλάξει τη συμπεριφορά του αύριο, υπάρχει μια σαφής, προσβάσιμη οδός για να παρέμβει η κοινότητα;
• Είναι η συμμετοχή μετασχηματιστική ή προσχηματική; Έχει η συμβολή των ενδιαφερόμενων μερών τη δύναμη να σταματήσει ένα έργο ή μόνο να τροποποιήσει τα περιθώριά του;
• Μπορούμε να προχωρήσουμε πέρα από το εργαστήριο; Πώς μπορούμε να οικοδομήσουμε ψηφιακές υποδομές που επιτρέπουν συνεχή, και όχι επεισοδιακή, συμμετοχή των πολιτών;

Αντιμετωπίζοντας τη διακυβέρνηση της ΤΝ ως ένα ζωντανό κοινωνικό συμβόλαιο και όχι ως μια στατική τεχνική απαίτηση, μπορούμε να αρχίσουμε να γεφυρώνουμε το χάσμα μεταξύ της υπόσχεσης για συμμετοχή και της πραγματικότητας της ισχύος. Ο στόχος δεν είναι απλώς να φτιάξουμε καλύτερη ΤΝ, αλλά να οικοδομήσουμε μια κοινωνία όπου η τεχνολογία υπηρετεί τη συλλογική ανθεκτικότητα των ανθρώπων, και όχι μόνο την αποτελεσματικότητα της μηχανής.

Πηγές

• Ανάλυση 80 συμμετοχικών πρωτοβουλιών ΤΝ και το φαινόμενο του «ξεπλύματος συμμετοχής» (participation wash).
• Οι Αρχές του ΟΟΣΑ για την ΤΝ σχετικά με την εμπλοκή των ενδιαφερόμενων μερών και την αξιόπιστη ΤΝ.
• Οι διατάξεις της Πράξης της ΕΕ για την ΤΝ σχετικά με τις εκτιμήσεις αντικτύπου στα θεμελιώδη δικαιώματα και την εμπλοκή των ενδιαφερόμενων μερών.
• Κοινωνιολογικά πλαίσια για τη «Ρευστή Νεωτερικότητα» και την ατομικοποίηση της πολιτικής ζωής.
• Γλωσσολογικές μελέτες για την εξέλιξη του «χρήστη» έναντι του «ενδιαφερόμενου μέρους» στον τεχνολογικό λόγο.