Για χρόνια, η βιομηχανία της τεχνολογίας λειτουργούσε υπό μια άνετη νομική ασπίδα, υποστηρίζοντας ότι αποτελούν απλώς ουδέτερες πλατφόρμες για περιεχόμενο που δημιουργείται από χρήστες. Ωστόσο, την Τετάρτη, ένα σώμα ενόρκων στο Λος Άντζελες διέλυσε αυτή την άμυνα σε μια απόφαση-ορόσημο που θα μπορούσε να επαναπροσδιορίσει το ρυθμιστικό τοπίο για μια γενιά. Οι ένορκοι έκριναν τη Meta και το YouTube υπεύθυνους για τον εσκεμμένο σχεδιασμό εθιστικών προϊόντων που έβλαψαν έναν νεαρό χρήστη, επιδικάζοντας στον ενάγοντα αποζημίωση 6 εκατομμυρίων δολαρίων.
Αυτή δεν ήταν μια υπόθεση για το τι είπαν οι άνθρωποι στο διαδίκτυο· ήταν μια υπόθεση για το πώς κατασκευάστηκε το διαδίκτυο. Οι ένορκοι αποφάνθηκαν ότι οι τεχνολογικοί γίγαντες επέδειξαν αμέλεια και απέτυχαν να παράσχουν επαρκείς προειδοποιήσεις σχετικά με τους συστημικούς κινδύνους που ενυπάρχουν στις πλατφόρμες τους. Από την άποψη της συμμόρφωσης, αυτό μετατοπίζει τη συζήτηση από τον συντονισμό περιεχομένου στην ευθύνη προϊόντος. Υποδηλώνει ότι οι αλγόριθμοι, όταν συντονίζονται για να εκμεταλλευτούν την ψυχολογία ενός ευάλωτου ανηλίκου, δεν είναι πλέον απλώς λογισμικό — είναι δυνητικά ελαττωματικά προϊόντα.
Η ενάγουσα, μια 20χρονη γυναίκα με τα αρχικά KGM, βρέθηκε στο επίκεντρο μιας δίκης έξι εβδομάδων που έμοιαζε περισσότερο με εγκληματολογικό έλεγχο της ψυχής της Silicon Valley. Μετά από εννέα ημέρες διαβουλεύσεων, οι ένορκοι απέδωσαν το 70% της ευθύνης στη Meta και το 30% στο YouTube. Τα στοιχεία που παρουσιάστηκαν ήταν πολυδιάστατα, περιλαμβάνοντας καταθέσεις από πληροφοριοδότες (whistleblowers) και κορυφαία στελέχη που αναγκάστηκαν να λογοδοτήσουν για τις λεπτομέρειες των μετρήσεων αφοσίωσης (engagement metrics).
Στη δουλειά μου ως ψηφιακός ντετέκτιβ, συχνά διαπιστώνω ότι οι πιο αποκαλυπτικές πληροφορίες δεν είναι αυτές που λέει μια εταιρεία στα λαμπερά δελτία τύπου της, αλλά αυτές που κρύβει στις αδιαφανείς γωνίες των πολιτικών απορρήτου και των εσωτερικών σημειωμάτων της. Κατά τη διάρκεια αυτής της δίκης, η αυλαία άνοιξε για το πώς αυτές οι πλατφόρμες χρησιμοποιούν τη διαλείπουσα ενίσχυση — τον ίδιο ψυχολογικό μηχανισμό που χρησιμοποιείται στους κουλοχέρηδες — για να κρατούν τους χρήστες σε συνεχή κύλιση (scrolling). Παραδόξως, η υπεράσπιση υποστήριξε ότι αυτά τα χαρακτηριστικά ήταν απλώς αυτό που ήθελαν οι χρήστες. Οι ένορκοι, ωστόσο, είδαν μια επικίνδυνη ανισορροπία μεταξύ εταιρικού κέρδους και ασφάλειας των χρηστών.
Ως κάποιος που υποστηρίζει την προστασία της ιδιωτικότητας από τον σχεδιασμό (privacy by design), βλέπω τη βάση οποιουδήποτε ψηφιακού προϊόντος σαν ένα σπίτι. Εάν η βάση είναι χτισμένη πάνω στην αρχή της ελαχιστοποίησης των δεδομένων και της αυτονομίας του χρήστη, το σπίτι είναι ασφαλές. Αλλά όταν η βάση είναι χτισμένη στη μεγιστοποίηση του «χρόνου παραμονής» με κάθε κόστος, η δομή γίνεται ένα τοξικό περιουσιακό στοιχείο.
Στην πράξη, η δίκη ανέδειξε μια θεμελιώδη αποτυχία στην εφαρμογή ισχυρών μέτρων ασφαλείας. Η διαπίστωση της αμέλειας από τους ενόρκους υποδηλώνει ότι οι εταιρείες γνώριζαν —ή όφειλαν να γνωρίζουν— ότι οι διεπαφές τους δεν συμμορφώνονταν με τα βασικά πρότυπα φροντίδας για τους ανηλίκους. Με άλλα λόγια, οι πλατφόρμες σχεδιάστηκαν για να είναι παρεμβατικές από τη φύση τους, παρακάμπτοντας τη λεπτομερή συγκατάθεση που θα έπρεπε να διέπει τον τρόπο με τον οποίο συλλέγεται η προσοχή ενός νέου ατόμου.
Θυμάμαι να ερευνώ μια παραβίαση σε μια μεγάλη τράπεζα, όπου το ζήτημα δεν ήταν απλώς μια εισβολή, αλλά μια συστημική αποτυχία να αντιμετωπιστούν τα βιομετρικά δεδομένα με τον σεβασμό που τους άξιζε. Πέρασα μια εβδομάδα εξηγώντας στους αναγνώστες ότι μόλις τα βιομετρικά στοιχεία χαθούν, χάνονται για πάντα. Αυτή η δίκη μοιάζει παρόμοια. Μόλις η ψυχική υγεία ενός νέου ατόμου τεθεί σε κίνδυνο από έναν βρόχο ανατροφοδότησης που δεν επέλεξε, η ζημιά δεν αναιρείται εύκολα. Η πληροφορία, σε αυτό το πλαίσιο, δεν είναι απλώς ένα περιουσιακό στοιχείο· είναι ευθύνη εάν τη χειρίζεται κανείς χωρίς αυστηρή ηθική πυξίδα.
Παρά τον άμεσο οικονομικό αντίκτυπο της αποζημίωσης των 6 εκατομμυρίων δολαρίων, οι εξωεδαφικές επιπτώσεις αυτής της ετυμηγορίας είναι βαθιές. Αυτή τη στιγμή βλέπουμε ένα ρυθμιστικό τοπίο που μοιάζει με «πάτσγουορκ», με διαφορετικές πολιτείες και χώρες να προσπαθούν να ράψουν τα δικά τους πρότυπα ασφαλείας. Αυτή η απόφαση του Λος Άντζελες παρέχει μια νέα κλωστή: την ιδέα ότι ο ίδιος ο σχεδιασμός του προϊόντος αποτελεί νομοθετικό ζήτημα.
Υπό αυτό το πλαίσιο, οι εταιρείες τεχνολογίας δεν μπορούν πλέον να κρύβονται πίσω από την άμυνα των «όρων χρήσης ως λαβύρινθο». Για πολύ καιρό, αυτά τα έγγραφα χρησιμοποιούνταν για να θάψουν τους κινδύνους της αλγοριθμικής χειραγώγησης. Ως δημοσιογράφος που ελέγχει σχολαστικά κάθε στιγμιότυπο οθόνης για κρυμμένα προσωπικά δεδομένα —από τη γεωγραφική τοποθεσία έως τα μεταδεδομένα φωτογραφιών— βρίσκω αναζωογονητικό να βλέπω ένα δικαστήριο να απαιτεί το ίδιο επίπεδο διαφάνειας από τις μεγαλύτερες εταιρείες του κόσμου.
Τελικά, αυτή η ετυμηγορία χρησιμεύει ως πυξίδα για μελλοντικές δικαστικές διαμάχες. Μας απομακρύνει από τη δυαδική συζήτηση περί «ελευθερίας του λόγου έναντι λογοκρισίας» και μας εισάγει στην πιο λεπτή περιοχή του «ασφαλούς σχεδιασμού έναντι της ληστρικής αρχιτεκτονικής». Αντιμετωπίζει την ιδιωτικότητα και την ψυχική ακεραιότητα ως θεμελιώδη ανθρώπινα δικαιώματα, όχι απλώς ως κουτάκια προς επιλογή σε μια φόρμα συμμόρφωσης.
Όταν επεξεργάζομαι μια ιστορία, το πρώτο μου ένστικτο είναι να αφαιρέσω το περιττό για να προστατεύσω το υποκείμενο. Αναρωτιέμαι: «Χρειάζεται πραγματικά ο αναγνώστης αυτή την προσωπική λεπτομέρεια για να κατανοήσει το θέμα;». Εφαρμόζω μια παρόμοια λογική στη δική μου ψηφιακή υγιεινή, χρησιμοποιώντας μόνο κρυπτογραφημένα κανάλια όπως το Signal και κλειδιά PGP. Αυτή η δίκη υποδηλώνει ότι οι εταιρείες τεχνολογίας θα έπρεπε να είχαν θέσει μια παρόμοια ερώτηση: «Πρέπει αυτό το χαρακτηριστικό να είναι πραγματικά τόσο εθιστικό για να είναι χρήσιμο;».
Για τους γονείς, τους εκπαιδευτικούς και τους νομικούς, αυτή η απόφαση είναι ένα κάλεσμα για δράση. Πρέπει να κινηθούμε προς μια πιο εξελιγμένη κατανόηση του πώς τα ψηφιακά περιβάλλοντα επηρεάζουν την ανθρώπινη ψυχή.
Η εποχή του «αδιαφανούς αλγορίθμου» τελειώνει. Καθώς προχωράμε, η εστίαση πρέπει να παραμείνει στην οικοδόμηση ενός ψηφιακού κόσμου που θα είναι ταυτόχρονα ισχυρός και θα σέβεται τα άτομα που τον κατοικούν.
Πηγές:



Η από άκρη σε άκρη κρυπτογραφημένη λύση ηλεκτρονικού ταχυδρομείου και αποθήκευσης στο cloud παρέχει τα πιο ισχυρά μέσα ασφαλούς ανταλλαγής δεδομένων, εξασφαλίζοντας την ασφάλεια και το απόρρητο των δεδομένων σας.
/ Εγγραφείτε δωρεάν