Η υπόσχεση ασφάλειας των καταστημάτων εφαρμογών ήταν πάντα μια ψευδαίσθηση

Πριν από λίγα χρόνια, η διαδικασία εύρεσης μιας εφαρμογής ήταν απλή. Ένας χρήστης άνοιγε μια ψηφιακή βιτρίνα, πληκτρολογούσε μια λέξη-κλειδί σε μια γραμμή αναζήτησης και εμπιστευόταν ότι τα αποτελέσματα ήταν ασφαλή επειδή μια εταιρεία πολλών τρισεκατομμυρίων δολαρίων τα είχε ελέγξει. Αυτή ήταν η βασική γοητεία του «περιφραγμένου κήπου». Προσέφερε μια αποστειρωμένη εναλλακτική λύση στον άγριο, απρόβλεπτο ανοιχτό ιστό. Σήμερα, αυτό το αίσθημα ασφάλειας έχει χαθεί. Όταν ένας χρήστης αναζητά έναν απλό επεξεργαστή φωτογραφιών, ο αλγόριθμος συχνά προτείνει εργαλεία σχεδιασμένα να αφαιρούν ρούχα από εικόνες χωρίς συγκατάθεση. Αυτή είναι η πραγματικότητα που ώθησε τον εισαγγελέα του Σαν Φρανσίσκο, David Chiu, να διατάξει την Apple και την Google να εκκαθαρίσουν δεκάδες εφαρμογές «nudify» από τις πλατφόρμες τους.

Η μετάβαση από τους ουδέτερους αγωγούς στους ενεργούς διευκολυντές

Ιστορικά, οι τεχνολογικοί γίγαντες λειτουργούσαν υπό την προστασία νομικών πλαισίων που τους αντιμετώπιζαν ως ουδέτερους διαμεσολαβητές. Ήταν οι σωλήνες, όχι το νερό. Εάν ένας χρήστης μοιραζόταν κάτι παράνομο, έφταιγε ο χρήστης, όχι ο πάροχος υπηρεσιών. Αυτό το παράδειγμα έχει αλλάξει. Η νομοθεσία της Καλιφόρνια ποινικοποιεί πλέον τη δραστηριότητα που εν γνώσει της διευκολύνει ή βοηθά απερίσκεπτα τη δημιουργία πορνογραφίας deepfake χωρίς συγκατάθεση. Ένας νόμος του 2025 επιτρέπει περαιτέρω στα θύματα να κινηθούν αστικά κατά των πλατφορμών τρίτων που φιλοξενούν αυτό το υλικό. Η πόλη του Σαν Φρανσίσκο υποστηρίζει τώρα ότι η Apple και η Google δεν είναι πλέον παθητικοί οικοδεσπότες. Επεξεργαζόμενες πληρωμές και προτείνοντας αυτές τις εφαρμογές μέσω αλγορίθμων αναζήτησης, οι εταιρείες αυτές αποτελούν ενεργούς συμμετέχοντες σε μια ληστρική οικονομία.

Εξετάζοντας το επίπεδο του κλάδου, αυτή η νομική πίεση σηματοδοτεί το τέλος της εποχής της μη παρέμβασης για τον συντονισμό των εφαρμογών. Στο παρελθόν, οι εταιρείες βασίζονταν σε αυτοματοποιημένα φίλτρα για τον εντοπισμό απαγορευμένου περιεχομένου· σήμερα, αυτά τα φίλτρα αποτυγχάνουν μπροστά στον τεράστιο όγκο των εργαλείων παραγωγικής τεχνητής νοημοσύνης. Το Tech Transparency Project διαπίστωσε ότι και οι δύο εταιρείες είχαν προειδοποιηθεί για αυτές τις εφαρμογές ήδη από τον Ιανουάριο του 2026. Παρά τις προειδοποιήσεις αυτές, οι εφαρμογές παρέμειναν διαθέσιμες για μήνες. Αυτή η καθυστέρηση υποδηλώνει ότι η υποδομή για την αναθεώρηση των εφαρμογών λυγίζει υπό το βάρος της δικής της κλίμακας. Όταν μια πλατφόρμα φιλοξενεί εκατομμύρια κομμάτια λογισμικού, η χειροκίνητη αναθεώρηση γίνεται ένα εμπόδιο που οι περισσότερες εταιρείες επιλέγουν να αγνοήσουν προς όφελος της ανάπτυξης.

Η οικονομία του κώδικα χωρίς συγκατάθεση

Υπάρχει μια οικονομική λογική πίσω από την παρουσία αυτών των εφαρμογών. Η Apple και η Google λαμβάνουν συνήθως προμήθεια 30% επί των αγορών εντός εφαρμογής. Όταν μια εφαρμογή nudify χρεώνει έναν χρήστη για μονάδες παραγωγής μιας εικόνας, ένα μέρος αυτών των χρημάτων πηγαίνει απευθείας στον ιδιοκτήτη της πλατφόρμας. Ο David Chiu εκτιμά ότι αυτές οι εταιρείες έχουν κερδίσει εκατομμύρια δολάρια από αυτές τις συναλλαγές. Αυτό δημιουργεί μια σύγκρουση συμφερόντων μεταξύ ασφάλειας και εσόδων. Με καθημερινούς όρους, είναι σαν ένα εμπορικό κέντρο που παίρνει ποσοστό από ένα κατάστημα που πουλάει κλεμμένα αγαθά. Το εμπορικό κέντρο έχει κάθε κίνητρο να κρατήσει το κατάστημα ανοιχτό όσο καταβάλλεται το ενοίκιο και οι αρχές δεν χτυπούν την πόρτα.

Τεχνικά μιλώντας, το πρόβλημα δεν είναι μόνο η ύπαρξη των εφαρμογών αλλά ο τρόπος με τον οποίο τα καταστήματα τις προωθούν. Το Tech Transparency Project σημείωσε ότι η Google και η Apple κατηύθυναν σκόπιμα τους χρήστες προς αυτά τα εργαλεία μέσω προτάσεων αναζήτησης. Αυτό είναι ένα υποπροϊόν της αλγοριθμικής επιμέλειας. Η μηχανή αναζήτησης του καταστήματος έχει σχεδιαστεί για να δείχνει στους χρήστες τι είναι πιθανό να κατεβάσουν, όχι τι είναι ηθικό να φιλοξενείται. Εάν χιλιάδες άνθρωποι αναζητούν έναν συγκεκριμένο τύπο εκμεταλλευτικού εργαλείου, ο αλγόριθμος δίνει προτεραιότητα σε αυτό το εργαλείο για να μεγιστοποιήσει την πιθανότητα μιας συναλλαγής. Ο κώδικας δεν έχει ηθική πυξίδα· έχει μόνο ποσοστό μετατροπής.

Η κατάρρευση του αλγοριθμικού φύλακα

Στο εσωτερικό τους, οι εφαρμογές nudify χρησιμοποιούν συχνά εξελιγμένες μεθόδους για να παρακάμψουν την αρχική διαδικασία αναθεώρησης. Οι προγραμματιστές ενδέχεται να υποβάλουν μια φαινομενικά αβλαβή εφαρμογή φίλτρου φωτογραφιών για έγκριση. Μόλις η εφαρμογή τεθεί σε λειτουργία, μπορεί να κατεβάσει νέο κώδικα ή να αποκτήσει πρόσβαση σε απομακρυσμένα μοντέλα AI που εκτελούν την πραγματική επεξεργασία εικόνας. Αυτή είναι μια μορφή τεχνικού χρέους στη στοίβα συντονισμού. Η διαδικασία αναθεώρησης συμβαίνει σε μια συγκεκριμένη χρονική στιγμή, αλλά το λογισμικό είναι δυναμικό. Ένας προγραμματιστής μπορεί να αλλάξει τη συμπεριφορά μιας εφαρμογής αφού αυτή βρίσκεται ήδη στο τηλέφωνο ενός χρήστη. Αυτό καθιστά τον εφάπαξ έλεγχο στην πύλη ένα αναποτελεσματικό μέτρο ασφαλείας.

Παραδόξως, οι ίδιες εταιρείες που προωθούν τις συσκευές τους ως εργαλεία εστιασμένα στην προστασία της ιδιωτικής ζωής είναι εκείνες που παρέχουν τη διανομή για λογισμικό που παραβιάζει την ιδιωτική ζωή. Η Apple χρησιμοποιεί συχνά τον έλεγχό της πάνω στο οικοσύστημα για να περιορίσει την κοινή χρήση δεδομένων μεταξύ νόμιμων εφαρμογών, ωστόσο δυσκολεύτηκε να εντοπίσει λογισμικό που χρησιμοποιεί AI για να στοχοποιήσει άτομα. Αυτό αντανακλά μια κατακερματισμένη προσέγγιση στην ασφάλεια της πλατφόρμας. Ένα τμήμα της εταιρείας χτίζει ισχυρή κρυπτογράφηση· ένα άλλο τμήμα της εταιρείας επεξεργάζεται πληρωμές για εφαρμογές που παράγουν προσωπικές εικόνες χωρίς συγκατάθεση. Οι δύο πλευρές της επιχείρησης δεν επικοινωνούν πάντα.

Παλαιά συστήματα σε έναν κόσμο AI

Πολλά από τα εργαλεία που χρησιμοποιούνται για την παρακολούθηση των καταστημάτων εφαρμογών είναι παλαιά συστήματα. Κατασκευάστηκαν για μια εποχή που οι εφαρμογές ήταν στατικά πακέτα κώδικα. Στο τρέχον τοπίο, μια εφαρμογή είναι συχνά απλώς ένα λεπτό περίβλημα γύρω από ένα διαδικτυακό API. Το δύσκολο έργο της επεξεργασίας AI συμβαίνει σε έναν απομακρυσμένο διακομιστή που οι αναθεωρητές του καταστήματος εφαρμογών δεν μπορούν να δουν. Αυτό καθιστά την ίδια την εφαρμογή ένα μαύρο κουτί. Εάν το API είναι ένας σερβιτόρος εστιατορίου, το κατάστημα εφαρμογών βλέπει μόνο το άτομο που παίρνει την παραγγελία. Δεν έχει τρόπο να γνωρίζει τι συμβαίνει στην κουζίνα μέχρι το πιάτο να βρεθεί ήδη στο τραπέζι.

Κατά συνέπεια, η ευθύνη για την ασφάλεια έχει μετατοπιστεί από την πλατφόρμα στο κοινό. Όταν η Apple και η Google ισχυρίζονται ότι αναλαμβάνουν ταχεία δράση μετά την αναφορά παραβιάσεων, παραδέχονται ότι τα προληπτικά τους συστήματα απέτυχαν. Βασίζονται σε χρήστες, δημοσιογράφους και εισαγγελείς για να κάνουν το έργο του συντονισμού γι' αυτούς. Αυτό δημιουργεί ένα αντιδραστικό περιβάλλον όπου η ζημιά έχει ήδη γίνει πριν αφαιρεθεί η εφαρμογή. Για τα θύματα της πορνογραφίας deepfake, μια αναστολή που συμβαίνει μήνες αφότου μια εφαρμογή έχει ληφθεί χιλιάδες φορές είναι μια κενή νίκη.

Ανάκτηση του ελέγχου της ψηφιακής βιτρίνας

Τελικά, η εντολή από το Σαν Φρανσίσκο αποτελεί υπενθύμιση ότι το λογισμικό που διέπει τη ζωή μας δεν είναι ένα άνομο σύνορο. Ο κώδικας που τροφοδοτεί ένα iPhone ή μια συσκευή Android υπόκειται στους ίδιους κοινωνικούς κανόνες με οποιοδήποτε άλλο προϊόν. Έχουμε φτάσει σε ένα σημείο όπου ο ψηφιακός γραμματισμός απαιτεί από εμάς να κοιτάξουμε πέρα από τη διαισθητική διεπαφή ενός καταστήματος εφαρμογών και να δούμε τους επιχειρηματικούς κανόνες πίσω από αυτό. Η επιμελημένη εμπειρία που μας υποσχέθηκαν είναι ένα κατασκεύασμα μάρκετινγκ. Στην πράξη, η βιτρίνα είναι μια ανοιχτή αγορά όπου ο πρωταρχικός στόχος είναι η συναλλαγή.

Θα πρέπει να παρατηρήσουμε τις δικές μας ψηφιακές συνήθειες και να αναρωτηθούμε γιατί εμπιστευόμαστε αυτές τις πλατφόρμες τόσο τυφλά. Η παρουσία μιας εφαρμογής σε ένα επίσημο κατάστημα δεν είναι σφραγίδα ποιότητας ή ασφάλειας. Είναι ένα σημάδι ότι ο προγραμματιστής ακολούθησε ένα σύνολο τεχνικών προδιαγραφών και συμφώνησε να μοιραστεί τα έσοδά του. Ως χρήστες, πρέπει να απαιτούμε κάτι περισσότερο από αντιδραστικό συντονισμό. Θα πρέπει να περιμένουμε από τις εταιρείες που ελέγχουν την υποδομή της ψηφιακής μας ζωής να είναι εξίσου άγρυπνες για την ασφάλειά μας όσο και για τα περιθώρια κέρδους τους. Η πόλη του Σαν Φρανσίσκο κατέστησε σαφές ότι η εποχή της εύλογης άρνησης για τους τεχνολογικούς γίγαντες έχει τελειώσει.

Πηγές:
Επίσημη αλληλογραφία του Γραφείου του Εισαγγελέα του Σαν Φρανσίσκο
Έκθεση του Tech Transparency Project, Απρίλιος 2026
Αστικός Κώδικας της Καλιφόρνια, Ενότητα 1708.85
Ερευνητικές εκθέσεις των TechCrunch και Wired