La promesse de sécurité des boutiques d'applications n'a toujours été qu'une illusion

Il y a quelques années, le processus de recherche d'une application était simple. Un utilisateur ouvrait une vitrine numérique, tapait un mot-clé dans une barre de recherche et avait la certitude que les résultats étaient sûrs parce qu'une multinationale pesant plusieurs milliers de milliards de dollars les avait vérifiés. C'était l'attrait principal du « jardin clos » (walled garden). Il offrait une alternative aseptisée au web ouvert, sauvage et imprévisible. Aujourd'hui, ce sentiment de sécurité a disparu. Lorsqu'un utilisateur cherche un simple éditeur de photos, l'algorithme suggère souvent des outils conçus pour déshabiller des personnes sur des images sans leur consentement. C'est cette réalité qui a poussé le procureur de la ville de San Francisco, David Chiu, à ordonner à Apple et Google de purger des dizaines d'applications de « nudification » de leurs plateformes.

Le passage de simples tuyaux neutres à des facilitateurs actifs

Historiquement, les géants de la technologie opéraient sous la protection de cadres juridiques qui les traitaient comme des intermédiaires neutres. Ils étaient les tuyaux, pas l'eau. Si un utilisateur partageait quelque chose d'illégal, l'utilisateur était en faute, pas le fournisseur de services. Ce paradigme a changé. La loi californienne criminalise désormais toute activité qui facilite sciemment ou aide de manière irréfléchie à la création de pornographie deepfake non consensuelle. Une loi de 2025 permet en outre aux victimes d'engager des poursuites civiles contre les plateformes tierces qui hébergent ce matériel. La ville de San Francisco soutient désormais qu'Apple et Google ne sont plus des hôtes passifs. En traitant les paiements et en suggérant ces applications via des algorithmes de recherche, ces entreprises sont des participants actifs d'une économie prédatrice.

En prenant du recul au niveau de l'industrie, cette pression juridique marque la fin de l'ère du laisser-faire pour la modération des applications. Par le passé, les entreprises s'appuyaient sur des filtres automatisés pour intercepter les contenus interdits ; aujourd'hui, ces filtres échouent face au volume massif d'outils d'IA générative. Le Tech Transparency Project a révélé que les deux entreprises avaient été alertées au sujet de ces applications dès janvier 2026. Malgré ces avertissements, les applications sont restées disponibles pendant des mois. Ce retard suggère que l'infrastructure de révision des applications s'effondre sous le poids de sa propre échelle. Lorsqu'une plateforme héberge des millions de logiciels, la révision manuelle devient un goulot d'étranglement que la plupart des entreprises choisissent d'ignorer au profit de la croissance.

L'économie du code non consensuel

Il existe une logique financière derrière la présence de ces applications. Apple et Google prélèvent généralement une commission de 30 % sur les achats intégrés. Lorsqu'une application de nudification facture un utilisateur pour des crédits permettant de générer une image, une partie de cet argent va directement au propriétaire de la plateforme. David Chiu estime que ces entreprises ont gagné des millions de dollars grâce à ces transactions. Cela crée un conflit d'intérêts entre la sécurité et les revenus. En termes courants, c'est comme un centre commercial qui prendrait une commission sur un magasin vendant des objets volés. Le centre commercial a tout intérêt à garder le magasin ouvert tant que le loyer est payé et que les autorités ne frappent pas à la porte.

Techniquement parlant, le problème n'est pas seulement l'existence des applications, mais la manière dont les boutiques en font la promotion. Le Tech Transparency Project a noté que Google et Apple orientaient intentionnellement les utilisateurs vers ces outils par le biais de suggestions de recherche. C'est un sous-produit de la curation algorithmique. Le moteur de recherche de la boutique est conçu pour montrer aux utilisateurs ce qu'ils sont susceptibles de télécharger, et non ce qui est éthique d'héberger. Si des milliers de personnes recherchent un type spécifique d'outil d'exploitation, l'algorithme donne la priorité à cet outil pour maximiser la probabilité d'une transaction. Le code n'a pas de boussole morale ; il n'a qu'un taux de conversion.

La défaillance du gardien algorithmique

Sous le capot, les applications de nudification utilisent souvent des méthodes sophistiquées pour contourner le processus de révision initial. Les développeurs peuvent soumettre une application de filtre photo apparemment inoffensive pour approbation. Une fois l'application en ligne, elle peut télécharger un nouveau code ou accéder à des modèles d'IA distants qui effectuent la manipulation d'image réelle. Il s'agit d'une forme de dette technique dans la pile de modération. Le processus de révision a lieu à un instant T, mais le logiciel est dynamique. Un développeur peut modifier le comportement d'une application après qu'elle soit déjà sur le téléphone d'un utilisateur. Cela rend le contrôle unique à l'entrée inefficace comme mesure de sécurité.

Paradoxalement, les mêmes entreprises qui commercialisent leurs appareils comme des outils axés sur la confidentialité sont celles qui assurent la distribution de logiciels violant la vie privée. Apple utilise souvent son contrôle sur l'écosystème pour restreindre le partage de données entre applications légitimes, mais elle a eu du mal à identifier les logiciels qui utilisent l'IA pour cibler des individus. Cela reflète une approche fragmentée de la sécurité des plateformes. Une partie de l'entreprise construit un cryptage robuste ; une autre partie de l'entreprise traite les paiements pour des applications qui génèrent des images intimes non consensuelles. Les deux facettes de l'entreprise ne communiquent pas toujours.

Systèmes hérités dans un monde d'IA

De nombreux outils utilisés pour surveiller les boutiques d'applications sont des systèmes hérités. Ils ont été conçus pour une époque où les applications étaient des paquets de code statiques. Dans le paysage actuel, une application n'est souvent qu'une fine enveloppe autour d'une API Web. Le gros du travail de traitement par l'IA se fait sur un serveur distant que les réviseurs de la boutique d'applications ne peuvent pas voir. Cela fait de l'application elle-même une boîte noire. Si l'API est un serveur de restaurant, la boutique d'applications ne voit que la personne qui prend la commande. Elle n'a aucun moyen de savoir ce qui se passe en cuisine jusqu'à ce que le plat soit déjà sur la table.

Par conséquent, la responsabilité de la sécurité s'est déplacée de la plateforme vers le public. Lorsque Apple et Google affirment qu'ils prennent des mesures rapides après le signalement de violations, ils admettent que leurs systèmes proactifs ont échoué. Ils comptent sur les utilisateurs, les journalistes et les procureurs pour faire le travail de modération à leur place. Cela crée un environnement réactif où le mal est déjà fait avant que l'application ne soit supprimée. Pour les victimes de pornographie deepfake, une suspension qui survient des mois après qu'une application a été téléchargée des milliers de fois est une victoire dérisoire.

Reprendre le contrôle de la vitrine numérique

En fin de compte, l'injonction de San Francisco rappelle que les logiciels qui régissent nos vies ne sont pas une frontière sans loi. Le code qui alimente un iPhone ou un appareil Android est soumis aux mêmes règles sociétales que n'importe quel autre produit. Nous avons atteint un point où la littératie numérique nous oblige à regarder au-delà de l'interface intuitive d'une boutique d'applications pour voir les règles commerciales qui se cachent derrière. L'expérience organisée qui nous a été promise est une construction marketing. En pratique, la vitrine est un marché ouvert où l'objectif principal est la transaction.

Nous devrions observer nos propres habitudes numériques et nous demander pourquoi nous faisons confiance à ces plateformes de manière aussi implicite. La présence d'une application sur une boutique officielle n'est pas un sceau de qualité ou de sécurité. C'est le signe que le développeur a suivi un ensemble de spécifications techniques et a accepté de partager ses revenus. En tant qu'utilisateurs, nous devons exiger plus qu'une modération réactive. Nous devrions attendre des entreprises qui contrôlent l'infrastructure de nos vies numériques qu'elles soient aussi vigilantes sur notre sécurité qu'elles le sont sur leurs marges bénéficiaires. La ville de San Francisco a clairement fait savoir que l'ère de la dénégation plausible pour les géants de la technologie est révolue.

Sources :
San Francisco City Attorney's Office official correspondence
Tech Transparency Project April 2026 report
California Civil Code Section 1708.85
TechCrunch and Wired investigative reports