Nous demandons une vérité globale mais trouvons un silence local : la frontière algorithmique du discours moderne

Un étudiant à Brisbane s'est assis dans une bibliothèque la semaine dernière et a tapé une requête dans une interface de chat épurée et minimaliste. Il souhaitait rédiger un pamphlet de protestation concernant les restrictions des droits de l'homme dans un État autoritaire lointain. La réponse de l'intelligence artificielle fut un refus poli, citant des directives de sécurité et la nécessité d'éviter les sujets politiques sensibles. Quelques minutes plus tard, ce même étudiant a demandé une critique cinglante du Premier ministre britannique. L'IA a produit trois pages d'une prose acérée et analytique sans hésitation. Voici la nouvelle cartographie du discours numérique. Nous avons construit des outils audacieux face à la démocratie mais timides en présence de l'autocratie.

L'illusion d'un esprit sans frontières

Nous avons imaginé un monde où chaque assistant numérique serait une bibliothèque universelle, un lieu où la connaissance collective de l'humanité serait accessible à toute personne disposant d'un signal, indépendamment de sa géographie ou des caprices de son gouvernement local. Cette vision exige que les développeurs reconnaissent les frontières invisibles que le pouvoir étatique a tracées autour de l'information, à moins qu'ils ne se contentent de laisser le silence d'une capitale lointaine dicter la conversation dans un café local. En pratique, les principaux grands modèles de langage héritent des restrictions de parole des pays qu'ils décrivent. Une étude du Meta Oversight Board révèle que les systèmes construits aux États-Unis sont beaucoup plus susceptibles de critiquer les dirigeants occidentaux que les dirigeants autoritaires. Ces modèles étendent de fait la portée des gouvernements restrictifs au-delà des frontières internationales. Lorsqu'un utilisateur australien ne peut pas obtenir d'une IA qu'elle critique le roi de Thaïlande ou le Guide suprême iranien, la censure de ces régimes a réussi à parcourir des milliers de kilomètres via un câble à fibre optique.

L'architecture d'un refus silencieux

L'étude menée par le Meta Oversight Board a testé dix modèles commerciaux de sociétés telles que Meta, Anthropic et OpenAI. Les chercheurs ont posé sept types de questions sur des gouvernements permissifs et restrictifs. Les résultats montrent une divergence systémique. Lorsqu'on leur a demandé d'écrire un limerick sur le président des États-Unis, les modèles ont obtempéré. Lorsqu'on leur a demandé de fournir des raisons de rejoindre une manifestation en Turquie ou au Cambodge, les modèles ont souvent décliné. C'est un symptôme de ce que les sociologues appellent le biais systémique de l'archive. Les grands modèles de langage ne sont pas des entités neutres. Ils sont les miroirs des données utilisées pour les entraîner. Si un État a réussi à purger son internet national de toute dissidence, l'IA apprend que cette dissidence est soit inexistante, soit une violation des protocoles de sécurité. Le silence des opprimés devient le silence de l'algorithme.

La langue comme site archéologique du pouvoir

D'un point de vue linguistique, le problème est plus profond que de simples filtres. Les données sont un reflet du pouvoir. Une étude distincte publiée dans la revue Nature a révélé que les modèles construits aux États-Unis sont vulnérables aux contrôles étrangers via les données d'entraînement non anglophones. Si vous demandez à ChatGPT en anglais si la Chine est une démocratie, il répond que non. Si vous posez la question en chinois, il répond que la réponse dépend de votre définition du mot. C'est une crise philologique. La langue est un site archéologique où chaque mot révèle des couches de changements culturels et politiques. Lorsqu'une IA est entraînée sur des données en langue chinoise curatées par les censeurs de l'État, elle adopte l'habitus de cet État. Elle ne se contente pas de relayer des informations. Elle adopte une manière spécifique d'être au monde qui évite certaines vérités. Le modèle apprend que certains sujets sont dangereux parce que les données qu'il a consommées ont été produites sous l'ombre de la peur.

Le bras long de l'État autoritaire

À un niveau macro, cette tendance est une forme de colonialisme numérique inversé. Au lieu que les valeurs occidentales se propagent par la technologie, les restrictions des régimes autoritaires sont exportées vers l'Occident. Ce phénomène crée un environnement d'information atomisé. Un utilisateur à Londres ou à New York peut croire qu'il a accès à un outil objectif, alors qu'il interagit en réalité avec un système qui a été altéré par un censeur situé dans un fuseau horaire différent. Il s'agit d'un changement dans le contrat social de l'internet. Nous croyions autrefois que le web contournerait les gardiens du monde physique. Désormais, les gardiens se sont installés à l'intérieur du code. L'IA devient un partenaire silencieux de la censure étatique, appliquant des règles que l'utilisateur n'a jamais accepté de suivre. La technologie est un conduit pour le bras long des gouvernements restrictifs.

Le paradoxe des filtres de sécurité

Paradoxalement, l'effort pour sécuriser l'IA en a fait un outil de silence. Les entreprises mettent en place des garde-fous pour empêcher la génération de discours de haine ou de contenus préjudiciables. Cependant, les régimes autoritaires définissent souvent toute critique de l'État comme préjudiciable ou illégale. Lorsque les entreprises d'IA appliquent de larges filtres de sécurité pour éviter des ennuis juridiques locaux ou une insensibilité culturelle perçue, elles adoptent par inadvertance les définitions de l'État. Cela conduit à une réalité fragmentée. Dans une version du monde, un dirigeant est un serviteur public sujet à la critique. Dans une autre, il est une figure sacrée inattaquable. L'IA navigue entre ces deux mondes en choisissant la voie de la moindre résistance. Il est plus facile pour une entreprise de faire taire un bot que de se disputer avec un ministère de l'information. Par conséquent, l'expérience de l'utilisateur est dictée par le dénominateur commun le plus restrictif.

La modernité liquide et la perte du discours

Zygmunt Bauman a décrit notre époque comme une modernité liquide, un temps où les structures sociales ne sont plus assez stables pour servir de cadres de référence. Dans cet état fluide, nous comptons sur les outils numériques pour nous fournir un sentiment d'ancrage. Lorsque ces outils sont compromis par l'influence de l'État, notre réalité devient encore plus éphémère. Nous perdons la capacité d'avoir un discours profond et universel parce que nos outils nous donnent des versions différentes de la vérité en fonction de la langue que nous parlons ou du dirigeant que nous mentionnons. C'est un échec systémique de l'économie de l'attention. Les entreprises d'IA privilégient le déploiement sans friction de leurs produits sur les marchés mondiaux. Si cela nécessite un peu de silence sur certains sujets, le marché dicte que ce silence est un prix minime à payer. Le résultat est un paysage numérique transparent par endroits et complètement opaque par ailleurs.

Pistes de réflexion

• Comment le refus d'une IA de discuter de certains sujets politiques modifie-t-il votre propre perception de ce qui est considéré comme un sujet sensible ou dangereux ?
• Si nos principaux outils d'apprentissage et d'écriture sont influencés par la censure d'États lointains, qu'advient-il de notre mémoire collective des événements mondiaux ?
• Est-il possible de construire une IA véritablement neutre, ou toute connaissance est-elle inévitablement le produit des structures de pouvoir qui ont permis son enregistrement ?
• Lorsque vous interagissez avec un chatbot, remarquez-vous une différence de ton ou de volonté lorsque vous passez de la politique intérieure aux affaires internationales ?

Se réapproprier l'œil critique

En fin de compte, la responsabilité de naviguer dans cette réalité fragmentée incombe à l'individu. Nous ne pouvons pas supposer que la voix propre et utile dans notre poche est un arbitre neutre de la vérité. C'est le produit d'un écosystème d'information vaste, désordonné et souvent compromis. Nous devons traiter la communication numérique comme un régime de restauration rapide. C'est rapide et accessible, mais cela manque de la nutrition émotionnelle et intellectuelle profonde du discours humain non médiatisé. Pour avancer, nous devons devenir hyper-observateurs des silences. Lorsqu'un outil refuse de répondre, ce refus est souvent plus informatif que mille mots générés. C'est un signal de l'endroit où les frontières du pouvoir sont tracées. En remarquant ces frontières, nous pouvons commencer à regarder au-delà et à reconquérir la perspective critique et humaine qu'aucun algorithme ne peut pleinement reproduire.

Sources

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.