Le plus grand danger pour le progrès de l'IA est le mot « sécurité » lui-même

Alors que la plupart des gens pensent que la sécurité de l'IA est un bouclier destiné à protéger le public contre les logiciels malveillants, Andy Konwinski soutient que le terme est en réalité un masque pour la consolidation des entreprises. Le cofondateur de Perplexity AI et de Databricks affirme que la pression actuelle en faveur d'une réglementation stricte de l'IA a moins à voir avec le salut de l'humanité qu'avec la sécurisation d'un monopole. Pour l'utilisateur moyen, ce débat déterminera si la prochaine décennie d'outils numériques restera ouverte et compétitive ou deviendra un jardin clos contrôlé par quelques laboratoires massifs.

En regardant la situation dans son ensemble, cette tension a atteint un point d'ébullition cette semaine. Konwinski a publié un essai intitulé « La concentration du pouvoir dans l'IA est un risque, pas une solution », qui remet en question le récit selon lequel le contrôle centralisé est le seul moyen de gérer une technologie puissante. Son argument fait suite à un rassemblement de chercheurs de haut niveau à San Francisco, où l'ambiance était au scepticisme face à l'altruisme soudain des leaders de l'industrie. Le consensus parmi ces experts est que l'argument de la sécurité devient un moyen pratique d'empêcher quiconque de construire une IA de pointe.

Un poison silencieux dans la machine

Le principal élément de preuve dans cet argument est une initiative récente d'Anthropic. Lorsque l'entreprise a lancé son modèle Claude Fable 5 en juin, elle a inclus un mécanisme spécifique dans sa fiche système. Ce mécanisme était conçu pour détecter si un utilisateur utilisait le modèle pour entraîner une IA concurrente. Si le système soupçonnait cela, il dégradait silencieusement la qualité de ses propres réponses. Le modèle ne s'arrêtait pas de fonctionner, mais il devenait moins précis et moins utile sans dire à l'utilisateur pourquoi.

Ce choix marque un changement significatif dans la manière dont les entreprises technologiques gèrent leur propriété intellectuelle. Historiquement, une entreprise pouvait poursuivre un concurrent en justice ou bloquer entièrement son accès. Anthropic a choisi de laisser l'utilisateur continuer à payer pour le service tout en fournissant un produit défectueux. Bien que l'entreprise soit revenue sur sa décision dans les deux jours suivant un tollé général, Konwinski soutient que le mal résidait dans l'intention. Il estime qu'Anthropic s'est arrogé le droit de régir la manière dont les gens utilisent l'intelligence qu'ils paient, en utilisant la sécurité comme justification ultime.

Pratiquement parlant, cela crée un problème de transparence. Si un modèle peut discrètement modifier son comportement en fonction de qui pose la question, la fiabilité de l'outil disparaît. Un chercheur ou un propriétaire de petite entreprise n'a aucun moyen de savoir s'il reçoit les meilleures données possibles ou une version bridée destinée à protéger la part de marché du fournisseur. C'est ce que Konwinski appelle le risque de centralisation du pouvoir. Lorsqu'un seul laboratoire possède l'unique clé d'un modèle de pointe, il a le pouvoir de décider qui réussit et qui échoue.

À qui appartient le chemin de fer numérique

Pour comprendre pourquoi cela importe pour l'utilisateur quotidien, nous devrions considérer l'IA comme une infrastructure fondamentale. L'IA est le pétrole brut numérique du XXIe siècle. Tout comme les chemins de fer au XIXe siècle ou l'électricité au XXe, l'IA est la couche sous-jacente qui permet à tout le reste de fonctionner. Si vous contrôlez le chemin de fer, vous contrôlez le prix de chaque marchandise qui y circule. Si vous contrôlez les modèles d'IA fondamentaux, vous contrôlez le coût et les capacités de chaque application, site web et service qui en dépend.

L'inquiétude de Konwinski est que la trajectoire actuelle mène à un monde où seules trois ou quatre entreprises possèdent ces voies numériques. Ces entreprises utilisent les préoccupations de sécurité pour faire pression en faveur de lois qui rendent presque impossible pour les startups ou les universités de construire leurs propres modèles de pointe. Le coût de la mise en conformité et les exigences matérielles créent une barrière que seules les plus grandes entreprises peuvent franchir. En conséquence, l'innovation qui provient habituellement des développeurs indépendants est étouffée.

Sous le capot, cette centralisation crée une vulnérabilité systémique. Si chaque application majeure d'IA est construite sur les deux ou trois mêmes modèles, une seule défaillance ou une mise à jour biaisée dans l'un de ces modèles affecte l'ensemble de l'économie. Un système décentralisé, où de nombreux modèles différents existent, est plus résilient. Il permet plus de variété et empêche un seul conseil d'administration d'entreprise de devenir le gardien de l'information mondiale.

Le prix de la demande de permission

L'impact de ce contrôle est déjà visible dans les cercles académiques. Jennifer Chayes, doyenne de l'informatique à l'UC Berkeley, a noté que les chercheurs occidentaux se tournent de plus en plus vers les modèles open-source chinois. Ils le font parce que des entreprises occidentales comme OpenAI et Anthropic ont verrouillé leurs outils les plus puissants derrière des interfaces restrictives. Ces laboratoires ne permettent pas aux chercheurs de voir comment les modèles sont construits ni de les exécuter sur leur propre matériel.

Cela crée un paradoxe. Alors que les États-Unis et leurs alliés discutent de sécurité, ils poussent leurs propres scientifiques de haut niveau dans les bras de concurrents étrangers qui offrent plus de transparence. Chayes a décrit les messages de sécurité des grands laboratoires comme une campagne de peur très efficace. Cette campagne sert à augmenter la valorisation de ces entreprises avant leurs introductions en bourse tout en rendant plus difficile pour les institutions publiques de suivre le rythme. Pour le consommateur, cela signifie que la technologie la plus avancée pourrait éventuellement provenir d'endroits ayant encore moins de surveillance que les laboratoires privés de la Silicon Valley.

Les leçons de l'imprimerie

Yann LeCun, fondateur d'AMI Labs et ancien scientifique en chef chez Meta, propose une comparaison historique pour ce moment. Il compare la tentative actuelle de réguler l'IA à l'Empire ottoman interdisant l'imprimerie. Pendant 200 ans, l'empire a restreint la technologie pour maintenir le contrôle sur l'information et protéger les emplois des scribes professionnels. Cette décision a causé le déclin de l'empire en matière de science, d'alphabétisation et de croissance économique.

LeCun soutient que l'infrastructure veut être ouverte. Il pense que les modèles de fondation deviendront inévitablement une commodité, tout comme le protocole Internet ou le système d'exploitation Linux. Selon lui, la véritable valeur ne réside pas dans le modèle lui-même, mais dans les applications que les gens construisent par-dessus. En essayant de verrouiller les modèles maintenant, les entreprises ne font que retarder l'inévitable et nuisent à l'écosystème global. LeCun a récemment lancé AMI Labs avec plus d'un milliard de dollars de financement pour poursuivre une voie différente. Son objectif est de construire des modèles mondiaux basés sur une nouvelle architecture que son équipe prévoit de partager avec le public.

Un bien commun pour la prochaine frontière

La solution de Konwinski est la création d'un bien commun de recherche (research commons). Il s'agirait d'un pool partagé de puissance de calcul et de données disponible pour les meilleurs chercheurs sans avoir besoin de la permission d'une entreprise privée. Cela permettrait aux universités et aux petits laboratoires d'atteindre la frontière du développement de l'IA. Cela garantirait que la technologie la plus puissante au monde ne soit pas la propriété exclusive de quelques actionnaires.

Du point de vue du consommateur, une frontière ouverte signifie plus de choix. Cela signifie que l'IA sur votre téléphone ou dans votre bureau n'est pas seulement le porte-parole de la vision du monde d'une seule entreprise. Cela permet un marché où différents modèles s'affrontent sur la précision, la confidentialité et les connaissances spécialisées. Lorsque la technologie sous-jacente est transparente, les utilisateurs peuvent vérifier que leurs données sont traitées correctement et que les réponses qu'ils reçoivent ne sont pas manipulées à des fins lucratives.

Pourquoi vos choix numériques se restreignent

En fin de compte, le débat sur la sécurité de l'IA est un débat sur qui peut participer à l'avenir. Si le récit de la sécurité comme verrouillage l'emporte, l'utilisateur moyen sera probablement confronté à des coûts d'abonnement plus élevés et à moins d'options. Vous serez lié à un écosystème spécifique, un peu comme aux débuts de la téléphonie mobile où changer de fournisseur était un cauchemar. Votre assistant IA ne saura que ce que sa société mère lui permet de savoir.

Inversement, si la poussée pour une frontière ouverte réussit, l'IA devient un service public que tout le monde peut utiliser et améliorer. Cela conduit à des outils plus spécialisés qui résolvent des problèmes spécifiques pour les individus plutôt qu'à des produits universels. Cela force également les laboratoires géants à rivaliser sur le mérite plutôt que sur leur capacité à faire pression pour obtenir des réglementations protectrices. L'essentiel est que la sécurité est un défi technique à résoudre, et non une justification pour une aristocratie numérique.

Au lieu d'accepter les étiquettes de sécurité au pied de la lettre, les consommateurs devraient vérifier si une entreprise autorise l'audit indépendant de ses outils. La véritable sécurité provient de la transparence et de la capacité de la communauté mondiale de recherche à inspecter et à corriger les erreurs. Alors que l'IA continue de s'intégrer dans tous les aspects de la vie, l'exigence de systèmes ouverts et responsables est le seul moyen de garantir que la technologie serve le plus grand nombre au lieu de quelques-uns.

Sources : Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.