La Déclaration Pro-Humaine' : Une feuille de route bipartisane pour l'ère de la superintelligence

Le récent différend entre le Pentagone et Anthropic a mis à nu une réalité que beaucoup dans la Silicon Valley et à Washington ont tenté d'ignorer : nous naviguons à vue. Alors que l'establishment de la défense et les laboratoires privés s'affrontent sur les limites de la sécurité nationale et de l'autonomie des entreprises, un vide de leadership est apparu. C'est dans ce vide que s'inscrit la Déclaration Pro-Humaine, un cadre élaboré par une coalition bipartisane de chercheurs, d'éthiciens et de vétérans de l'industrie qui soutiennent que si le gouvernement ne fixe pas les règles, le peuple doit le faire.

Organisée en partie par le physicien du MIT Max Tegmark, la déclaration est arrivée juste au moment où l'impasse entre le département de la Défense et l'un des principaux laboratoires d'IA au monde atteignait son paroxysme. Il ne s'agit pas d'une simple lettre ouverte de plus ; c'est un plan technique et éthique pour un monde où la superintelligence n'est plus un trope de science-fiction, mais une étape imminente.

La crise de la gouvernance

Pendant des années, l'approche de la réglementation de l'IA a été réactive. La législation accuse souvent un retard sur la vitesse fulgurante de l'entraînement des modèles, laissant les développeurs s'autoréguler. L'incident Pentagone-Anthropic — où une rupture de communication concernant l'accès aux modèles et les protocoles de sécurité a conduit à une rupture publique des liens — démontre que même les partenariats aux enjeux les plus élevés sont fragiles sans règles d'engagement claires et standardisées.

Max Tegmark note que la patience du public a atteint un point de rupture. Des données récentes suggèrent que 95 % des Américains s'opposent désormais à une course non réglementée vers la superintelligence. Il ne s'agit pas seulement d'une peur des « robots tueurs » ; c'est une préoccupation rationnelle concernant le déplacement économique, l'érosion de la vérité et la perte de l'agence humaine dans les processus de décision qui régissent nos vies.

Les piliers du cadre pro-humain

La Déclaration Pro-Humaine va au-delà des vagues platitudes sur « l'IA pour le bien ». Au lieu de cela, elle propose trois piliers concrets conçus pour garantir que, à mesure que les systèmes deviennent plus performants, ils restent fermement sous contrôle humain.

1. Tampons de sécurité obligatoires : Avant tout déploiement d'un modèle dépassant un seuil de calcul spécifique, il doit subir un audit par une tierce partie indépendante du développeur et du gouvernement. Cela évite le problème du « devoir noté par l'élève lui-même » actuellement répandu dans l'industrie.
2. Le droit à l'agence humaine : La déclaration affirme que certaines décisions — jugements juridiques, force létale et diagnostics médicaux — doivent toujours comporter un « humain dans la boucle » qui assume la responsabilité ultime. L'IA doit suggérer, mais l'humain doit décider.
3. Transparence de l'intention : Les développeurs doivent être transparents non seulement sur ce que fait un modèle, mais aussi sur la manière dont il a été entraîné et quels sont ses objectifs d'optimisation. Si un modèle est conçu pour maximiser l'engagement au détriment de l'exactitude, cela doit être de notoriété publique.

Comparaison du paysage actuel avec la feuille de route pro-humaine

Pour comprendre le changement que propose cette déclaration, nous pouvons examiner comment les pratiques actuelles de l'industrie se comparent au cadre proposé.

Pourquoi l'impasse Pentagone-Anthropic est importante

La collision de la Déclaration Pro-Humaine avec les récentes difficultés du Pentagone n'est pas une coïncidence. Le complexe militaro-industriel est avide des capacités des grands modèles de langage (LLM) et des agents autonomes, mais il manque d'expertise interne pour les évaluer. Inversement, des laboratoires comme Anthropic craignent que leur technologie ne soit utilisée d'une manière qui viole leurs principes fondamentaux de sécurité.

Sans une feuille de route unifiée, nous nous retrouvons avec un paysage fragmenté où certains laboratoires coopèrent avec l'État selon des termes opaques, tandis que d'autres se retirent dans l'isolement. Cette fragmentation est dangereuse. Elle crée des « paradis réglementaires » où la sécurité est sacrifiée au profit de la vitesse, et elle laisse le public entièrement à l'écart de la conversation.

Points clés pratiques : que se passe-t-il ensuite ?

Bien que la Déclaration Pro-Humaine ne soit pas encore une loi, elle fournit une liste de contrôle de ce à quoi devrait ressembler un développement responsable de l'IA dans les mois à venir. Pour les leaders technologiques et les citoyens concernés, les étapes suivantes sont critiques :

• Exiger des audits indépendants : Soutenir les initiatives qui retirent les tests de sécurité des mains des entreprises qui construisent les modèles.
• Plaider pour une législation « Humain dans la boucle » : Garantir que l'automatisation à enjeux élevés nécessite toujours une signature humaine.
• Surveiller les seuils de calcul : Garder un œil sur les clusters de matériel massifs en cours de construction ; ce sont les sites physiques où naîtra la prochaine génération de superintelligence, et ils nécessitent une surveillance physique.
• Combler le fossé bipartisan : La force de cette nouvelle feuille de route réside dans son large soutien. La sécurité de l'IA ne devrait pas être une question partisane, car les risques de désalignement affectent tout le monde, quelle que soit l'affiliation politique.

La voie à suivre

La Déclaration Pro-Humaine est un rappel que l'avenir de l'intelligence est trop important pour être laissé à une poignée de PDG et de généraux. C'est un appel à une approche plus démocratique, transparente et — surtout — centrée sur l'humain pour la technologie la plus transformative de notre époque. La feuille de route est sur la table ; la seule question qui reste est de savoir si ceux qui sont au pouvoir choisiront de la suivre.

Sources :

• Future of Life Institute: AI Policy and Governance Research
• MIT News: Max Tegmark on AI Safety and the Future of Intelligence
• Anthropic: Core Views on AI Safety and Model Scaling
• Department of Defense: Ethical Principles for Artificial Intelligence