Pourquoi l'Italie vient de forcer les géants de l'IA à admettre que leurs robots peuvent avoir des hallucinations

Dans notre vie quotidienne, nous disposons d'un certain seuil de confiance. Si un bibliothécaire vous remet un livre d'histoire, vous supposez que les dates sont exactes. Si un médecin vous donne une ordonnance, vous avez la certitude qu'il ne s'agit pas d'une œuvre de fiction créative. Mais à l'ère du numérique, nous avons commencé à confier nos requêtes à l'intelligence artificielle — des outils qui ressemblent souvent à des oracles omniscients, mais qui se comportent parfois davantage comme un conteur plein d'assurance qui aurait oublié l'intrigue.

En vertu du droit des contrats et des cadres de protection des consommateurs, cet écart entre l'attente et la réalité est plus qu'un simple problème technique ; c'est un champ de mines juridique. C'est précisément la raison pour laquelle l'Autorité italienne de la concurrence (AGCM) a récemment conclu trois enquêtes de haut niveau sur DeepSeek, Mistral et NOVA AI. Le problème central ? Le phénomène connu sous le nom d'« hallucinations » — ces moments où une IA affirme une contre-vérité avec l'assurance inébranlable d'un avocat chevronné.

Le gardien du jardin numérique

Pour comprendre cette affaire, il faut d'abord s'intéresser à l'AGCM. Considérez ce régulateur comme le bouclier du consommateur dans un marché où les géants détiennent généralement toutes les cartes. Ils ne sont pas là pour étouffer l'innovation, mais pour s'assurer que le « pont » entre les promesses d'une entreprise et l'expérience d'un utilisateur ne comporte pas de trappe au milieu.

Les enquêtes ont porté sur la question de savoir si ces entreprises d'IA étaient suffisamment transparentes vis-à-vis des citoyens italiens. Lorsqu'une IA génère une fausse citation juridique ou un fait médical inexistant, qui est responsable ? Si l'entreprise ne vous a pas averti que le logiciel peut inventer des choses, elle pourrait se livrer à ce que la loi appelle une « pratique commerciale déloyale ». Il ne s'agit pas d'une simple réprimande ; dans un contexte réglementaire, le fait de ne pas informer les utilisateurs des défauts fondamentaux d'un produit peut rendre l'ensemble du modèle de service d'une entreprise juridiquement précaire.

Les hallucinations comme responsabilité juridique

Aux yeux de la loi, une hallucination n'est pas seulement une bizarrerie de l'apprentissage automatique ; c'est une violation potentielle du devoir de diligence. Pour une personne moyenne utilisant ces outils pour le travail ou les études, une réponse fausse n'est pas seulement ennuyeuse — elle peut faire l'objet d'un recours si elle entraîne un préjudice dans le monde réel.

Au lieu de mener une bataille prolongée devant les tribunaux, qui peut s'apparenter à un marathon de litiges, DeepSeek, Mistral et NOVA AI ont choisi une autre voie : elles ont proposé des engagements contraignants. Il s'agit essentiellement de promesses formelles faites au régulateur de modifier leur comportement en échange de la clôture de l'enquête sans amende. C'est une sorte de traité de paix, mais avec du mordant. Si ces entreprises rompent ces promesses, elles s'exposent à des sanctions statutaires massives.

Les trois piliers de l'accord

Qu'est-ce que cela signifie pour vous lorsque vous vous connecterez à ces plateformes demain ? L'AGCM a obtenu plusieurs concessions qui donnent la priorité à l'utilisateur vulnérable par rapport au jargon juridique des entreprises.

1. Avertissements permanents en italien : Auparavant, de nombreux avertissements étaient enfouis dans des documents de conditions de service de 50 pages rédigés dans un langage juridique dense. Désormais, ces entreprises doivent fournir des avertissements explicites et permanents au sein même de l'interface utilisateur — et ils doivent être en italien. Il n'est plus question de se cacher derrière la barrière de la langue.
2. Clarté précontractuelle : Avant même que vous ne cliquiez sur « Accepter », les entreprises doivent fournir des informations solides sur les limites de la technologie. C'est comme l'avertissement sur un paquet de cigarettes, mais pour l'information. Il vous indique clairement : Ce contenu peut être peu fiable ; la vérification relève de votre responsabilité.
3. Responsabilité technologique : DeepSeek, plus précisément, s'est engagé à investir dans l'atténuation réelle de ces hallucinations. Cela déplace la question d'un simple « murmure juridique » en petits caractères vers une exigence d'ingénierie systémique.

La clause DeepSeek : Investir dans la vérité

Curieusement, l'AGCM n'a pas seulement demandé de meilleures étiquettes sur la boîte. Elle a regardé sous le capot. L'engagement de DeepSeek en faveur de l'investissement technologique est particulièrement remarquable. Il suggère qu'à l'avenir, se contenter de dire « désolé, nous ne sommes qu'une IA » ne sera plus un filet de sécurité suffisant. Les régulateurs commencent à exiger que les entreprises travaillent activement à réduire la fréquence de ces erreurs, en les traitant comme un défaut du produit plutôt que comme un mystère inévitable.

Cela crée un précédent puissant. Cela indique au monde de la technologie que si vous lancez un outil sur le marché européen — et plus particulièrement dans la juridiction italienne — vous êtes responsable de la « sécurité intellectuelle » de vos utilisateurs. Si votre produit a le potentiel de fournir des conseils négligents, vous devez non seulement avertir l'utilisateur, mais aussi démontrer que vous essayez de résoudre le problème.

Pourquoi cela compte pour le citoyen ordinaire

En tant que votre guide juridique, je vois souvent des cas où des individus se retrouvent démunis parce qu'ils ont fait confiance au marketing d'une entreprise plutôt qu'à la réalité du service. Que vous soyez un étudiant rédigeant un essai ou un propriétaire de petite entreprise rédigeant un contrat, ces décisions de l'AGCM sont une victoire pour vous.

Elles déplacent la charge de la preuve. En forçant ces entreprises à la transparence, la loi rend plus difficile pour elles de se cacher derrière des excuses du type « c'est une version bêta ». Si une entreprise ne parvient pas à afficher ces avertissements obligatoires et que vous subissez une perte à cause d'une hallucination, votre position juridique pour demander réparation devient beaucoup plus forte. Vous pouvez pointer du doigt ces engagements et dire : « Ils connaissaient le risque et ne m'ont pas prévenu comme l'exigeait le régulateur. »

Aller de l'avant : Votre liste de contrôle pour la sécurité de l'IA

Même avec ces nouvelles règles, le délai de prescription de votre propre bon sens n'expire jamais. Voici comment vous pouvez vous protéger pendant que la technologie rattrape la loi :

• Vérifiez, ne faites pas seulement confiance : Traitez les résultats de l'IA comme un « premier brouillon » ou un ensemble de suggestions. Ne les traitez jamais comme un fait final et contraignant sans une vérification secondaire auprès d'une source réputée.
• Cherchez l'avertissement : Si vous ne voyez pas d'avertissement clair concernant les hallucinations dans l'interface, procédez avec une extrême prudence. L'absence d'avertissement pourrait en fait être le signe d'une plateforme moins fiable (et moins conforme).
• Documentez les erreurs : Si une IA vous donne une réponse dangereusement erronée, prenez une capture d'écran. Cela peut constituer une preuve vitale si vous devez un jour déposer une plainte auprès d'une agence de protection des consommateurs.
• Lisez la section « À propos » : Recherchez les informations spécifiques en langue italienne désormais imposées par l'AGCM. Ces sections vous donneront souvent un aperçu plus honnête des limites du modèle que les slogans marketing de la page d'accueil.

En fin de compte, la décision de l'AGCM rappelle que la loi n'est pas une relique statique ; c'est un organisme vivant qui s'adapte aux nouveaux défis. En levant le voile sur les hallucinations de l'IA, les autorités italiennes ont veillé à ce que, si la technologie peut être artificielle, les protections juridiques pour les personnes qui l'utilisent restent bien réelles.

Sources :

• Bulletins de cas de l'Autorité italienne de la concurrence (AGCM) (mise à jour de mai 2026).
• Code de la consommation italien (Codice del Consumo), article 21 sur les pratiques commerciales déloyales.
• Loi sur l'IA de l'UE (obligations de transparence pour l'IA à usage général).
• Directive 2005/29/CE relative aux pratiques commerciales déloyales des entreprises vis-à-vis des consommateurs.

Avertissement : Cet article est fourni à des fins d'information et d'éducation uniquement et ne constitue pas un conseil juridique formel. Les réglementations sur l'IA sont un domaine en évolution rapide ; si vous pensez avoir été lésé par des informations trompeuses provenant d'un service d'IA, veuillez consulter un avocat qualifié dans votre juridiction pour discuter des spécificités de votre cas.