La répression à un milliard de dollars contre les fonctionnalités qui vous incitent au défilement infini

Une amende de douze milliards de dollars suffit à attirer l'attention de n'importe quelle entreprise technologique, même la plus grande de la planète. Ce chiffre représente la sanction maximale à laquelle Meta s'expose alors que la Commission européenne s'apprête à démanteler les éléments de conception qui rendent Facebook et Instagram addictifs. Les régulateurs de Bruxelles ont récemment publié des conclusions préliminaires indiquant que Meta a violé la législation sur les services numériques (Digital Services Act). L'enquête conclut que l'entreprise a intentionnellement conçu des fonctionnalités pour maintenir les utilisateurs dans un état de consommation compulsive. Cette affaire marque un tournant significatif dans la manière dont la loi traite la conception de l'expérience utilisateur. Elle s'éloigne d'une vision où les habitudes sur les réseaux sociaux relèvent de la volonté personnelle pour traiter la conception des plateformes comme une question de santé publique.

Pendant des années, les parents et les défenseurs de la santé mentale ont averti que les plateformes de réseaux sociaux fonctionnent comme des machines à sous numériques. La Commission européenne est désormais d'accord avec ce constat. La législation sur les services numériques est le cadre juridique qui rend cette application possible. Elle traite les grandes entreprises technologiques comme des architectes numériques. Tout comme un bâtiment physique doit comporter des sorties de secours et des cages d'escalier sûres, une plateforme numérique doit avoir une conception qui ne nuit pas à ses occupants. La Commission estime que Meta a manqué à son devoir de diligence en ignorant les risques que ses interfaces font peser sur le bien-être mental des enfants et des adultes vulnérables.

La mécanique de l'addiction numérique

L'enquête se concentre sur plusieurs fonctionnalités de base que la plupart des utilisateurs considèrent comme acquises. La première est le défilement infini (infinite scroll). Ce choix de conception supprime les points d'arrêt naturels qui existent dans les formes de médias plus anciennes, comme la fin d'un chapitre ou la dernière page d'un journal. Sans ces repères, le cerveau humain a du mal à réaliser quand il est temps de s'arrêter. La Commission décrit cela comme le passage des utilisateurs en mode "pilote automatique". Lorsqu'il y a toujours plus de contenu à portée de pouce, la décision de quitter la plateforme devient beaucoup plus difficile à prendre pour l'utilisateur moyen.

La lecture automatique (autoplay) est la deuxième cible principale. Cette fonctionnalité garantit que dès qu'une vidéo se termine, la suivante commence immédiatement. Elle supprime le moment du choix. Dans un contexte réglementaire, il s'agit d'un problème majeur car elle outrepasse l'intention de l'utilisateur. Si vous ouvrez une vidéo pour regarder un clip spécifique de trente secondes, la plateforme utilise la lecture automatique pour vous retenir pendant trente minutes. La Commission soutient que ce choix de conception n'est pas un service neutre, mais un outil délibéré pour maximiser l'engagement au détriment de la santé de l'utilisateur.

Pourquoi la loi intervient maintenant

La législation sur les services numériques est devenue pleinement applicable aux très grandes plateformes en ligne en 2023. Cette loi exige que des entreprises comme Meta réalisent des évaluations de risques annuelles. Elles doivent identifier comment leurs systèmes pourraient entraîner des effets négatifs sur la santé mentale ou la sécurité physique. La Commission a constaté que Meta a ignoré des données internes concernant la manière dont les adolescents utilisent leurs applications tard dans la nuit. Les propres recherches de Meta ont montré que des fonctionnalités telles que les "reels" et les "stories" sont particulièrement efficaces pour alimenter une utilisation compulsive, pourtant l'entreprise n'a pas ajusté la conception pour atténuer ces risques.

Meta avait précédemment introduit des outils de gestion du temps pour se défendre contre ces critiques. Cependant, les enquêteurs ont trouvé ces outils inefficaces. La plupart des rappels de temps d'écran sont faciles à ignorer d'une simple pression. La Commission a également noté que les contrôles parentaux sont trop complexes pour l'utilisateur moyen. Pour qu'une fonction de sécurité soit juridiquement conforme à la législation sur les services numériques, elle doit être accessible et efficace pour tous, et pas seulement pour ceux qui possèdent une grande expertise technique. La loi considère qu'une fonction de sécurité que personne n'utilise est une fonction de sécurité qui n'existe pas.

Changements proposés pour votre fil d'actualité

La Commission européenne ne demande pas seulement une amende. Elle exige des changements structurels dans le fonctionnement de ces applications. Ces exigences modifieraient fondamentalement l'expérience utilisateur de millions de personnes à travers l'Europe. Si ces demandes deviennent contraignantes, les paramètres par défaut de Facebook et Instagram devront changer. Les utilisateurs n'entreraient plus par défaut dans une boucle sans fin de contenu. Au lieu de cela, les applications incluraient des pauses obligatoires et des systèmes de recommandation plus transparents.

Ces changements représentent un passage vers ce que les régulateurs appellent la « sécurité dès la conception » (safety by design). L'objectif est de déplacer le fardeau de la protection de l'utilisateur individuel vers l'entreprise qui possède la plateforme. Dans le système actuel, l'utilisateur est responsable de résister à l'ingénierie psychologique la plus sophistiquée au monde. Dans le nouveau système proposé, la plateforme est responsable de s'assurer que son ingénierie n'est pas prédatrice.

Le chemin juridique à venir pour Meta

Il s'agit d'une conclusion préliminaire, ce qui signifie que Meta a la possibilité de défendre ses pratiques. L'entreprise soutiendra probablement que ses plateformes apportent de la valeur et que les utilisateurs apprécient ces fonctionnalités. Elle pourra également mettre en avant les initiatives de sécurité existantes comme preuve de son engagement envers la santé des utilisateurs. Cependant, la charge de la preuve est élevée. La législation sur les services numériques exige que les plateformes prouvent qu'elles ont pris toutes les mesures raisonnables pour atténuer les risques systémiques. Le simple fait d'avoir une politique en place ne suffit pas si les données montrent que cette politique ne fonctionne pas dans la pratique.

Si la Commission confirme ses conclusions, les conséquences financières sont colossales. Une amende de 6 % du chiffre d'affaires mondial est le plafond légal. Pour Meta, cela représenterait plus de 11 milliards de dollars sur la base des récentes projections de revenus. Il ne s'agit pas d'une simple tape symbolique sur les doigts. C'est une sanction financière conçue pour changer le comportement des entreprises. La Commission signale qu'elle n'accepte plus la mentalité du « move fast and break things » (avancer vite et tout casser) lorsque les choses brisées sont la santé mentale et les cycles de sommeil d'une génération entière.

Comment cela affecte l'utilisateur moyen

Il n'est pas nécessaire d'être avocat pour voir l'impact de ces réglementations. Même si vous vivez en dehors de l'Union européenne, ces changements se répercutent souvent sur d'autres marchés. Les entreprises technologiques trouvent coûteux de maintenir des versions différentes de leurs logiciels pour chaque pays. Lorsque l'UE exige un changement dans l'architecture de base d'Instagram, Meta met souvent en œuvre ces changements à l'échelle mondiale pour simplifier ses opérations. Vous pourriez bientôt remarquer que votre fil d'actualité comporte des points d'arrêt plus naturels ou que vous recevez moins de notifications pendant la nuit.

Pour l'instant, vous pouvez prendre des mesures pour protéger votre propre bien-être numérique en utilisant les principes mis en avant par la Commission. Vous n'avez pas besoin d'attendre une décision de justice pour désactiver la lecture automatique dans vos paramètres. Vous pouvez également désactiver les notifications non essentielles pour reprendre le contrôle de votre attention. La loi rattrape enfin la réalité de l'addiction numérique, mais les outils pour gérer votre propre utilisation sont déjà entre vos mains.

Votre liste de contrôle des droits numériques

Pour mieux gérer votre interaction avec ces plateformes pendant que la bataille juridique se poursuit, envisagez ces étapes pratiques :

• Auditez vos paramètres de notification et coupez tout, sauf les messages directs de personnes réelles.
• Activez un filtre en niveaux de gris sur votre téléphone pendant les heures de soirée pour rendre l'interface colorée moins stimulante.
• Utilisez le fil « Suivi(e)s » au lieu du fil « Pour vous » pour voir le contenu de personnes que vous connaissez réellement.
• Activez le « Mode silencieux » sur Instagram pour couper automatiquement les notifications pendant les heures de sommeil.
• Consultez le centre de confidentialité et de sécurité de vos applications pour voir quelles fonctionnalités vous pouvez désactiver manuellement.

En fin de compte, la Commission européenne agit comme un bouclier numérique pour les consommateurs. En remettant en question la logique même de la conception axée sur l'engagement, les régulateurs forcent une conversation sur les limites éthiques de la technologie. La loi est claire : le droit d'une plateforme à réaliser des profits ne l'emporte pas sur le droit d'un utilisateur à la santé. Cette affaire créera un précédent pour toutes les autres entreprises de réseaux sociaux opérant dans le monde moderne.

Sources :

• Digital Services Act (Regulation (EU) 2022/2065)
• European Commission Press Release on Meta Non-Compliance Findings
• EU Audiovisual Media Services Directive

Avertissement : Cet article fournit des informations générales sur les développements juridiques actuels et les réglementations numériques. Il ne constitue pas un conseil juridique formel. Si vous avez des inquiétudes concernant vos droits légaux ou votre confidentialité numérique, veuillez consulter un professionnel du droit qualifié dans votre juridiction.