Pourquoi l'algorithme secret de votre entreprise est plus difficile à poursuivre que votre patron

Voici la réalité que les géants de la technologie préfèrent que vous ignoriez. Lorsqu'une entreprise licencie des milliers de personnes, vous pourriez supposer qu'un gestionnaire humain a examiné votre dossier, pesé vos contributions et fait un choix difficile. Dans le monde du travail moderne, c'est souvent un fantôme numérique qui effectue ce triage à la place. Ce fantôme est constitué de lignes de code, de scores de productivité et d'analyses comportementales qui décident de votre sort professionnel avant même qu'un humain ne voie la liste.

Une récente action en justice contre Meta Platforms révèle la montagne escarpée que les travailleurs doivent gravir lorsqu'ils soupçonnent un algorithme d'avoir pratiqué une discrimination à leur égard. Vingt-six anciens employés affirment que Meta s'est appuyée sur une intelligence artificielle biaisée pour sélectionner les personnes à licencier. Ces travailleurs allèguent que les systèmes ont ciblé les individus ayant pris un congé médical ou présentant un handicap. Cependant, leur lutte devant les tribunaux montre que si une IA peut vous licencier, le prouver est la partie la plus difficile du processus.

L'obstacle de la salle verrouillée

Dans une décision récente, le juge de district américain William Orrick a identifié le problème central pour ces plaignants. Il a noté que les travailleurs n'étaient tout simplement pas dans les salles où les décisions ont été prises. Cette phrase fait référence à la charge de la preuve. Dans une affaire de discrimination classique, un travailleur a besoin de preuves qu'un gestionnaire humain entretenait un parti pris ou a fait un commentaire spécifique et injuste. Lorsqu'une IA est impliquée, ces preuves sont enfouies dans un logiciel propriétaire que l'entreprise possède et garde jalousement.

Meta soutient que des humains ont pris chaque décision concernant les 8 000 licenciements annoncés plus tôt cette année. L'entreprise a nié avoir utilisé l'utilisation de jetons d'IA ou des scores de performance comme base pour licencier des personnes. Parce que les plaignants ne peuvent pas voir le code interne ou les ensembles de données exacts utilisés par Meta, ils peinent à fournir des faits qui contredisent la version des événements de l'entreprise. La loi exige qu'un plaignant démontre un lien plausible entre la technologie et le préjudice. Sans accès au logiciel, ce lien reste invisible.

La barrière silencieuse des accords d'arbitrage

La plupart des employés des grandes entreprises signent une pile de documents le premier jour sans y réfléchir à deux fois. Cachée dans ces documents se trouve souvent une clause d'arbitrage. Cette clause est un contrat légal par lequel vous renoncez à votre droit de poursuivre en justice devant un tribunal public. Au lieu de cela, vous acceptez de régler les litiges par un processus privé avec un arbitre rémunéré.

L'arbitrage fonctionne comme un tribunal fantôme privé. Il est confidentiel, ce qui empêche le public de voir les preuves d'actes répréhensibles de l'entreprise. Pour les travailleurs de Meta, cet accord est un obstacle massif. Il les empêche de former un recours collectif, c'est-à-dire lorsqu'un grand groupe de personnes poursuit ensemble pour partager les coûts et la puissance d'un procès. Lorsque les travailleurs doivent se battre seuls dans une salle privée, l'entreprise garde le dessus.

Comment les algorithmes suivent chacun de vos mouvements

La plainte décrit un lieu de travail où chaque frappe au clavier est un point de données. Les plaignants affirment que Meta a utilisé un assistant interne appelé Metamate et un « second cerveau » formé par les employés pour surveiller les communications et l'utilisation des documents. Ils allèguent également que l'entreprise a utilisé des scores de productivité tirés du contenu de l'écran, des courriels et de l'historique de navigation.

Si ces affirmations sont vraies, l'IA pourrait avoir signalé toute personne éloignée de son clavier comme « improductive ». Pour un travailleur prenant un congé familial protégé ou gérant une maladie chronique, ces lacunes dans les données ne sont pas des signes de mauvaise performance. Ce sont des absences légalement protégées. Le danger de l'IA est son incapacité à comprendre le contexte. Elle voit une baisse de jetons ou d'activité et attribue un score faible. L'humain qui signe finalement l'avis de licenciement pourrait ne voir que ce score, et non la raison médicale derrière la baisse.

Le miroir sans tain des données d'entreprise

La technologie agit comme un miroir sans tain. L'entreprise peut voir tout ce que fait l'employé, mais l'employé ne peut pas voir comment l'entreprise interprète ces données. Les avocats des travailleurs de Meta ont même demandé à des employés actuels et anciens de se manifester avec des informations. Cette démarche montre à quel point la recherche de preuves devient désespérée lorsque le décideur est un logiciel.

Meta détient pratiquement toutes les informations concernant le processus de sélection des licenciements. Dans le cadre juridique actuel, un juge est souvent tenu de croire l'entreprise sur parole, à moins que les travailleurs ne trouvent un lanceur d'alerte ou un document divulgué. La charge de la preuve agit comme un sac à dos lourd que l'employé doit porter en montée tandis que l'employeur détient les clés du casier à preuves.

Pourquoi la vague attendue de procès est un clapotis

Les analystes juridiques s'attendaient à une vague de procès liés à l'emploi et à l'IA d'ici maintenant, pourtant très peu ont atteint la salle d'audience. Le cas Meta est une exception rare. Un autre cas notable concerne Workday, une entreprise qui fournit des logiciels RH à d'autres entreprises. Des candidats affirment que les outils de Workday les ont filtrés en fonction de la race, de l'âge et du handicap. Cette affaire avance parce que les candidats à l'emploi n'ont généralement pas signé d'accords d'arbitrage avec le fournisseur de logiciels.

Pour les employés actuels, la situation est beaucoup plus précaire. La combinaison d'algorithmes secrets et d'arbitrage obligatoire crée une forteresse autour de la prise de décision en entreprise. Si vous ne pouvez pas voir comment l'IA fonctionne et que vous ne pouvez pas aller devant un tribunal public pour le découvrir, vos droits n'existent que sur le papier.

Comment se protéger dans un environnement de travail piloté par l'IA

Pendant que le système juridique rattrape la technologie, vous pouvez prendre des mesures pour constituer votre propre dossier. N'attendez pas un licenciement pour réfléchir à la manière dont votre performance est mesurée.

1. Demandez vos données. De nombreux États, dont la Californie, ont des lois qui permettent aux employés de voir leurs dossiers personnels et les données qu'une entreprise collecte sur eux. Utilisez ces demandes pour voir si vous avez un score de productivité interne.
2. Documentez vos congés. Si vous prenez du temps pour des raisons médicales ou des soins familiaux, gardez une trace écrite de l'approbation. Si l'on vous dit plus tard que vos « indicateurs » sont en baisse, vous aurez la preuve que ces indicateurs sont liés à une activité protégée.
3. Lisez vos contrats. Cherchez le mot « arbitrage » dans votre contrat de travail. Savoir que vous avez renoncé à votre droit à un procès devant jury est la première étape pour planifier une stratégie différente de résolution des litiges.
4. Conservez vos évaluations de performance. Imprimez ou enregistrez des copies des évaluations positives des gestionnaires humains. Si une IA vous classe plus tard comme un employé de dernier rang, la contradiction entre les éloges humains et les données algorithmiques constitue une preuve vitale.

L'affaire Meta n'est pas terminée. Le juge Orrick décidera fin août s'il convient de rendre une injonction préliminaire. S'il le fait, ce serait un moment historique pour les droits des travailleurs. Pour l'instant, cela sert d'avertissement qu'à l'ère de l'automatisation, la partie la plus importante de votre travail pourrait être les données que vous laissez derrière vous.

Sources

• U.S. District Court for the Northern District of California: Meta Platforms Layoff Litigation
• Fair Labor Standards Act (FLSA)
• Americans with Disabilities Act (ADA)
• Federal Arbitration Act (FAA)
• California Consumer Privacy Act (CCPA) regarding employee data access

Avertissement : Cet article est uniquement à des fins d'information et d'éducation. Il ne constitue pas un conseil juridique formel. Les lois concernant l'IA et l'emploi évoluent rapidement et varient selon les juridictions. Si vous pensez avoir été licencié injustement ou avoir fait l'objet d'une discrimination, vous devriez consulter un avocat qualifié dans votre juridiction pour discuter des spécificités de votre situation.