Einblick in das KI-Trainingsprojekt, das jeden Mausklick in Unternehmenseigentum verwandelt

Vor einigen Monaten erhielten Meta-Mitarbeiter in den Vereinigten Staaten eine Benachrichtigung über ein neues internes Projekt namens Model Capability Initiative, kurz MCI. Oberflächlich betrachtet klang es wie ein standardmäßiges technisches Upgrade: ein Werkzeug, das dem Unternehmen helfen soll, bessere KI-Agenten zu entwickeln. Doch als die Software im Hintergrund von Tausenden von Firmen-Laptops zu laufen begann, entpuppte sich die Realität des Projekts weniger als Upgrade, sondern vielmehr als digitales Schleppnetz.

Metas Ziel ist ehrgeizig. Sie wollen KI-Modelle darauf trainieren, als autonome Agenten zu agieren – Software, die komplexe Benutzeroberflächen navigieren, Formulare ausfüllen und Arbeitsabläufe genau wie ein Mensch verwalten kann. Um dies zu erreichen, benötigen sie Daten. Nicht irgendwelche Daten, sondern die granularen, sekündlichen Bewegungen von professionellen Wissensarbeitern. Jeder Mausklick, jedes Scrollen durch ein Dropdown-Menü und jeder Wechsel zwischen Anwendungen wird als Trainingsmaterial für die nächste Generation der künstlichen Intelligenz des Unternehmens geerntet.

Was jedoch als US-basierte Initiative begann, ist schnell in ein regulatorisches Minenfeld jenseits des Atlantiks geraten. Kürzlich aufgetauchte interne Dokumente deuten darauf hin, dass dieses Tool mehr als nur Klicks erfasst; es saugt die Interaktionen europäischer Kollegen auf, die sich nie für das Experiment angemeldet haben. Dieses grenzüberschreitende Durchsickern von Daten bereitet die Bühne für eine bedeutende rechtliche Auseinandersetzung mit den Datenschutzbehörden der Europäischen Union.

Das digitale Labor: Wie MCI funktioniert

Um die rechtlichen Reibungen zu verstehen, müssen wir zunächst die technische Reichweite des Tools betrachten. MCI ist nicht bloß ein Bildschirmrekorder. Es ist ein Beobachter, der über mehr als 200 verschiedenen Anwendungen und Websites thront, die von Meta-Mitarbeitern genutzt werden. Internen Berichten zufolge verfolgt das Tool das „Pathing“ eines Benutzers – wie er sich von einem Jira-Ticket zu einer Codierungsumgebung und dann zu einer Messaging-App wie Slack oder WhatsApp bewegt.

Stellen Sie sich Ihren digitalen Fußabdruck wie eine Spur aus Brotkrumen vor. Normalerweise sind diese Krumen verstreut und werden schließlich weggefegt. Unter MCI folgt Meta effektiv dem Bäcker, zeichnet das genaue Gewicht jedes Krumens auf, den Winkel, in dem er fiel, und die Zeit, die er zum Fallen brauchte. Dies erstellt eine hochpräzise Karte menschlichen Verhaltens, die verwendet werden kann, um dieses Verhalten mittels KI zu replizieren.

Kurioserweise war die Implementierung des Tools alles andere als unsichtbar. Einige Mitarbeiter berichteten, dass der Datenverbrauch so hoch war, dass ihr privates Internet-Datenvolumen innerhalb weniger Tage aufgebraucht war. Besorgniserregender waren die Ergebnisse einer internen Analyse eines Meta-Mitarbeiters, die darauf hindeuteten, dass MCI Sicherheitssoftware huckepack nahm, um auf Zwischenablage-Inhalte (den Text, den Sie kopieren und einfügen) und sogar unverschlüsselte Protokolle der Mitarbeiteraktivitäten zuzugreifen. Im Wesentlichen verwandelte das Tool den Arbeitsplatz in ein massives Live-Action-Labor, in dem die Mitarbeiter die Versuchsobjekte waren.

Der DSGVO-Kollisionskurs

Während das Arbeitsrecht in den Vereinigten Staaten Arbeitgebern im Allgemeinen großen Spielraum bei der Überwachung von Mitarbeitern auf firmeneigenen Geräten einräumt, operiert die Europäische Union unter einem viel strengeren Rahmen: der Datenschutz-Grundverordnung (DSGVO). In dem Moment, in dem das US-basierte Tool von Meta eine Nachricht oder ein Dokument erfasst, das von einem Kollegen in Dublin, Paris oder Berlin geteilt wurde, wird die Zuständigkeit der DSGVO ausgelöst.

Aus Sicht der Compliance gibt es drei Haupthürden, die Meta überwinden muss, und derzeit scheint das Unternehmen an allen zu scheitern.

1. Die Prüfung der Zweckbindung
Im europäischen Recht gibt es den Grundsatz der Zweckbindung. Das bedeutet: Wenn Sie Daten für einen bestimmten Grund sammeln – zum Beispiel, um die Kommunikation am Arbeitsplatz zu erleichtern –, können Sie nicht plötzlich entscheiden, sie für einen völlig anderen Zweck zu verwenden, wie das Training eines kommerziellen KI-Modells, ohne eine neue Rechtsgrundlage zu haben. Einen Chat zwischen zwei Kollegen über ein Projekt zu nehmen und ihn in einen KI-Trainingsdatensatz einzuspeisen, ist in den Augen vieler Regulierungsbehörden ein grundlegender Verstoß gegen diese Regel.

2. Das Fehlen einer granularen Einwilligung
Während Meta behauptet, die Daten seien von identifizierenden Informationen „entkoppelt“, steht die DSGVO solchen Behauptungen skeptisch gegenüber. Wenn die Daten durch ihre einzigartigen Verhaltensmuster oder den spezifischen Inhalt ihrer Nachrichten auf eine Einzelperson zurückgeführt werden können, bleiben es personenbezogene Daten. Für europäische Mitarbeiter muss die Einwilligung freiwillig, spezifisch und informiert erfolgen. Die indirekte Erfassung ihrer Daten, weil sie zufällig einem US-Kollegen eine E-Mail geschickt haben, erfüllt diesen Schwellenwert nicht.

3. Verhältnismäßigkeit und Eingriffstiefe
Die DSGVO verlangt, dass die Datenverarbeitung verhältnismäßig ist. Ist es wirklich notwendig, jedes Zucken der Maus zu verfolgen, um einen KI-Agenten zu bauen? Oder gibt es einen weniger invasiven Weg, um dieses Ziel zu erreichen? Im regulatorischen Kontext wird die „Always-on“-Natur von MCI, die Klicks über hunderte von Apps hinweg erfasst, oft als unverhältnismäßiger Eingriff in das Privatleben der Arbeitnehmer angesehen.

Der Mythos vom anonymisierten Klick

Meta hat diese Bedenken mit der Aussage zurückgewiesen, dass sich das Tool darauf konzentriert, wie Menschen Computer benutzen, und nicht auf den Inhalt dessen, was sie tun. Sie argumentieren, dass sie durch die Trennung der Daten von spezifischen Namen die Privatsphäre schützen. In der Welt der Hochgeschwindigkeitsdaten ist echte Anonymisierung jedoch oft eine Illusion.

Datenschutzexperten bezeichnen dies oft als das Problem des „digitalen Zeugenschutzprogramms“. Man kann den Namen und das Gesicht ändern, aber wenn die Zielperson immer noch auf dieselbe Weise geht, dieselben Orte besucht und im selben Rhythmus spricht, ist sie leicht wieder zu identifizieren. Für einen Wissensarbeiter ist sein „Rhythmus“ die Art und Weise, wie er durch Code navigiert, der spezifische Jargon, den er in Nachrichten verwendet, und seine tägliche Routine. Durch das Erfassen der Zwischenablage und der URLs nimmt Meta hochspezifische Identifikatoren auf, die eine „Entkoppelung“ zu einem sehr dünnen Schutzschild gegen rechtliche Prüfungen machen.

Darüber hinaus schafft die Tatsache, dass das Tool Direktnachrichten und E-Mails von Absendern außerhalb der USA erfasst, eine extraterritoriale Reichweite. Wenn ein französischer Mitarbeiter eine private Nachricht an einen US-Kollegen sendet und diese Nachricht in Metas KI-Trainings-Silo in den USA aufgenommen wird, hat Meta effektiv europäische personenbezogene Daten exportiert, ohne die erforderlichen Schutzmaßnahmen oder Offenlegungen, die von der EU verlangt werden.

Die „Fabrik zur Extraktion von Mitarbeiterdaten“

Der vielleicht auffälligste Aspekt dieser Geschichte ist die interne Reaktion. Einige Meta-Mitarbeiter haben das Unternehmen als eine „Fabrik zur Extraktion von Mitarbeiterdaten“ bezeichnet. Es liegt eine spürbare Ironie darin, gebeten zu werden, genau die Daten zu liefern, die schließlich dazu verwendet werden, die eigenen Jobfunktionen zu automatisieren.

In der Vergangenheit ging es bei der Überwachung am Arbeitsplatz weitgehend um Sicherheit oder Produktivität – um sicherzustellen, dass Mitarbeiter keine Geschäftsgeheimnisse preisgeben oder untätig sind. MCI stellt einen Wechsel hin zur „generativen Überwachung“ dar. Hier ist das Ziel nicht, den Arbeiter zu beobachten; es geht darum, die Expertise des Arbeiters zu ernten und sie in ein Unternehmensgut zu verwandeln. Dies schafft ein prekäres Umfeld für Mitarbeiter, die das Gefühl haben, dass ihre einzigartige berufliche Intuition Klick für Klick kommerzialisiert wird.

Die Zukunft der KI am Arbeitsplatz gestalten

Da die irische Datenschutzkommission (DPC) beginnt, diese Praktiken zu untersuchen, wird dieser Fall wahrscheinlich zu einem Richtwert dafür werden, wie KI in der Unternehmenswelt trainiert wird. Er verdeutlicht eine wachsende Spannung: Unternehmen benötigen massive Datensätze, um im KI-Wettlauf wettbewerbsfähig zu bleiben, aber die wertvollsten Daten sind oft die privatsten.

Für Unternehmen, die Metas aktuelle Zwickmühle vermeiden wollen, sind die Lehren klar. Transparenz ist nicht nur ein Kontrollkästchen; sie ist ein Fundament. Wenn Sie Tools einsetzen, die Verhalten überwachen, müssen diese Tools nach dem Prinzip „Privacy by Design“ entwickelt werden. Das bedeutet, Datenminimierung von Anfang an zu integrieren – nur das zu sammeln, was unbedingt notwendig ist, und sicherzustellen, dass Daten aus geschützten Regionen (wie der EU) herausgefiltert werden, bevor sie jemals einen Trainingsserver erreichen.

Wichtige Erkenntnisse für digitale Rechte und Compliance:

• Prüfen Sie Ihre Vernetzung: Unternehmen müssen verstehen, dass Daten, die in einer Gerichtsbarkeit gesammelt werden, leicht Betroffene in einer anderen involvieren können. Wenn Ihr US-Team ein Tracking-Tool verwendet, müssen Sie prüfen, ob es Daten aus Ihren globalen Niederlassungen erfasst.
• Zweck frühzeitig definieren: Geben Sie klar an, warum Daten gesammelt werden. Wenn Sie von „Sicherheitsüberwachung“ zu „KI-Training“ übergehen, benötigen Sie einen neuen rechtlichen Rahmen und wahrscheinlich eine neue Einwilligung der betroffenen Personen.
• Anonymisierungsbehauptungen verifizieren: Verlassen Sie sich nicht auf das Wort eines Anbieters oder einer IT-Abteilung, dass Daten „anonym“ sind. Führen Sie Re-Identifizierungstests durch, um zu sehen, ob Verhaltensmuster eines Benutzers seine Identität preisgeben könnten.
• Das Recht auf Vergessenwerden respektieren: Wenn ein Mitarbeiter das Unternehmen verlässt oder der Verwendung seiner Daten für das KI-Training widerspricht, können Sie seine „Klicks“ tatsächlich aus dem Modell löschen? Wenn die Antwort nein lautet, verstoßen Sie möglicherweise gegen Artikel 17 der DSGVO.

Während wir uns tiefer in die KI-Ära bewegen, wird die Grenze zwischen unserer Arbeit und unseren Daten weiter verschwimmen. Diese Grenze zu schützen, ist nicht mehr nur die Aufgabe der Rechtsabteilung; es ist eine grundlegende Voraussetzung für die Aufrechterhaltung des Vertrauens am modernen Arbeitsplatz.

Quellen:

• Datenschutz-Grundverordnung (DSGVO), Artikel 5 (Grundsätze für die Verarbeitung personenbezogener Daten).
• Datenschutz-Grundverordnung (DSGVO), Artikel 6 (Rechtmäßigkeit der Verarbeitung).
• Datenschutz-Grundverordnung (DSGVO), Artikel 17 (Recht auf Löschung).
• EuGH-Rechtssache C-311/18 (Schrems II) bezüglich internationaler Datentransfers.
• Leitlinien des Europäischen Datenschutzausschusses (EDSA) zur Verarbeitung personenbezogener Daten für das Training von KI.

Haftungsausschluss: Dieser Artikel dient ausschließlich Informations- und journalistischen Zwecken. Er stellt keine formelle Rechtsberatung oder ein Rechtsgutachten dar. Für spezifische Compliance-Fragen zur Arbeitsplatzüberwachung oder zum KI-Einsatz konsultieren Sie bitte einen qualifizierten Rechtsexperten.