Warum Portugals Staatsanwälte die KI-„Blackbox“ an die Auditoren übergeben

Lange bevor ein Angeklagter einen Gerichtssaal betritt oder eine Fallakte überhaupt geöffnet wird, könnte eine unsichtbare digitale Hand die Beweise bereits sortiert, analysiert und markiert haben. In den stillen Korridoren des Justizsystems sind es zunehmend Algorithmen, die die schwere Arbeit verrichten. Doch jahrelang operierten diese Systeme innerhalb einer „Blackbox“ – einem Raum, in dem der Code undurchsichtig blieb und Entscheidungen ohne eine klare Spur der Rechenschaftspflicht getroffen wurden.

Diese Ära der unkontrollierten Automatisierung geht in Westeuropa zu Ende. Unmittelbar nach der Umsetzung des EU-KI-Gesetzes (EU AI Act) hat die portugiesische Staatsanwaltschaft (Ministério Público) einen entscheidenden Schritt unternommen, um den Vorhang zu lüften. Durch die Verabschiedung einer umfassenden Charta für die ethische Nutzung künstlicher Intelligenz sowie einer Richtlinie für technische Audits und Monitoring signalisiert die Behörde, dass KI zwar ein mächtiges Werkzeug sein mag, aber niemals diejenige sein wird, die den Richterhammer führt.

Die Leitplanken der Justiz: Warum eine Charta jetzt wichtig ist

In einem regulatorischen Kontext ist der Schritt der portugiesischen Staatsanwaltschaft nicht nur eine bürokratische Aktualisierung; es ist eine grundlegende Neuausrichtung der Art und Weise, wie Technologie mit dem Recht interagiert. Die neu verabschiedete Charta gilt für alle innerhalb des Dienstes verwendeten KI-Systeme, legt jedoch einen starken Schwerpunkt auf das, was das EU-KI-Gesetz als Hochrisikosysteme definiert.

Hochrisiko-KI bezieht sich auf Software, die erhebliche Auswirkungen auf das Leben eines Einzelnen hat, wie etwa Systeme, die bei der Personalrekrutierung, der Kreditwürdigkeitsprüfung oder in diesem Fall bei der Strafverfolgung und der Justiz eingesetzt werden. Da diese Werkzeuge beeinflussen können, ob gegen jemanden ermittelt wird oder wie Beweise priorisiert werden, ist die Fehlertoleranz gleich null.

Im Wesentlichen fungiert die Charta als ein Satz von Leitplanken auf einer Bergstraße. Sie erlaubt es dem Fahrzeug – der KI –, sich schnell zu bewegen, verhindert aber, dass es über die Klippe von Voreingenommenheit oder Rechtswidrigkeit stürzt. Indem Portugal diese Regeln frühzeitig festlegt, versucht es, das „Blackbox“-Problem zu verhindern, bei dem selbst die Entwickler nicht erklären können, warum ein Algorithmus zu einem bestimmten Ergebnis gekommen ist.

Kernprinzipien: Den Menschen im Mittelpunkt behalten

Im Mittelpunkt der Charta stehen sechs Kernprinzipien, die jedes KI-System erfüllen muss, bevor es eine Fallakte berühren darf.

1. Achtung der Grundrechte: KI muss die Würde und die Rechte wahren, die in der portugiesischen Verfassung und der EU-Grundrechtecharta verankert sind.
2. Nichtdiskriminierung: Systeme müssen streng geprüft werden, um sicherzustellen, dass sie keine voreingenommenen Ergebnisse aufgrund von Rasse, Geschlecht, Religion oder sozioökonomischem Status liefern.
3. Transparenz: Anders ausgedrückt: Das „Wie“ und „Warum“ der Ergebnisse einer Maschine muss für einen menschlichen Beobachter erklärbar sein.
4. Datenschutz: Die Nutzung von KI muss mit der DSGVO konform sein und sicherstellen, dass personenbezogene Daten mit der gleichen Sorgfalt behandelt werden wie eine physische Beweismittelkammer.
5. Menschliche Aufsicht: Dies ist das „Human-in-the-Loop“-Prinzip. Ein Mensch muss immer das letzte Wort und die Macht haben, den Vorschlag einer Maschine zu überstimmen.
6. Sicherheit und Robustheit: Die Systeme müssen widerstandsfähig gegen Hacking und technische Ausfälle sein.

Aus Sicht der Compliance dienen diese Prinzipien den Staatsanwälten als Kompass. Sie stellen sicher, dass die Technologie ein untergeordneter Partner bleibt und kein autonomer Entscheidungsträger wird.

Das große Verbot: Keine prädiktive Strafzumessung

Interessanterweise befasst sich einer der bedeutendsten Teile der Charta nicht damit, was KI tun kann, sondern was ihr strikt untersagt ist. Die Staatsanwaltschaft hat eine klare Grenze gezogen: KI kann das menschliche Urteilsvermögen nicht ersetzen, und prädiktive Bewertungen sind verboten.

In einigen Rechtsordnungen wurden Instrumente des „Predictive Policing“ oder der „prädiktiven Strafzumessung“ eingesetzt, um die Wahrscheinlichkeit zu schätzen, dass eine Person in Zukunft eine Straftat begeht. Portugal hat diesen Weg abgelehnt. Unter diesem Rahmenwerk kann ein Algorithmus nicht verwendet werden, um den „Risikowert“ eines Angeklagten zu bestimmen oder ein spezifisches Strafmaß auf der Grundlage historischer Daten vorzuschlagen.

Dies ist ein entscheidender Sieg für digitale Rechte. Es erkennt an, dass Algorithmen von Natur aus rückwärtsgewandt sind – sie lernen aus der Vergangenheit, einschließlich vergangener Vorurteile. Ihnen zu erlauben, die Zukunft innerhalb des Justizsystems vorherzusagen, wäre so, als würde man einen Rückspiegel benutzen, um ein Auto durch eine belebte Kreuzung zu steuern. Es ist von Natur aus gefährlich und in einem regulatorischen Kontext rechtlich prekär.

Die Audit-Richtlinie: Mehr als nur Vertrauen

Während die Charta das „Was“ vorgibt, liefert die Richtlinie für technische Audits und Monitoring das „Wie“. In der Praxis verabschieden viele Organisationen ethische Richtlinien und lassen sie dann im Regal verstauben. Portugal vermeidet diese Falle durch die Schaffung eines multidisziplinären KI-Aufsichtsausschusses.

Dieser Ausschuss ist mit der kontinuierlichen Überprüfung der Compliance beauftragt. Es handelt sich nicht um eine einmalige Untersuchung, sondern um einen lebendigen Prozess der institutionellen Gesundheit. Jedes von den Staatsanwälten verwendete KI-System wird granularen Audits unterzogen, die die für das Training verwendeten Datensätze, die Logik der Algorithmen und die tatsächlichen Ergebnisse in der realen Welt untersuchen.

Betrachten Sie dies als ein digitales Zeugenschutzprogramm für die Datenintegrität. Die Auditoren stellen sicher, dass die in die KI eingespeisten Daten nicht durch Ungenauigkeiten „vergiftet“ wurden und dass die Leistung des Systems im Laufe der Zeit nicht „abgedriftet“ ist, um weniger genau oder voreingenommener zu werden.

Was dies für den Privatsektor bedeutet

Obwohl diese Richtlinie spezifisch für die portugiesische Staatsanwaltschaft gilt, werden ihre Auswirkungen im gesamten Privatsektor zu spüren sein. Unternehmen, die Legal-Tech- oder KI-Tools für den staatlichen Einsatz entwickeln, haben nun eine sehr klare Checkliste an Anforderungen.

Darüber hinaus dient dies als Blaupause für jede Organisation – sei es eine Bank, ein Krankenhaus oder ein Einzelhandelsriese –, die Hochrisiko-KI einsetzt. Der Übergang von „schnell handeln und Dinge zerbrechen“ zu „vorsichtig handeln und alles dokumentieren“ ist nun der globale Standard. Organisationen, die es versäumen, ähnliche ethische Richtlinien und Audit-Richtlinien zu verabschieden, werden zunehmend anfällig für rechtliche Herausforderungen und den Verlust des öffentlichen Vertrauens sein.

Letztendlich geht es bei datenschutzfreundlicher KI nicht nur darum, das Gesetz zu befolgen; es geht darum sicherzustellen, dass wir auf dem Weg in eine automatisierte Zukunft unsere grundlegende Menschlichkeit nicht zurücklassen.

Konkrete Schritte für KI-Compliance

Wenn Ihr Unternehmen derzeit KI-Systeme einsetzt oder entwickelt, orientieren Sie sich am portugiesischen Beispiel, um sicherzustellen, dass Ihr „digitaler Lehrling“ auf dem richtigen Weg bleibt:

• Führen Sie eine Risikoinventur durch: Kategorisieren Sie Ihre KI-Systeme. Sind sie unter dem EU-KI-Gesetz als „Hochrisiko“ einzustufen? Wenn sie Einstellungen, Kreditvergaben oder gesetzliche Rechte beeinflussen, lautet die Antwort wahrscheinlich ja.
• Implementieren Sie menschliche Aufsicht: Stellen Sie sicher, dass es einen „Notausschalter“ oder einen Übersteuerungsmechanismus gibt. Keine automatisierte Entscheidung, die sich auf die Rechte einer Person auswirkt, sollte ohne menschliche Überprüfung endgültig sein.
• Prüfen Sie Ihre Datenquellen: Untersuchen Sie Ihre Trainingsdaten auf historische Voreingenommenheiten. Wenn Ihre Daten eine „toxische Altlast“ voller alter Vorurteile sind, wird Ihre KI diese Toxizität lediglich automatisieren.
• Stellen Sie ein multidisziplinäres Team auf: Compliance ist nicht nur Sache der Juristen und nicht nur Sache der IT. Sie benötigen eine Brücke zwischen beiden, um zu verstehen, wie der Code das Recht beeinflusst.
• Veröffentlichen Sie Ihr Transparenz-Manifest: Seien Sie gegenüber Ihren Nutzern oder Kunden offen darüber, wie Sie KI einsetzen. Transparenz ist das beste Gegenmittel gegen die Angst vor der „Blackbox“.

Quellen

• EU AI Act (Verordnung (EU) 2024/1689): Der übergreifende Rahmen für künstliche Intelligenz in der Europäischen Union.
• DSGVO Artikel 5 & 22: Grundsätze für die Verarbeitung personenbezogener Daten und Schutzmaßnahmen gegen automatisierte Entscheidungen im Einzelfall.
• Charta für die ethische Nutzung von KI (Ministério Público de Portugal): Das primäre Dokument, das die ethischen Grenzen für portugiesische Staatsanwälte festlegt.
• Richtlinie für technische Audits und Monitoring für institutionelle KI-Systeme: Das Verfahrenshandbuch für die KI-Aufsicht innerhalb des portugiesischen Justizsystems.

Haftungsausschluss: Dieser Artikel dient ausschließlich Informations- und journalistischen Zwecken. Er untersucht die Schnittstelle von Recht und Technologie, stellt jedoch keine formelle Rechtsberatung dar. Für spezifische Compliance-Anforderungen konsultieren Sie bitte einen qualifizierten Rechtsexperten, der auf KI und Datenschutz spezialisiert ist.