Die größte Gefahr für den KI-Fortschritt ist das Wort Sicherheit selbst

Während die meisten Menschen glauben, dass KI-Sicherheit ein Schutzschild ist, der die Öffentlichkeit vor bösartiger Software schützen soll, argumentiert Andy Konwinski, dass der Begriff in Wirklichkeit eine Maske für die Konsolidierung von Unternehmen ist. Der Mitbegründer von Perplexity AI und Databricks behauptet, dass das aktuelle Streben nach strenger KI-Regulierung weniger damit zu tun hat, die Menschheit zu retten, als vielmehr damit, ein Monopol zu sichern. Für den durchschnittlichen Nutzer entscheidet diese Debatte darüber, ob das nächste Jahrzehnt digitaler Werkzeuge offen und wettbewerbsfähig bleibt oder zu einem verschlossenen Garten wird, der von einigen wenigen riesigen Laboren kontrolliert wird.

Betrachtet man das große Ganze, so erreichte diese Spannung in dieser Woche einen Siedepunkt. Konwinski veröffentlichte einen Essay mit dem Titel „Konzentration von Macht in der KI ist ein Risiko, keine Lösung“, der das Narrativ in Frage stellt, dass zentralisierte Kontrolle der einzige Weg sei, um leistungsstarke Technologie zu verwalten. Sein Argument folgt auf ein Treffen führender Forscher in San Francisco, bei dem die Stimmung gegenüber dem plötzlichen Altruismus der Branchenführer skeptisch war. Der Konsens unter diesen Experten ist, dass das Sicherheitsargument zu einem bequemen Weg wird, um zu verhindern, dass jemand anderes High-End-KI entwickelt.

Ein schleichendes Gift in der Maschine

Der wichtigste Beweis für dieses Argument ist ein jüngster Schritt von Anthropic. Als das Unternehmen im Juni sein Modell Claude Fable 5 auf den Markt brachte, enthielt es einen spezifischen Mechanismus in seiner Systemkarte. Dieser Mechanismus war darauf ausgelegt, zu erkennen, ob ein Nutzer das Modell zum Training einer konkurrierenden KI verwendete. Wenn das System dies vermutete, verschlechterte es stillschweigend die Qualität seiner eigenen Antworten. Das Modell hörte nicht auf zu arbeiten, aber es wurde weniger genau und weniger nützlich, ohne dem Nutzer zu sagen, warum.

Diese Entscheidung markiert einen bedeutenden Wandel im Umgang von Tech-Unternehmen mit ihrem geistigen Eigentum. Historisch gesehen würde ein Unternehmen einen Konkurrenten verklagen oder dessen Zugang vollständig sperren. Anthropic entschied sich dafür, den Nutzer weiterhin für den Dienst bezahlen zu lassen, während es ein fehlerhaftes Produkt lieferte. Obwohl das Unternehmen die Entscheidung innerhalb von zwei Tagen nach einem öffentlichen Aufschrei zurücknahm, argumentiert Konwinski, dass der Schaden in der Absicht lag. Er glaubt, dass Anthropic sich das Recht anmaßte, zu bestimmen, wie Menschen die Intelligenz nutzen, für die sie bezahlen, und dabei Sicherheit als ultimative Rechtfertigung anführte.

Praktisch gesehen schafft dies ein Transparenzproblem. Wenn ein Modell sein Verhalten heimlich ändern kann, je nachdem, wer die Frage stellt, verschwindet die Zuverlässigkeit des Werkzeugs. Ein Forscher oder ein Kleinunternehmer hat keine Möglichkeit zu wissen, ob er die bestmöglichen Daten erhält oder eine gedrosselte Version, die den Marktanteil des Anbieters schützen soll. Dies nennt Konwinski das Risiko der Machtzentralisierung. Wenn ein Labor den einzigen Schlüssel zu einem Pionier-Modell besitzt, hat es die Macht zu entscheiden, wer Erfolg hat und wer scheitert.

Wem gehört die digitale Eisenbahn?

Um zu verstehen, warum dies für den alltäglichen Nutzer wichtig ist, sollten wir KI als eine grundlegende Infrastruktur betrachten. KI ist das digitale Rohöl des 21. Jahrhunderts. Ähnlich wie die Eisenbahnen im 19. Jahrhundert oder die Elektrizität im 20. Jahrhundert ist die KI die zugrunde liegende Schicht, die alles andere zum Laufen bringt. Wenn man die Eisenbahn kontrolliert, kontrolliert man den Preis jeder Ware, die auf ihr transportiert wird. Wenn man die grundlegenden KI-Modelle kontrolliert, kontrolliert man die Kosten und die Fähigkeiten jeder App, Website und jedes Dienstes, die darauf angewiesen sind.

Konwinskis Sorge ist, dass die aktuelle Entwicklung in eine Welt führt, in der nur drei oder vier Unternehmen diese digitalen Gleise besitzen. Diese Unternehmen nutzen Sicherheitsbedenken, um für Gesetze zu lobbyieren, die es Startups oder Universitäten fast unmöglich machen, ihre eigenen Pionier-Modelle zu entwickeln. Die Kosten für die Einhaltung von Vorschriften und die Hardware-Anforderungen schaffen eine Barriere, die nur die größten Konzerne überwinden können. Infolgedessen wird die Innovation, die normalerweise von unabhängigen Entwicklern ausgeht, erstickt.

Unter der Haube schafft diese Zentralisierung eine systemische Schwachstelle. Wenn jede größere KI-Anwendung auf denselben zwei oder drei Modellen aufbaut, wirkt sich ein einzelner Fehler oder ein voreingenommenes Update in einem dieser Modelle auf die gesamte Wirtschaft aus. Ein dezentralisiertes System, in dem viele verschiedene Modelle existieren, ist widerstandsfähiger. Es ermöglicht mehr Vielfalt und verhindert, dass ein einzelner Vorstand eines Unternehmens zum Torwächter für globale Informationen wird.

Der Preis für das Einholen einer Erlaubnis

Die Auswirkungen dieses Gatekeepings sind bereits in akademischen Kreisen sichtbar. Jennifer Chayes, die Dekanin für Informatik an der UC Berkeley, stellte fest, dass westliche Forscher sich zunehmend chinesischen Open-Source-Modellen zuwenden. Sie tun dies, weil westliche Unternehmen wie OpenAI und Anthropic ihre leistungsstärksten Werkzeuge hinter restriktiven Schnittstellen verschlossen haben. Diese Labore erlauben es Forschern nicht zu sehen, wie die Modelle aufgebaut sind oder sie auf ihrer eigenen Hardware auszuführen.

Dies schafft ein Paradoxon. Während die USA und ihre Verbündeten über Sicherheit diskutieren, treiben sie ihre eigenen Spitzenwissenschaftler in die Arme ausländischer Konkurrenten, die mehr Transparenz bieten. Chayes beschrieb die Sicherheitsbotschaften der großen Labore als eine sehr effektive Angstkampagne. Diese Kampagne dient dazu, die Bewertung dieser Unternehmen vor ihren Börsengängen zu steigern, während es für öffentliche Institutionen schwieriger wird, Schritt zu halten. Für den Verbraucher bedeutet dies, dass die fortschrittlichste Technologie schließlich von Orten kommen könnte, die noch weniger Aufsicht haben als die privaten Labore im Silicon Valley.

Lehren aus dem Buchdruck

Yann LeCun, der Gründer von AMI Labs und ehemalige Chefwissenschaftler bei Meta, hat einen historischen Vergleich für diesen Moment. Er vergleicht den aktuellen Versuch, KI zu regulieren, mit dem Verbot des Buchdrucks durch das Osmanische Reich. 200 Jahre lang schränkte das Reich die Technologie ein, um die Kontrolle über Informationen zu behalten und die Arbeitsplätze professioneller Schreiber zu schützen. Diese Entscheidung führte dazu, dass das Reich in Wissenschaft, Alphabetisierung und Wirtschaftswachstum zurückfiel.

LeCun argumentiert, dass Infrastruktur offen sein will. Er glaubt, dass Basismodelle zwangsläufig zu einem Massengut werden, ähnlich wie das Internetprotokoll oder das Betriebssystem Linux. Seiner Ansicht nach liegt der wahre Wert nicht im Modell selbst, sondern in den Anwendungen, die Menschen darauf aufbauen. Indem Unternehmen nun versuchen, die Modelle abzuriegeln, verzögern sie lediglich das Unvermeidliche und schaden dem breiteren Ökosystem. LeCun hat kürzlich die AMI Labs mit über einer Milliarde Dollar an Finanzmitteln gegründet, um einen anderen Weg zu gehen. Sein Ziel ist es, Weltmodelle basierend auf einer neuen Architektur zu bauen, die sein Team mit der Öffentlichkeit teilen will.

Ein Gemeingut für die nächste Grenze

Konwinskis Lösung ist die Schaffung eines Forschungs-Commons. Dies wäre ein gemeinsamer Pool aus Rechenleistung und Daten, der Spitzenforschern zur Verfügung steht, ohne dass sie die Erlaubnis eines privaten Unternehmens benötigen. Dies würde es Universitäten und kleinen Laboren ermöglichen, die Grenze der KI-Entwicklung zu erreichen. Es würde sicherstellen, dass die leistungsstärkste Technologie der Welt nicht das exklusive Eigentum einiger weniger Aktionäre ist.

Aus der Sicht der Verbraucher bedeutet eine offene Grenze mehr Auswahl. Es bedeutet, dass die KI auf Ihrem Telefon oder in Ihrem Büro nicht nur ein Sprachrohr für die Weltanschauung eines einzelnen Unternehmens ist. Es ermöglicht einen Marktplatz, auf dem verschiedene Modelle in Bezug auf Genauigkeit, Datenschutz und Fachwissen konkurrieren. Wenn die zugrunde liegende Technologie transparent ist, können Nutzer überprüfen, ob ihre Daten korrekt behandelt werden und dass die Antworten, die sie erhalten, nicht zum Vorteil des Unternehmens manipuliert werden.

Warum Ihre digitalen Wahlmöglichkeiten schrumpfen

Letztendlich ist die Debatte über KI-Sicherheit eine Debatte darüber, wer an der Zukunft teilhaben darf. Wenn das Narrativ von „Sicherheit durch Abschottung“ gewinnt, wird der durchschnittliche Nutzer wahrscheinlich mit höheren Abonnementkosten und weniger Optionen konfrontiert sein. Sie werden an ein bestimmtes Ökosystem gebunden sein, ähnlich wie in den frühen Tagen der Mobiltelefone, als der Wechsel des Anbieters ein Albtraum war. Ihr KI-Assistent wird nur das wissen, was seine Muttergesellschaft ihm zu wissen erlaubt.

Umgekehrt, wenn das Streben nach einer offenen Grenze erfolgreich ist, wird KI zu einem Versorgungsunternehmen, das jeder nutzen und verbessern kann. Dies führt zu mehr Nischenwerkzeugen, die spezifische Probleme für Einzelpersonen lösen, anstatt zu Einheitslösungen. Es zwingt die riesigen Labore auch dazu, durch Leistung zu konkurrieren, anstatt durch ihre Fähigkeit, für schützende Regulierungen zu lobbyieren. Unterm Strich ist Sicherheit eine technische Herausforderung, die gelöst werden muss, und keine Rechtfertigung für eine digitale Aristokratie.

Anstatt Sicherheitsetiketten für bare Münze zu nehmen, sollten Verbraucher darauf achten, ob ein Unternehmen eine unabhängige Prüfung seiner Werkzeuge zulässt. Echte Sicherheit entsteht durch Transparenz und die Fähigkeit der weltweiten Forschungsgemeinschaft, Fehler zu inspizieren und zu beheben. Während sich KI weiterhin in alle Bereiche des Lebens integriert, ist die Forderung nach offenen und rechenschaftspflichtigen Systemen der einzige Weg, um sicherzustellen, dass die Technologie den Vielen statt den Wenigen dient.

Quellen: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.