Warum Ihre KI einen Roman schreiben kann, aber immer noch Schwierigkeiten hat, bis fünfzig zu zählen

Wir erleben derzeit ein bizarres technologisches Paradoxon. Wir haben Maschinen gebaut, die in der Lage sind, das Anwaltsexamen zu bestehen, seltene medizinische Erkrankungen zu diagnostizieren und Tausende von Zeilen veralteten Codes in Sekundenschnelle zu überarbeiten – und doch stolpern dieselben digitalen Titanen oft über die einfache Aufgabe, eine Liste von Wörtern zu zählen. Wenn Sie ein hochmodernes Large Language Model (LLM) bitten, eine Tabellenkalkulation mit tausend Zeilen von Umfrageantworten zusammenzufassen, liefert es möglicherweise eine brillant einsichtige thematische Analyse, während es gleichzeitig die tatsächliche Anzahl der Befragten halluziniert.

Dies ist nicht nur ein kleiner Fehler in der Matrix; es ist ein grundlegendes Fenster dazu, wie sich die moderne Softwarearchitektur von der starren Gewissheit der Vergangenheit hin zu einer fließenden, probabilistischen Zukunft verschoben hat. Unter der Haube unterscheidet sich die Art und Weise, wie eine KI „zählt“, radikal von der Art und Weise, wie eine traditionelle Datenbank oder ein menschliches Gehirn dieselbe Aufgabe ausführt. Diese Lücke zwischen unseren Erwartungen und der Leistung des Modells hat zu einem neuen Forschungsfeld geführt: der quantitativen Analyse von Halluzinationen bei Datenverarbeitungsaufgaben.

Die trügerische Einfachheit des Zählens

Im Alltag fühlt sich Zählen wie die grundlegendste Einheit digitaler Arbeit an. Wir gehen davon aus, dass numerische Genauigkeit eine Selbstverständlichkeit ist, da ein Computer im Kern ein verherrlichter Taschenrechner ist. LLMs sind jedoch keine Taschenrechner; sie sind hochentwickelte Vorhersagemaschinen. Wenn Sie einem Modell wie Gemini 3 Flash oder GPT-5.3 Instant eine lange Liste von „Ja/Nein/Ausstehend“-Antworten geben und nach einer Gesamtsumme fragen, inkrementiert das Modell nicht einfach eine Variable in einer Schleife. Es verarbeitet den gesamten Text durch einen Attention-Mechanismus und versucht, den „Zustand“ der Zählung über seine internen neuronalen Pfade aufrechtzuerhalten.

Aus der Sicht des Nutzers ist diese Erfahrung oft frustrierend. Sie bemerken vielleicht, dass Ihr KI-Assistent die ersten Zeilen richtig hinbekommt, nur um bei Zeile 400 den Faden zu verlieren. Dies bezeichnen Forscher als interne Aufmerksamkeitsbeschränkung. Paradoxerweise scheint ein Modell umso anfälliger für dieselben kognitiven Aussetzer zu sein, die wir erleben, wenn wir versuchen, ein Glas voller Pennys zu zählen, während uns jemand zufällige Zahlen zuruft, je konversationsorientierter und „menschlicher“ es wird.

Eine neue Taxonomie: Die drei Gesichter der Halluzination

Jüngste explorative Forschungsarbeiten des Mirairzu Lab Kobo haben eine faszinierende Verschiebung in der Art und Weise identifiziert, wie verschiedene Modelle bei diesen Aufgaben versagen. Es stellt sich heraus, dass LLMs nicht einfach nur „Fehler machen“; sie zeigen ausgeprägte Verhaltensmuster, die verschiedene Arten von Softwarereibung widerspiegeln.

Erstens gibt es den Konfabulationstyp, beispielhaft dargestellt durch Gemini 3 Flash. In Baseline-Tests zeigte Gemini das, was Forscher als „harmonische Halluzination“ bezeichnen. Es könnte eine Kategorie überzählen, während es eine andere unterzählt, um sicherzustellen, dass die Endsumme mathematisch perfekt bleibt, selbst wenn die Verteilung eine totale Erfindung ist. Gleichzeitig sehen wir den Vermeidungstyp bei Modellen wie GPT-5.3 Instant – wo die Software einfach aufgibt, sobald die Verarbeitungslast einen bestimmten Schwellenwert überschreitet, und eine höfliche Nachricht zurückgibt: „Ich kann nicht so viele Elemente zählen.“

Schließlich gibt es den prozess-opaken Typ, der häufig bei Claude Sonnet 4.6 zu beobachten ist. Claude ist bemerkenswert genau, sogar bis zu 2.000 Elementen, aber seine Methodik bleibt eine Blackbox. Aus der Sicht eines Entwicklers ist dies ein zweischneidiges Schwert: Man erhält die richtige Antwort, hat aber keine Möglichkeit zu wissen, wann oder warum das Modell schließlich seinen „Kollapspunkt“ erreichen wird.

Das Scheitern des traditionellen Promptings

Historisch gesehen war die Antwort der Tech-Industrie auf KI-Ungenauigkeiten das „Chain-of-Thought“ (CoT) Prompting – die einfache Anweisung, „Schritt für Schritt zu denken“. Doch während Software immer komplexer wird, zeigt diese einst allgegenwärtige Lösung Anzeichen von technischen Schulden.

In den Experimenten des Mirairzu Lab erwies sich die alleinige Anwendung von CoT auf ChatGPT tatsächlich als kontraproduktiv. Als das Modell aufgefordert wurde, seine Gedankengänge für einen Datensatz mit 200 Elementen aufzuschreiben, sank seine Genauigkeit sogar. Die zusätzlichen Wörter, die es generieren musste, wirkten wie Verarbeitungsrauschen und lenkten das Modell von der Hauptaufgabe ab. Dies deckt sich mit jüngsten Branchenerkenntnissen, die darauf hindeuten, dass es für die neueste Generation von Reasoning-Modellen manchmal genauso störend sein kann, wenn ihnen gesagt wird, wie sie denken sollen, wie ein Beifahrer, der einem Profirennfahrer Anweisungen zuruft.

Das externe Gerüst: Entwicklung des KIS-Protokolls

Wenn einfaches Prompting fehlschlägt, verlagert sich die Branche hin zu robusteren, proprietären Protokollen. Ein solches Framework ist das Knowledge Innovation System (KIS), das als „externes Gerüst“ für die KI fungiert. Anstatt sich auf das interne Gedächtnis des Modells zu verlassen, zwingt KIS die KI dazu, ihre Zwischenschritte in einem strukturierten Protokoll zu externalisieren.

Im Wesentlichen behandelt KIS das LLM als Komponente in einer größeren Maschine und nicht als allwissendes Orakel. Durch die Durchsetzung eines Protokolls wie „Level 4 / Logic: Strict“ trennt das System die Zählphase, die Verifizierungsphase und die Berichtsphase. Diese strukturelle Einschränkung funktioniert wie ein digitaler Bauplan und stellt sicher, dass das Modell nicht zum nächsten Schritt übergehen kann, bevor es den vorherigen verifiziert hat.

Hinter dem Bildschirm löst dieser Ansatz das Problem der „harmonischen Halluzination“. Als Gemini durch das KIS-Protokoll lief, sprang seine Genauigkeit auf breiter Front auf 100 %. Dem Modell war es nicht erlaubt, einfach eine plausible Verteilung zu raten; es wurde gezwungen, eine „log: full“-Ausgabe bereitzustellen, die als verifizierbarer Audit-Trail diente.

Von Genauigkeit zu Auditierbarkeit: Ein Paradigmenwechsel

Betrachtet man die Branchenebene, unterstreicht diese Forschung einen tiefgreifenden Wandel in der Art und Weise, wie wir Software bewerten. Jahrelang war Genauigkeit der Goldstandard – hat mir die App die richtige Antwort gegeben? Aber da wir KI in rechtliche, finanzielle und medizinische Arbeitsabläufe integrieren, reicht Genauigkeit allein nicht mehr aus. Wir treten in die Ära der Auditierbarkeit ein.

Wie Claudes Leistung illustriert, ist ein Modell, das „meistens richtig“ liegt, ein Haftungsrisiko, wenn man nicht weiß, warum es richtig liegt. Wenn ein menschlicher Prüfer den Pfad von den Rohdaten bis zur Endsumme nicht zurückverfolgen kann, bleibt die Software ein Risiko. Protokolle wie KIS repräsentieren die nächste Stufe des Webs: weg von den fragmentierten, auf „Vibes“ basierenden Ausgaben früher Chatbots hin zu einer resilienteren, transparenteren Architektur, in der der Prozess genauso wichtig ist wie das Ergebnis.

Den digitalen Bauplan zurückfordern

Letztendlich wird unsere Beziehung zur Technologie dadurch definiert, wie viel vom „Wie es funktioniert“ wir bereit sind auszulagern. Wenn wir ein LLM zum Zählen, Zusammenfassen oder Analysieren verwenden, tauschen wir die mechanische Gewissheit von traditionellem Code gegen die agile Intuition neuronaler Netze ein.

Für den gewöhnlichen Benutzer ist die Erkenntnis pragmatisch: Gehen Sie nicht davon aus, dass die Sprachgewandtheit eines Modells ein Stellvertreter für seine numerischen Fähigkeiten ist. Wenn Sie das nächste Mal eine KI bitten, Ihnen bei einer datenintensiven Aufgabe zu helfen, achten Sie auf das „Gerüst“. Zeigt das Modell seine Arbeit? Bietet es ein Protokoll seiner Schritte? Wenn nicht, blicken Sie in eine Blackbox, die sich die Zahlen vielleicht nur ausdenkt, um das Gespräch im Fluss zu halten.

Während wir diesen stillen Wandel im Softwaredesign navigieren, ist die wichtigste Fähigkeit, die wir entwickeln können, ein „UX-Auge“ für Transparenz. Wir sollten Werkzeuge fordern, die uns nicht nur die Antwort geben, sondern auch den notwendigen Audit-Trail liefern, um sie zu beweisen. In einer Welt harmonischer Halluzinationen ist das disruptivste Feature, das eine Software bieten kann, die einfache, bescheidene Wahrheit eines verifizierbaren Protokolls.

Quellen:

• Hasegawa, H., & Kamogawa (2026). KIS: A Question-Centric Protocol Architecture for Hierarchical AI Thought Control. Zenodo.
• Huang et al. (2024). A Survey on Hallucination in Large Language Models. ACM TOIS.
• Meincke & Mollick (2025). The Decreasing Value of Chain of Thought in Prompting. Wharton School Research Paper.
• Zhao et al. (2025). NumericBench: Exposing Numeracy Gaps in Large Language Models. arXiv pre-print.
• Mirairzu Lab Kobo (2026). Quantitative Analysis of Hallucination Bias in LLM Counting Tasks.