Ein Gatter, das Behauptungen ohne Beleg abweist

Eine auf arXiv veröffentlichte Arbeit beschäftigt sich mit einem Problem, das über ihren Anwendungsfall hinausreicht: Texte erzeugen, die sich an ein verschachteltes Regelwerk halten und jede Aussage belegen müssen. Der Anlass sind Widersprüche gegen abgelehnte Leistungsabrechnungen im US-Gesundheitswesen — ein Verwaltungsaufwand, den die Arbeit mit rund 260 Milliarden Dollar jährlich beziffert.

Der Befund zum Ausgangszustand ist deutlich. Sprachmodelle mit Retrieval-Augmented Generation erzeugen flüssigen Fachtext, doch Einzel-Agenten versagen in diesem Umfeld auf zwei Arten: Sie fügen klinische Angaben hinzu, für die es keine Grundlage gibt, und sie verlieren die logische Struktur des hierarchisch aufgebauten Regelwerks.

Vorgeschlagen wird stattdessen ein Aufbau aus fünf Rollen — Regelwerk formalisieren, Belege beschaffen, Lücken analysieren, gegnerisch kritisieren und erst dann kontrolliert zusammensetzen. Der interessanteste Teil ist jedoch kein Agent, sondern eine Sperre davor: Ein deterministisches Gatter lässt keine Aussage in den gemeinsamen Zustand, die nicht durch eine zulässige Quelle gedeckt ist.

Geprüft wurde an 1.000 synthetischen Fällen. Ergebnis: kein einziger Verstoß gegen die Belegpflicht. Entfernt man das Gatter und lässt den Rest der Architektur unverändert, steigt die Verstoßquote auf 100 Prozent. Die Arbeit ordnet ihre Grenzen selbst ein: synthetische Daten, keine echten Patientenakten, keine Aussage über die fachliche Wirksamkeit. Sie liegt derzeit bei einer Fachzeitschrift zur Begutachtung.

Einordnung

Die Zahl, an der alles hängt, ist das Ergebnis des Weglass-Versuchs. Fünf abgestimmte Agenten, eine formalisierte Regelbasis, eine gegnerische Kritikinstanz — und ohne die stumpfe Sperre am Ende landet trotzdem jede einzelne Antwort im Verstoß. Die Belegtreue entsteht demnach nicht dadurch, dass Agenten einander prüfen, sondern durch eine Stelle, die gar nicht erst diskutiert.

Das lässt sich auf jede Anwendung übertragen, die Auskünfte aus einem Regelwerk geben soll: Preislisten, Vertragsbedingungen, Förderrichtlinien, interne Betriebsanweisungen. Wer dort Belegtreue braucht, baut sie besser als deterministische Prüfung zwischen Modell und Ausgabe, statt sie einem weiteren Prüf-Agenten anzuvertrauen. Ein Modell, das prüft, kann sich irren; eine Prüfung, die nur Quellenverweise gegen eine Liste hält, kann es nicht.

Zugleich ist Vorsicht angebracht: Bewiesen ist das an erzeugten Fällen, nicht im Betrieb. Der übertragbare Teil ist deshalb weniger das Ergebnis als das Vorgehen — eine tragende Komponente gezielt abzuschalten, um zu sehen, ob sie wirklich trägt. Diese Probe ist in den meisten eigenen Aufbauten schnell gemacht und selten gemacht.