Zum Inhalt springen
News

Verworfen, bevor überhaupt gesucht wird

Wenn der Speicher eines Agenten knapp wird, fliegt zuerst raus, was zur Frage schlecht passt — und das sind oft genau die Vorbedingungen. Eine Arbeit misst den Schaden und zeigt eine erstaunlich einfache Gegenmaßnahme.

Ein Agent mit Gedächtnis arbeitet in zwei Stufen: Was behalten wird, und was davon später zur Frage herausgesucht wird. Die Aufmerksamkeit liegt fast immer auf der zweiten Stufe — bessere Einbettungen, besseres Ranking, bessere Nachsortierung. Eine Arbeit aus dem ICML-Workshop zu Fehlerbildern agentischer Systeme setzt eine Stufe davor an und zeigt, dass dort ein eigenständiger Fehler wohnt.

Der Mechanismus ist unspektakulär und deshalb heimtückisch. Der Speicher hat ein festes Budget. Läuft es voll, wird nach Ähnlichkeit zur Anfrage aussortiert. Herausgeworfen wird also, was thematisch weit weg wirkt — und genau das trifft Blöcke, die keine Antwort enthalten, aber eine Vorbedingung für einen späteren Schritt sind. Eine Definition, ein Zwischenergebnis, ein zuvor gesetzter Zustand. Der Abruf kann sie danach nicht mehr finden, weil sie nicht mehr da sind. Nach außen sieht das aus wie ein Retrieval-Problem und wird auch als solches behandelt.

Die Größenordnung fällt deutlich aus. In der Hauptmessreihe kam die vollständige Belegkette bei einem lexikalischen Encoder in drei Prozent der Fälle unbeschädigt durch, bei einem Satz-Encoder in 23 Prozent. Die vorgeschlagene Gegenmaßnahme heißt Dependency-aware Semantic Garbage Collection und ist eine einzige zusätzliche Regel: Bevor ein Block verworfen wird, wird geprüft, ob ein noch benötigter Block einen Schritt weit von ihm abhängt. Damit stiegen die Werte auf 90 beziehungsweise 100 Prozent. Die Robustheitsprüfungen benennen zugleich, wo die Ein-Schritt-Regel nachlässt: bei sehr knappen Budgets und längeren Abhängigkeitsketten.

Einordnung

Der praktische Wert liegt weniger im vorgeschlagenen Verfahren als in der Fehlersuche. Wer einen Agenten debuggt, der bei langen Abläufen falsch antwortet, sucht üblicherweise beim Abruf. Diese Arbeit legt nahe, vorher zu prüfen, ob der benötigte Beleg zum Zeitpunkt der Frage überhaupt noch im Speicher lag — eine Frage, die sich mit einer einfachen Protokollzeile pro Verwerfung beantworten lässt.

Sinngemäß gilt das für alles, was Kontext unter Budgetdruck kürzt: Verdichtung, gleitende Fenster, Sitzungsgedächtnis in längeren Werkzeugketten. Ähnlichkeit zur aktuellen Frage ist dort ein schlechter Maßstab, weil Vorbedingungen per Bauart unähnlich aussehen. Einschränkend: Der Prüfaufbau ist deterministisch konstruiert, nicht an einem Produktivsystem gemessen, und der Beitrag ist als nicht-archivierter Workshop-Beitrag eingeordnet. Die Zahlen belegen einen Mechanismus, keinen erwartbaren Gewinn.

Quellen

Passt in die KI-Landkarte

Die Zusammenhänge hinter dieser Meldung stehen ausführlich im Kapitel Agenten.

Zu Agenten
  • agenten
  • retrieval
  • kontextfenster
Alle News