Zum Inhalt springen

KI-Agenten Entscheidungsprotokoll: Warum hat der Agent das getan?

Kurz gesagt

Ein Agent bestellt 72 Eier und kann nicht erklären, warum. Das Problem ist nicht die Bestellung, sondern das fehlende Protokoll. So baust du in n8n ein Entscheidungsprotokoll, das jede Agentenaktion nachvollziehbar macht.

13 Min. Lesezeit
KI-Agenten Nachvollziehbarkeit Logging n8n Mittelstand
KI-Agenten Entscheidungsprotokoll: Warum hat der Agent das getan?

Dienstagmorgen im Büro: Ein Kunde ruft an, weil er von eurem Agenten ein Angebot mit einem Rabatt bekommen hat, den es nie gab. Du fragst den Agenten, warum er das getan hat. Er antwortet höflich, plausibel und mit drei Gründen. Keiner davon lässt sich in irgendeinem Datensatz wiederfinden. Du weißt jetzt nicht, ob der Agent einen Fehler gemacht hat, ob jemand ihn mit einer Mail umgelenkt hat oder ob die Antwort selbst nur gut klingt.

In diesem Artikel erfährst du, warum die Selbstauskunft eines Agenten kein Protokoll ist, welche sieben Felder ein brauchbares Entscheidungsprotokoll enthält, wie du es in n8n mit wenigen Nodes baust und wie du in einer Woche damit startest.


Inhaltsverzeichnis

  1. Der Fall mit den 72 Eiern
  2. Warum die Antwort des Agenten kein Protokoll ist
  3. Die sieben Felder eines Entscheidungsprotokolls
  4. Protokollierung in n8n bauen
  5. Aufbewahrung, Datenschutz und Regulierung
  6. Implementierung in einer Woche
  7. Fazit

Der Fall mit den 72 Eiern

Diese Woche hat t3n einen Fall aufgegriffen, der erst komisch wirkt und dann erstaunlich lehrreich ist. Der Analyst Matt Smith ließ seinen KI-Agenten den Wocheneinkauf erledigen. Der Agent bestellte vier Packungen mit je 18 Eiern, zusammen also 72 Stück. Smith fragte nach dem Grund. Die Antwort des Agenten laut dem geteilten Screenshot: Er habe keine gute Antwort darauf und finde keine Notiz, die erkläre, warum er vier Packungen gewählt habe.

Bemerkenswert ist der zweite Teil. Der Agent suchte nach möglichen Erklärungen und vermutete, er habe die Zeile für Eier auf dem Foto der Einkaufsliste falsch gelesen. Auf der Liste stand aber gar keine Zeile für Eier. Seine Schlussfolgerung: Er habe sie ohne Grund hinzugefügt.

Das ist kein Einzelfall dieser Art. t3n erinnert im selben Beitrag an die Meta-Forscherin Summer Yue, deren Agent beim Aufräumen des Postfachs begann, alle E-Mails zu löschen und auf mehrfache Befehle nicht reagierte. Die Geschichten unterscheiden sich im Schaden, aber nicht im Muster: Hinterher fragt ein Mensch “Warum?”, und niemand kann es belegen.

Auch die Politik bewegt sich in diese Richtung. Laut heise haben vergangene Woche 18 Länder, zehn Unternehmen (darunter Anthropic, Microsoft und OpenAI) und elf Nichtregierungsorganisationen den “Paris Call for AI safety and security” unterzeichnet. Die Unterzeichner nennen sofortige Ergebnisse bei Transparenz, Zwischenfall-Berichterstattung und Risikomanagement als gemeinsame Priorität. Das ist eine Absichtserklärung und kein Gesetz, aber die Richtung ist klar: Wer Agenten einsetzt, soll Vorfälle erklären können.

Auf der Anbieterseite zeigt sich dasselbe. Cisco hat laut eigener Pressemitteilung vom 9. November neue Funktionen für Agent Observability angekündigt, also für die Beobachtbarkeit laufender Agenten. IBM hat am 2. November bekannt gegeben, in einem neuen Gartner Magic Quadrant für AI Agent Management Platforms als Leader geführt zu werden. Wenn eine eigene Marktkategorie für das Verwalten von Agenten entsteht, ist das Thema im Alltag angekommen.

Warum die Antwort des Agenten kein Protokoll ist

Der Reflex ist verständlich: Wenn etwas schiefgeht, fragt man den Agenten. Das funktioniert bei einem Menschen, weil der sich an seine Gründe erinnert. Bei einem Sprachmodell ist das anders. Es hat zum Zeitpunkt deiner Rückfrage nur den Text vor sich, der im Gespräch steht. Es liest nicht aus, was intern passiert ist, sondern formuliert eine Erklärung, die zu diesem Text passt.

Das hat zwei Folgen. Erstens kann die Erklärung überzeugend klingen und trotzdem falsch sein. Im Eier-Fall war der Agent ehrlich genug, das Fehlen einer Notiz zu benennen. Ein anderes Modell mit einer anderen Einstellung hätte vielleicht souverän drei Gründe geliefert. Zweitens ändert sich die Erklärung, wenn sich der Kontext ändert. Fragst du morgen noch einmal, bekommst du womöglich eine andere Antwort auf dieselbe Frage.

Der Satz des Agenten “Ich kann keine Notiz finden” ist dabei der eigentliche Hinweis. Das Problem lag nicht im Agenten, sondern im System um ihn herum. Es gab keinen Ort, an dem Entscheidungen festgehalten wurden, als sie fielen. Ein Protokoll ist genau das: eine Aufzeichnung, die zum Zeitpunkt der Aktion entsteht und später nicht mehr von der Laune eines Modells abhängt.

Die Unterscheidung lässt sich in einem Satz sagen. Die Begründung des Agenten ist eine Behauptung, das Protokoll ist der Beleg. Beides ist nützlich, aber nur das Protokoll taugt als Grundlage, wenn du mit einem Kunden, einer Versicherung oder deinem Steuerberater sprichst.

Wer schon stille Ausfälle in n8n erkennen gelernt hat, kennt das Prinzip: Überwachung sagt dir, dass etwas nicht stimmt. Das Entscheidungsprotokoll sagt dir, warum.

Die sieben Felder eines Entscheidungsprotokolls

Ein Protokoll, das niemand lesen kann, ist wertlos, und eines, das zu viel speichert, wird zum Datenschutzproblem. Diese sieben Felder haben sich in der Praxis als Mindestumfang bewährt:

  1. Run-ID und Zeitstempel. Eine eindeutige Nummer pro Lauf, damit du Aktion, Eingabe und Ergebnis zusammenführen kannst.
  2. Auslöser. Was hat den Lauf gestartet: eine Mail, ein Formular, ein Zeitplan, ein anderer Agent? Ohne diesen Eintrag findest du nie heraus, ob jemand den Agenten von außen gesteuert hat.
  3. Eingabe in Kurzform. Der Auftrag und die verwendeten Daten, bei sensiblen Inhalten als Verweis oder Prüfsumme statt als Volltext.
  4. Modell und Prompt-Version. Welches Modell mit welcher Anweisung lief. Ohne diese Angabe kannst du nach einem Update nicht sagen, ob sich das Verhalten verändert hat.
  5. Zwischenschritte. Jeder Werkzeugaufruf mit Parametern und Ergebnis. Das ist der wertvollste Teil: Hier siehst du, was der Agent nachgeschlagen hat und worauf er sich gestützt hat.
  6. Endaktion. Was am Ende tatsächlich passiert ist: Mail gesendet, Datensatz geändert, Bestellung ausgelöst. Mit Zielsystem und Ergebnis.
  7. Freigabe. Hat ein Mensch zugestimmt, wer, wann? Oder lief die Aktion automatisch, und nach welcher Regel?

Dazu kommt ein optionales achtes Feld, das viele vergessen: die Begründung des Agenten vor der Aktion. Dafür verlangst du in der Anweisung, dass der Agent vor jeder schreibenden Handlung in einem festen Feld in einem Satz notiert, was er tun will und warum. Dieses Feld ist weiterhin eine Behauptung des Modells und kein Beweis. Es hat aber einen Wert, den die nachträgliche Erklärung nie hat: Es entsteht vor der Handlung und kann danach nicht mehr umgeschrieben werden. Du kannst später Begründung und tatsächliche Zwischenschritte vergleichen. Passen beide nicht zusammen, hast du einen Befund.

Protokollierung in n8n bauen

In n8n brauchst du dafür keine zusätzliche Plattform. Die Bausteine sind vorhanden, sie müssen nur gezielt eingeschaltet werden.

Schritt 1: Zwischenschritte sichtbar machen. Im AI-Agent-Node gibt es unter den Optionen die Einstellung “Return Intermediate Steps”. Ist sie aktiv, enthält die Ausgabe des Agenten zusätzlich eine Liste seiner Werkzeugaufrufe mit Eingabe und Ergebnis. Das ist die Rohfassung für Feld 5.

Schritt 2: Ausführungsdaten behalten. In den Workflow-Einstellungen legst du fest, ob erfolgreiche und fehlgeschlagene Ausführungen gespeichert werden. Wichtig bei selbst betriebenem n8n: Das automatische Löschen alter Ausführungen ist standardmäßig aktiv, die Standardaufbewahrung liegt laut n8n-Dokumentation bei 336 Stunden, also 14 Tagen (Umgebungsvariablen EXECUTIONS_DATA_PRUNE und EXECUTIONS_DATA_MAX_AGE). Für ein Entscheidungsprotokoll ist die Ausführungsliste deshalb allein zu flüchtig. Sie hilft beim Debuggen, ist aber kein Archiv.

Schritt 3: Protokollzeile bauen. Direkt hinter dem Agenten fügst du einen Code-Node ein, der die sieben Felder in eine feste Struktur bringt. Ein Beispiel:

// Code-Node "Protokollzeile bauen", läuft direkt nach dem AI-Agent-Node
const agent = $input.first().json;
const trigger = $('Trigger').first().json;

const steps = (agent.intermediateSteps || []).map(s => ({
  tool: s.action?.tool,
  input: s.action?.toolInput,
  result: String(s.observation ?? '').slice(0, 500),
}));

return [{
  json: {
    run_id: $execution.id,
    workflow: $workflow.name,
    created_at: new Date().toISOString(),
    trigger_summary: JSON.stringify(trigger).slice(0, 300),
    model: 'hier-modellname-eintragen',
    prompt_version: 'v3',
    agent_rationale: agent.rationale ?? null,
    steps,
    final_output: String(agent.output ?? '').slice(0, 1000),
    approved_by: null,
  },
}];

Der Code tut Folgendes: Er nimmt die Ausgabe des Agenten, kürzt lange Inhalte und liefert eine einheitliche Zeile. Den Namen des Auslöser-Nodes und das Feld rationale passt du an deinen Workflow an. Die Struktur der Zwischenschritte kann je nach n8n-Version leicht abweichen, deshalb die vorsichtigen Zugriffe mit Fragezeichen.

Schritt 4: In eine Tabelle schreiben. Die Zeile geht in einen Speicher, der nicht vom Löschen der Ausführungen betroffen ist: eine n8n Data Table, eine Postgres-Tabelle oder eine andere Datenbank, die du ohnehin betreibst. Entscheidend ist, dass der Agent selbst keine Schreibrechte auf diese Tabelle hat. Das Protokoll wird vom Workflow geschrieben, nicht vom Modell. Sonst ist es nur ein weiterer Text, den das Modell beeinflussen kann.

Schritt 5: Vor schreibenden Aktionen protokollieren. Bei Werkzeugen, die etwas verändern (Mail senden, Datensatz ändern, Bestellung auslösen), schreibst du die Protokollzeile vor der Aktion und ergänzt das Ergebnis danach. Das nennt sich Write-Ahead-Protokoll: Selbst wenn die Aktion abstürzt, existiert der Eintrag mit dem Vorsatz. Am einfachsten lagerst du das in einen Sub-Workflow “Aktion protokollieren” aus, den jedes schreibende Werkzeug aufruft.

Schritt 6: Fehler zusammenführen. Ein Error Workflow mit dem Error-Trigger-Node sorgt dafür, dass auch abgebrochene Läufe einen Eintrag bekommen, inklusive der letzten bekannten Zwischenschritte. Gerade diese Fälle willst du später erklären können.

Praxistipp: Schreibe die Protokollzeile vor der Aktion statt danach, denn genau die Läufe, die abstürzen oder umgeleitet werden, sind die, bei denen du später einen Beleg brauchst.

Wer mehrere Agenten zusammenschaltet, sollte die Run-ID über alle Stufen weiterreichen. Wie das bei Agenten-Teams aussieht, haben wir im Artikel zur Multi-Agent-Orchestrierung in n8n beschrieben.

Aufbewahrung, Datenschutz und Regulierung

Ein Entscheidungsprotokoll enthält fast immer personenbezogene Daten: Namen in Mails, Kundennummern, Inhalte aus Anfragen. Deshalb gehören drei Regeln von Anfang an dazu.

Datensparsamkeit. Speichere Eingaben als Kurzfassung oder Verweis auf den Datensatz, nicht als Volltext. Bei Mailinhalten reicht oft die Mail-ID plus eine Prüfsumme, mit der du später belegen kannst, dass der Inhalt unverändert ist.

Feste Aufbewahrungsfrist. Lege vorab fest, wie lange Protokolle liegen, und lösche danach automatisch. Welche Frist für dich passt, hängt vom Anwendungsfall ab, bei geschäftlich relevanten Vorgängen oft vom Handels- und Steuerrecht. Das klärst du mit deinem Steuerberater oder Datenschutzbeauftragten.

Zugriff begrenzen. Wer Protokolle lesen darf, ist eine eigene Entscheidung. Das Entscheidungsprotokoll ist ein Kontrollinstrument und gehört nicht in die Hand von jedem, der Zugriff auf n8n hat.

Zur Regulierung: Für Hochrisiko-Systeme verlangt der EU AI Act in Artikel 12 eine automatische Aufzeichnung von Ereignissen und in den Folgeartikeln eine Aufbewahrung der Protokolle von mindestens sechs Monaten. Die meisten Agenten im Mittelstand sind keine Hochrisiko-Systeme, aber das Prinzip ist dasselbe, das du ohnehin brauchst. Wer jetzt ein Protokoll baut, hat später keinen zweiten Umbau. Was du sonst noch dokumentieren solltest, steht im Artikel EU AI Act im Mittelstand. Das ist keine Rechtsberatung, bei konkreten Pflichten gehört ein Anwalt dazu.

Implementierung in einer Woche

Du musst nicht alle Agenten auf einmal umbauen. Starte mit dem Agenten, der die meiste Außenwirkung hat, also dem, der Mails versendet, Kunden etwas zusagt oder Datensätze ändert.

Tag 1: Agenten auswählen und Felder festlegen. Entscheide, welchen Agenten du zuerst protokollierst, und lege die Tabellenstruktur mit den sieben Feldern an. Eine Stunde Arbeit.

Tag 2: Zwischenschritte einschalten. “Return Intermediate Steps” aktivieren und prüfen, wie die Ausgabe in deinem n8n aussieht. Teste mit zwei, drei Beispielläufen.

Tag 3: Protokollzeile und Tabelle. Den Code-Node einbauen, anpassen und die Zeile in die Tabelle schreiben. Prüfe, dass der Agent keinen Schreibzugriff auf die Tabelle hat.

Tag 4: Write-Ahead bei schreibenden Werkzeugen. Den Sub-Workflow “Aktion protokollieren” bauen und vor jede schreibende Aktion hängen.

Tag 5: Stichprobe. Suche dir drei beliebige Läufe der vergangenen Tage heraus und versuche, nur mit dem Protokoll zu erklären, was passiert ist. Wenn dir dabei etwas fehlt, ergänzt du das Feld, bevor du den nächsten Agenten angehst.

Danach ist das Protokoll eine Grundlage für alles, was ohnehin kommt: das Testen und Bewerten von Agenten arbeitet mit denselben Daten, und für den Ernstfall brauchst du beides, Protokoll und Notbremse. Einen allgemeinen Überblick, welche Aufgaben sich überhaupt für Agenten eignen, findest du in unserem Leitfaden KI-Agenten für Unternehmen.

Fazit

Der Eier-Fall ist harmlos, weil am Ende nur ein Kühlschrank voll war. Er zeigt aber sauber, wo die eigentliche Lücke liegt: Der Agent hat nicht nach Erinnerung geantwortet, sondern nach einer Notiz gesucht, und es gab keine. Wer Agenten mit Zugriff auf Mails, Kundendaten oder Zahlungen betreibt, braucht diese Notiz vorher und nicht erst, wenn jemand “Warum?” fragt.

Ein Entscheidungsprotokoll besteht aus wenigen, klar definierten Feldern, wird vom Workflow geschrieben und nicht vom Modell und liegt an einem Ort, der länger lebt als die Ausführungsliste. Es kostet einen Arbeitstag Aufbau pro Agent und spart im Streitfall Stunden, in denen du sonst rätselst, ob der Agent, ein Angreifer oder dein eigener Prompt schuld war.

Der erste Schritt ist klein: Schalte bei deinem wichtigsten Agenten heute “Return Intermediate Steps” ein und lege fest, wohin die Protokollzeile geschrieben wird. Wie wir Protokollierung, Freigaben und Notbremse in einem System zusammenführen, siehst du auf der Seite zum B.R.A.I.N. KI-System. Für den Aufbau mit n8n steht unsere n8n-Agentur bereit.

Über MadeByBrain: Wir bauen KI-Automatisierung für den Mittelstand, eigene AI-Agenten, n8n-Workflows und GEO-Strategien, live im Einsatz. Von der ersten Idee bis zur produktiven Automatisierung.

Jetzt kostenloses Strategiegespräch vereinbaren →

Dieser Beitrag ist auch verfügbar in:

Ähnliche Beiträge