Ein Chatbot führt den Dialog; ein Agent kann Werkzeuge nutzen und Systeme verändern. Entscheidend ist das erforderliche Maß an Autonomie und Kontrolle.

Die kurze Antwort

Wählen Sie einen Chatbot, wenn Orientierung und Antworten ausreichen. Ein Agent ist erst dann sinnvoll, wenn Handlungen über Tools Wert schaffen und Sie Berechtigungen, Validierungen, Beobachtbarkeit und Abschaltung umsetzen können.

Der nächste Schritt ist, Entscheidung, Verantwortung und akzeptierte Nachweise zu klären, bevor ein Werkzeug gewählt wird.

Das Entschei­dungs­modell

01. Dialog

Definieren Sie Absichten, Quellen und die Übergabe an Menschen.

02. Werkzeuge

Listen Sie erlaubte Handlungen und deren Folgen auf.

03. Kontrolle

Setzen Sie Rechte, Bestätigungen und Grenzen abhängig vom Risiko.

04. Betrieb

Überwachen Sie Aufgabenerfüllung, Fehler, Kosten und Modelländerungen.

Anwendung in der Praxis

01. Ausgangslage

Erfassen Sie die Gespräche und unterscheiden Sie drei Bedürfnisse: Information, Empfehlung und Handlung. Für Information kann eine Antwort mit Quellen und menschlicher Übergabe genügen. Eine Empfehlung braucht mehr Kontext und Bewertung. Handlungen in CRM, Kalender, Rechnungsstellung oder anderen Systemen bringen Berechtigungen und Folgen mit sich. Diese Einteilung verhindert, dass ein Chatbot allein wegen seines generativen Modells als Agent bezeichnet wird.

02. Kontrol­lierte Ausführung

Bauen Sie Autonomie stufenweise auf. Auf der ersten Stufe erklärt das System, auf der zweiten bereitet es eine Handlung vor, auf der dritten führt es sie nach Bestätigung aus. Erst auf der letzten Stufe darf es innerhalb festgelegter Grenzen handeln. Definieren Sie für jedes Tool erlaubte Felder, Volumen, Häufigkeit, Validierungen und verbotene Operationen. Minimale Rechte vereinfachen Tests und die Untersuchung von Vorfällen erheblich.

03. Aussage­kräftige Nachweise

Die Bewertung eines Agenten umfasst das Ergebnis und den Weg dorthin. Prüfen Sie Tool-Auswahl, Argumente, Parameter, Reihenfolge der Aufrufe, Umgang mit unvollständigen Antworten und Abschaltung. Eine gute Antwortquote gleicht eine falsche Handlung nicht aus. Das Protokoll muss die Entscheidung rekonstruierbar machen, ohne mehr sensible Daten als nötig offenzulegen.

04. Entschei­dungs­schwelle

Wählen Sie einen Agenten nur, wenn der Wert seiner Handlungen die zusätzlichen Kosten für Sicherheit, Bewertung und Betrieb übersteigt. Braucht der Nutzer hauptsächlich Orientierung, ist ein gut mit Quellen verbundener Chatbot berechenbarer. Erfordert die Aufgabe mehrere Anwendungen, Schritte und Entscheidungen, kann ein Agent gerechtfertigt sein. Beginnen Sie dennoch mit menschlicher Bestätigung und reversiblen Operationen, bevor Sie die Autonomie erweitern.

Szenario und Arbeitsplan

01. Diagnose­beispiel

Ein Assistent, der aus Dokumentationen antwortet und Gespräche an einen Kollegen weitergibt, ist im Wesentlichen eine Gesprächsschnittstelle mit Retrieval und Fallback. Kann dasselbe System Bestände prüfen, Bestellungen anlegen, Lieferungen planen und das CRM ändern, arbeitet es als Agent: Es wählt Tools aus und nutzt sie mit konkreten Auswirkungen. Diese zweite Variante benötigt Identität, Rechte, Bestätigungen, Idempotenz und Volumengrenzen. Sie ist nicht automatisch besser. Ihr Wert hängt davon ab, ob die Handlung nötig ist und jede Folge kontrolliert werden kann.

02. Um­setzungs­plan

Entwickeln Sie zunächst eine Variante, die antwortet und Handlungen vorbereitet. Sammeln Sie Situationen, in denen Nutzer tatsächlich eine Ausführung benötigen, und die Korrekturen der Mitarbeitenden. Ergänzen Sie ein Tool in einer Testumgebung mit eingeschränkten Operationen und synthetischen Daten. Bewerten Sie anschließend Auswahl und Parameter. Im Produktivbetrieb verlangen Sie für Schreibvorgänge eine Bestätigung und zeigen das Endergebnis des Zielsystems. Autonomie ohne Bestätigung lässt sich erst prüfen, wenn Volumen, Fehler und Vorfälle belegen, dass der Wert das zusätzliche Risiko rechtfertigt.

03. Entschei­dungs­protokoll

Damit die Empfehlungen aus „KI-Agent oder Chatbot: Unterschiede bei Architektur, Risiko und Betrieb“ nachvollziehbar bleiben, eröffnen wir vor der ersten Änderung ein einfaches Protokoll. Darin stehen das beobachtete Problem, die Ausgangslage, die Hypothese, die verantwortliche Person, der Bewertungszeitraum und die Bedingung für Fortsetzung oder Stopp. Nachweise stammen aus den zum Thema passenden Quellen; technische Kennzahlen werden von Geschäftsergebnissen getrennt. Zuerst betrachten wir Aufgabenerfüllung und Eskalationen im Zusammenhang mit Datenqualität, Gesamtkosten und den Auswirkungen auf spätere Schritte. So lässt sich eine Entscheidung erklären und wiederholen, statt sie aus einem günstigen Dashboard abzuleiten.

04. Review und nächste Entscheidung

Am Zyklusende vergleichen wir das Ergebnis mit dem Ausgangspunkt und dokumentieren Änderungen, offene Unsicherheiten und Nebenwirkungen. Wir prüfen ausdrücklich die Bedingungen „Die Aufgabe lässt sich nicht allein durch eine Antwort lösen“ und „Tools haben minimale Berechtigungen“. Lassen die Daten keine Schlussfolgerung zu, bleibt die Hypothese offen. Das Risiko „Autonomie vor der Bewertung“ bleibt im Review sichtbar, damit der Druck, Fortschritt zu zeigen, die Analyse nicht ersetzt. Den nächsten Schritt wählen wir erst, wenn das Team seine Erkenntnisse benennen und die neue Priorität gegenüber Alternativen begründen kann.

Checkliste vor der Umsetzung

  • Die Aufgabe lässt sich nicht allein durch eine Antwort lösen.
  • Tools haben minimale Berechtigungen.
  • Handlungen werden validiert und protokolliert.
  • Fallback und menschliche Übergabe sind vorgesehen.
  • Der Bewertungsdatensatz enthält Grenzfälle.

Was wir messen

Kennzahlen werden vor dem Start definiert und unterscheiden technische Signale von bestätigten Ergebnissen.

  • Aufgabenerfüllung und Eskalationen;
  • abgewiesene oder korrigierte Handlungen;
  • Latenz und Kosten pro Aufgabe;
  • Nutzung und hilfreiches Feedback.

Fehler und Grenzen

  • Autonomie vor der Bewertung.
  • Tools mit zu weitreichendem Zugriff.
  • Gedächtnis ohne Aufbewahrungsregeln.
  • Fehlende Bestätigung für irreversible Handlungen.

Fazit

Beginnen Sie mit der geringsten Autonomie, die die Aufgabe löst. Erweitern Sie Tools und Gedächtnis erst, wenn Sie das Verhalten erklären, testen und stoppen können.