Vom Assistenten zum handelnden System
Ein Chatbot beantwortet eine Frage. Ein KI-Agent kann daraus einen Plan ableiten, Dateien lesen, Werkzeuge aufrufen und weitere Schritte auslösen. Genau darin liegt sein Nutzen. Gleichzeitig wird aus einer fehlerhaften Antwort möglicherweise eine fehlerhafte Handlung. Die entscheidende Frage lautet deshalb nicht nur, was ein Modell weiß, sondern was es tun darf.
Mich interessiert an solchen Systemen weniger die Vorführung, in der alles funktioniert. Demos sind höfliche Veranstaltungen: Die Daten passen, das Ziel ist bekannt und niemand ändert zwischendurch die Rahmenbedingungen. Interessant wird es im Alltag. Was geschieht, wenn Informationen fehlen, zwei Vorgaben einander widersprechen oder ein Werkzeug nicht erreichbar ist? Genau dort zeigt sich, ob wir einen belastbaren Arbeitsablauf gebaut haben oder nur eine beeindruckende Abkürzung.
Ein Agent handelt immer in einem Zusammenhang. Er übernimmt Rechte, Daten und Annahmen aus der Umgebung, in der er eingesetzt wird. Sind Berechtigungen zu weit gefasst oder Prozesse unklar, automatisiert das System nicht nur die Arbeit, sondern auch die vorhandene Unordnung. Das ist effizient, nur leider in die falsche Richtung.
Autonomie ist kein Ein-Aus-Schalter
Zwischen einem Formulierungsvorschlag und einer selbstständig ausgeführten Änderung liegen viele Stufen. Rechte sollten zur Aufgabe passen: lesen vor schreiben, Vorschläge vor Ausführung und kleine reversible Schritte vor weitreichenden Aktionen. Wer einem System für Bequemlichkeit pauschal Vollmacht gibt, spart zunächst Klicks und erhält später möglicherweise ein sehr gründliches Layer-8-Problem.
Ich würde deshalb nicht mit der Frage beginnen, wie autonom ein Agent sein kann. Sinnvoller ist: Welche Entscheidung darf er unter welchen Bedingungen treffen? Ein Termin darf vielleicht selbstständig vorgeschlagen werden. Eine verbindliche Zusage, eine Zahlung oder eine Änderung produktiver Daten braucht eine andere Schwelle. Autonomie sollte mit nachgewiesener Zuverlässigkeit wachsen und nicht mit der Begeisterung des Projektteams am ersten Nachmittag.
- Ziel und erlaubten Handlungsraum eindeutig beschreiben.
- Datenzugriffe und Werkzeuge nach dem Minimalprinzip begrenzen.
- Irreversible oder weitreichende Schritte durch Menschen freigeben lassen.
- Protokolle, Abbruchmöglichkeit und Rückfallweg vorsehen.
- Erfolg an Ergebnis und Nebenwirkungen messen.
Kontrolle gehört in den Ablauf
Eine Kontrolle am Ende reicht nicht immer. Wenn ein Agent bereits Nachrichten versendet, Daten verändert oder Bestellungen ausgelöst hat, kommt die Prüfung zu spät. Sinnvoll sind Kontrollpunkte vor Handlungen mit finanziellen, rechtlichen, personellen oder sicherheitsrelevanten Folgen. Routine darf automatisch laufen; Bedeutung braucht Aufmerksamkeit.
Kontrolle bedeutet dabei nicht, jeden automatischen Schritt manuell zu bestätigen. Dann hätten wir einen sehr teuren Assistenten gebaut, dessen wichtigste Fähigkeit darin besteht, neue Klicks zu erzeugen. Gute Kontrolle konzentriert sich auf Abweichungen, Grenzfälle und Handlungen mit hoher Wirkung. Der Normalfall darf fließen; der ungewöhnliche Fall muss sichtbar werden.
Noch spannender wird es, wenn mehrere Agenten Aufgaben aufteilen: Einer recherchiert, einer formuliert, ein dritter prüft. Das kann Qualität erhöhen, sofern die Rollen tatsächlich unterschiedlich sind. Drei Systeme, die dieselbe unklare Annahme freundlich bestätigen, ergeben noch keine Kontrolle. Entscheidend sind getrennte Aufgaben, nachvollziehbare Übergaben und ein gemeinsames Ziel.
Aus meiner Erfahrung mit Projekten kenne ich den Wert klarer Verantwortung. Ein Team darf selbstständig arbeiten, aber es braucht eine Person, die das Ergebnis verantwortet und bei Zielkonflikten entscheidet. Bei Agentensystemen ist das nicht anders. Technik verändert den Ablauf, nicht die Notwendigkeit, Verantwortung zuzuordnen.
Sicherheit beginnt bei Ziel und Kontext
Viele Probleme entstehen nicht durch eine spektakuläre technische Schwäche, sondern durch ein unklar formuliertes Ziel. „Bearbeite die Kundenanfrage“ kann heißen, einen Entwurf vorzubereiten, eine Antwort zu versenden oder zusätzlich Daten im Kundensystem zu ändern. Für einen Menschen ergibt sich die Grenze oft aus Erfahrung und sozialem Kontext. Ein Agent benötigt sie ausdrücklich. Was nicht erlaubt ist, sollte nicht nur im Schulungspapier stehen, sondern technisch außerhalb seines Handlungsraums liegen.
Hinzu kommt der Kontext, den ein System für seine Aufgabe erhält. Ein Agent mit Zugriff auf E-Mail, Dateiablage und Ticketsystem kann Zusammenhänge herstellen, die zuvor über mehrere Bereiche verteilt waren. Das ist nützlich und gleichzeitig sensibel. Rechte, Datenklassen und Protokollierung gehören deshalb gemeinsam betrachtet. Wer nur den Agenten prüft und seine Umgebung übersieht, untersucht den neuen Motor und lässt die Bremsleitung unbeachtet.
Auch externe Inhalte brauchen klare Vertrauensgrenzen. Eine E-Mail, eine Webseite oder ein beigefügtes Dokument kann Anweisungen enthalten, die für den Menschen wie Inhalt aussehen, vom System aber als Auftrag verstanden werden. Deshalb dürfen fremde Informationen nicht automatisch dieselbe Autorität erhalten wie interne Regeln. Das klingt technisch. Im Kern ist es die alte Frage, wem wir warum vertrauen – nur diesmal in deutlich höherer Geschwindigkeit.
Klein beginnen und belastbar erweitern
Ein guter Pilot nutzt überschaubare Daten, klar begrenzte Werkzeuge und ein Ergebnis, das sich prüfen lässt. Erst wenn Fehlerbilder, Kosten und Nutzen verstanden sind, wird der Handlungsraum erweitert. Autonomie ist dann kein Vertrauensvorschuss, sondern das Ergebnis nachgewiesener Zuverlässigkeit.
Zum Pilot gehören auch Abbruchkriterien. Was tun wir, wenn Qualität sinkt, Kosten steigen oder ein Anbieter seine Funktion verändert? Können Menschen die Aufgabe übernehmen, und liegen dafür die nötigen Informationen vor? Ein Rückfallweg wirkt in einer Präsentation selten innovativ. In einer Störung entwickelt er plötzlich eine erstaunliche Attraktivität.
Kurz gesagt
KI-Agenten können Arbeit sinnvoll übernehmen. Verantwortbar werden sie durch klare Ziele, begrenzte Rechte, nachvollziehbare Kontrollen und einen funktionierenden Rückfallweg. Hoffnung ist auch hier keine Betriebsart.
Quellen und weiterführende Informationen
Zuletzt fachlich geprüft: