Agentische KI braucht kontrollierten Handlungsspielraum

Kurzfassung: Agentische KI verändert nicht nur Werkzeuge, sondern Verantwortlichkeiten. Sobald Systeme Daten abrufen, Vorgänge bewerten oder Aktionen vorbereiten, entsteht Rollenumbau im Betrieb: Fachbereiche prüfen Wirkung, IT begrenzt Zugänge, Führung steuert Reichweite, und Produktivität misst sich am verwertbaren Ergebnis.

Agentische KI ist für Unternehmen nicht deshalb relevant, weil sie besonders überzeugende Antworten formuliert. Der Sprung beginnt dort, wo ein System Arbeitsschritte verbindet: Informationen aufnehmen, Datenquellen nutzen, Werkzeuge ansteuern, Entscheidungen vorbereiten und Rückmeldungen auswerten. Damit entsteht eine neue betriebliche Zwischenrolle zwischen Software, Fachbereich und Management. Die zentrale Frage im KI-Management lautet deshalb: Wie viel Handlungsspielraum bekommt ein System, ohne dass Verantwortung, Kosten und Kundenwirkung unscharf werden?

Vom Modell zur betrieblichen Zwischenrolle

Der konkrete Anlass ist kein einzelner Technologiesprung, sondern die Verdichtung mehrerer Entwicklungen: Agenten werden als Systeme beschrieben, die Modelle mit Werkzeugen, Kontext, Anweisungen, Übergaben und Kontrollpunkten verbinden. OpenAI fasst das in seinem Leitfaden zum Bau von Agenten ausdrücklich breiter als eine reine Chat-Anwendung. Das NIST AI Risk Management Framework behandelt KI-Risiken zudem als laufende Managementaufgabe mit Governance, Messung, Steuerung und Überwachung.

Dazu kommt ein praktischer Sicherheitsfall. Hugging Face veröffentlichte einen Vorfall zu Spaces Secrets. Nach Angaben des Unternehmens konnten unter bestimmten Umständen sensible Informationen wie Zugriffsschlüssel oder Tokens offengelegt worden sein. Betroffenen Nutzern wurde unter anderem empfohlen, Secrets zu rotieren. Der Fall ist technisch begrenzt, aber für Unternehmen aufschlussreich: KI-nahe Umgebungen bestehen nicht nur aus Modellen und Eingaben. Sie verbinden Code, Daten, Berechtigungen, Schnittstellen und externe Dienste.

Daraus entsteht die eigentliche Managementeinsicht: Agentische Systeme übernehmen keine klassische Softwarefunktion, sondern eine betriebliche Zwischenrolle. Sie lesen nicht nur, sie bereiten Handlungen vor. Sie sortieren nicht nur Informationen, sie beeinflussen Vorgänge. Damit verändern sich Jobs und Zuständigkeiten leiser, aber konkreter als viele Automatisierungsdebatten vermuten lassen.

Im Vertrieb heißt das: Ein KI-System kann nicht nur eine Gesprächsnotiz zusammenfassen, sondern CRM-Daten lesen, frühere Angebote prüfen, Rabattlogiken einbeziehen und einen Angebotsentwurf vorbereiten. Im Service kann es Anfragen klassifizieren, Garantieinformationen auswerten, Antwortvorschläge erstellen und interne Aufgaben anlegen. In der Projektabwicklung kann es offene Punkte, Statusmeldungen und Risiken zusammenführen. Jede dieser Tätigkeiten berührt eine andere Verantwortung als bloße Textproduktion.

Der Rollenumbau beginnt bei der fachlichen Prüfung

Der Satz „der Mensch bleibt verantwortlich“ reicht für agentische Arbeitsabläufe nicht aus. Er verdeckt, dass Verantwortung in mehreren Schichten entsteht. Ein Serviceagent kann eine Anfrage falsch einordnen, weil Kundendaten veraltet sind, eine Kulanzregel unklar formuliert wurde, ein Zugriff zu weit gefasst ist oder ein Mensch den Vorschlag ohne fachliche Prüfung übernommen hat. Das sind unterschiedliche Ursachen mit unterschiedlichen Eigentümern.

In der Praxis entstehen dadurch neue Zuschnitte von Arbeit. Fachbereiche werden stärker zu Qualitätsgebern. Sie müssen präziser beschreiben, was ein belastbares Ergebnis ist: eine korrekte Preislogik, eine zulässige Kundenzusage, eine plausible Eskalation, eine vollständige Fallbearbeitung. IT verantwortet nicht nur die Bereitstellung eines Systems, sondern Rechte, Schnittstellen, Protokolle, Schlüsselrotation und Sperrmöglichkeiten. Führung entscheidet über Reichweite: nur lesen, Vorschläge erzeugen, interne Felder vorbereiten, Änderungen nach Freigabe schreiben oder in engen Grenzen selbst handeln.

Dieser Rollenumbau betrifft auch Kompetenzaufbau. Mitarbeitende brauchen nicht nur allgemeine KI-Schulungen, sondern Urteilskraft am konkreten Vorgang. Sie müssen erkennen, ob ein Vorschlag fachlich tragfähig ist, ob die genutzte Datenbasis verbindlich war, ob eine Annahme fehlt oder ob eine Kundenwirkung entsteht, die eine Freigabe verlangt. In vielen Bereichen verschiebt sich der Wert der Arbeit von der Informationssuche zur Bewertung und Steuerung.

Für KI im Mittelstand ist das besonders praktisch. Viele KMU arbeiten mit kurzen Wegen und viel Erfahrungswissen. Agentische Systeme können dieses Wissen aber nur nutzen, soweit es in Datenquellen, Regeln, Zuständigkeiten und Ausnahmen greifbar wird. Informelle Stärke bleibt wichtig, sie muss jedoch an den Stellen formalisiert werden, an denen KI operative Schritte vorbereitet.

Nachvollziehbarkeit ersetzt keine Verantwortung, macht sie aber handhabbar

Bei agentischer KI ist vollständige Modell-Erklärung selten der entscheidende Maßstab. Wichtiger ist die betriebliche Nachvollziehbarkeit eines konkreten Vorgangs. Ein Unternehmen muss rekonstruieren können, welche Eingabe vorlag, welche verbindliche Datenquelle genutzt wurde, welches Werkzeug aufgerufen wurde, welche Ausgabe entstand und wer fachlich geprüft oder freigegeben hat.

Das ist kein abstrakter Compliance-Punkt. Es entscheidet über Korrekturfähigkeit. Enthält ein Angebotsentwurf falsche Konditionen, muss sichtbar werden, ob eine veraltete Preisliste genutzt wurde, eine Rabattregel fehlte oder ein Mensch die Empfehlung ungeprüft übernommen hat. Wird ein Servicefall falsch eskaliert, braucht die Organisation Hinweise darauf, ob die Datenlage unvollständig war oder die Klassifikation nicht zum Falltyp passte.

Logs sind deshalb eine Betriebsfunktion. Sie liefern nicht nur Belege, sondern Lernmaterial. Rücknahmefähigkeit ist ebenso konkret: Eine falsch gesetzte Ticketkategorie lässt sich meist korrigieren. Eine geänderte Stammdateninformation ebenfalls, sofern sie protokolliert wurde. Eine versendete Kundenmail, eine ausgelöste Bestellung oder eine verbindliche Preiszusage ist deutlich schwerer zurückzunehmen.

Aus diesem Grund sollte die Reichweite eines Agenten nicht pauschal festgelegt werden. Lesender Zugriff verlangt andere Regeln als Schreibrechte. Ein interner Vorschlag hat eine andere Wirkung als eine Nachricht an Kunden. Eine vorbereitete Gutschrift unterscheidet sich von einer automatisch ausgelösten. KI-Governance wird in solchen Abstufungen greifbar: nicht als Grundsatzpapier, sondern als Entscheidung darüber, an welcher Stelle eine fachliche Prüfung nötig ist und wo Automatisierung verantwortbar bleibt.

Produktivität entsteht durch verwertbare Ergebnisse

Viele KI-Projekte messen zunächst Aktivität: Anzahl der erzeugten Texte, genutzte Funktionen, automatisierte Schritte. Für agentische Arbeitsabläufe führt das leicht in die Irre. Betriebswirtschaftlich zählt das verwertbare Ergebnis je Vorgang.

Ein Agent verursacht laufende Kosten: Modellaufrufe, Datenabfragen, Schnittstellen, Protokollierung, Rechteverwaltung, fachliche Prüfung und Korrekturen. Ein System, das zehn Angebotsentwürfe erzeugt, aber jeden Entwurf durch falsche Daten oder unklare Annahmen in lange Nacharbeit treibt, verbessert die Produktivität kaum. Ein enger geführter Agent, der drei belastbare Entwürfe mit nachvollziehbarer Datenbasis liefert, kann wirtschaftlich sinnvoller sein.

Die Lernschleife ist dabei der eigentliche Hebel. Korrekturen sollten nicht im Einzelfall verschwinden. Übernommene, geänderte und verworfene Vorschläge zeigen, wo der Ablauf selbst unklar ist. Häufig liegt die Ursache nicht im Modell, sondern in mehreren Preislisten, widersprüchlichen Prozessregeln, fehlenden Kundendaten oder unklaren Zuständigkeiten. Agentische KI macht solche Unschärfen sichtbar, weil sie aus ihnen Handlungsvorschläge ableitet.

Für das Management ergeben sich daraus andere Kennzahlen: Wie oft wird ein Servicefall beim ersten Mal korrekt gelöst? Wie stark sinkt die Angebotsdurchlaufzeit? Wie viele KI-Vorschläge müssen fachlich korrigiert werden? Welche Kosten entstehen pro abgeschlossenem Vorgang? An welchen Stellen erzeugt das System Nacharbeit statt Entlastung?

Für eine KMU-Geschäftsführung ist die Konsequenz klar: Der erste produktive Einsatz sollte nicht der breiteste sein, sondern der am besten begrenzte. Sinnvoll ist ein wiederkehrender Vorgang mit verbindlicher Datenquelle, engen Rechten, sichtbarer Protokollierung, gezielter fachlicher Prüfung und Auswertung der Korrekturen. Erst danach sollte der Handlungsspielraum wachsen. So wird KI nicht nur genutzt, sondern als verantwortbare Arbeitsleistung in den Betrieb eingebunden.