KI braucht eine Beweislast

Kurzfassung: KI ist im Nachrichtenrhythmus angekommen. Für Unternehmen folgt daraus kein automatischer Projektauftrag. Managementrelevant wird eine Entwicklung erst, wenn belegbar ist, welche Entscheidung, Kundenwirkung, Kostenposition, Rolle oder Anbieterbindung sie im eigenen Betrieb verändert.

KI-Meldungen, Modellvergleiche, Plattformfunktionen und agentische Arbeitsabläufe erzeugen inzwischen eine dauerhafte Grundlautstärke. Für Geschäftsführungen zählt deshalb weniger, welche Entwicklung öffentlich groß erscheint. Entscheidend ist der Punkt, an dem aus Aufmerksamkeit ein betrieblicher Anlass wird: Welche Behauptung über Nutzen, Risiko oder Rollenumbau lässt sich im eigenen Unternehmen tatsächlich belegen?

Aus Nachrichtenwert entsteht noch kein Entscheidungswert

Der aktuelle Anlass ist keine einzelne Produktveröffentlichung, sondern eine Verdichtung: KI, Automatisierung und Debatten über weitreichende Fähigkeiten sind Teil des allgemeinen Nachrichtenzyklus geworden. Für das Management entsteht dadurch ein Sortierproblem. Viele Entwicklungen wirken relevant, weil sie sichtbar sind. Im Unternehmen zählt aber nur, ob sie Arbeit, Kundenversprechen, Entscheidungsqualität oder Kosten nachweisbar verändern.

Damit rückt eine andere Form von KI-Management in den Vordergrund. Die Frage lautet nicht: Welche neue Funktion ist technisch beeindruckend? Sondern: Welche geschäftliche Behauptung müsste stimmen, damit diese Funktion in verbindliche Arbeit einziehen darf?

Ein Schreibassistent für interne Notizen hat geringe betriebliche Tragweite. Ein System, das aus Kundendaten, Produktinformationen und früheren Angeboten einen Angebotsentwurf erstellt, berührt Marge, Lieferzusage und Kundenerwartung. Der Unterschied liegt nicht im Modell, sondern in der Nachweisfrage: Wird ein schnelleres, korrektes und kaufmännisch tragfähiges Angebot wahrscheinlicher — oder entsteht nur ein gut formulierter Vorentwurf mit zusätzlicher Prüfung?

Hier liegt der praktische Rollenumbau. KI ersetzt nicht einfach eine Stelle. Sie verlagert Aufgaben innerhalb bestehender Funktionen. Im Vertrieb sinkt der Anteil an Erstformulierung, während Prüfung von Preislogik, technischer Machbarkeit und Vertragsbezug wichtiger wird. Im Service verliert reine Antwortgeschwindigkeit an Bedeutung, während Auskunftsfähigkeit auf Basis gültiger Vertrags- und Produktdaten zählt.

Für KI im Mittelstand ist diese Sicht besonders brauchbar. Viele Unternehmen haben weder Zeit noch Budget, jede Entwicklung in einen Pilotversuch zu überführen. Sie brauchen eine nüchterne Unterscheidung zwischen Beobachtung, begrenztem Test und operativer Einführung.

Der Beleg beginnt vor dem Pilotprojekt

Viele KI-Initiativen starten mit plausiblen Annahmen: weniger Suchzeit, schnellere Texte, bessere Zusammenfassungen, mehr Produktivität. Diese Annahmen sind nicht wertlos, aber noch keine Entscheidungsgrundlage. Für eine belastbare Relevanzprüfung zählt die Kette vom Einsatz bis zum verwertbaren Ergebnis.

Im Vertrieb wäre nicht die Zahl generierter Angebotsentwürfe entscheidend. Aussagekräftiger ist, ob die Zeit bis zur versandfähigen Version sinkt, ob weniger kaufmännische Korrekturen nötig sind, ob technische Einschränkungen früher sichtbar werden und ob Abschlussqualität oder Marge stabil bleiben. Im Service zählt nicht, wie viele Antwortvorschläge entstehen. Relevant ist, ob Erstlösungsquote, Eskalationen, Folgekontakte und Kundenzufriedenheit sich verbessern, ohne dass falsche Auskünfte zunehmen.

Diese Sicht schützt vor einer häufigen Fehlsteuerung: KI erzeugt sichtbare Vorleistung, aber nicht automatisch Produktivität. Ein sauber formulierter Projektstatus beruht womöglich auf veralteten Informationen. Eine höfliche Kundenantwort nutzt möglicherweise die falsche Vertragsversion. Eine Zusammenfassung bildet die dokumentierte Lage gut ab und blendet zugleich informelles Wissen aus Kundenbeziehungen, Werkstattpraxis oder Eskalationen aus.

Deshalb beginnt die Beurteilung bei der Prozessauswahl. Wiederkehrende Vorgänge mit klaren Qualitätskriterien eignen sich eher als seltene Einzelfälle mit hoher Ausnahmelogik. Ein KI-System für standardisierte Servicefälle lässt sich meist besser bewerten als ein allgemeiner Assistent für strategische Entscheidungen. Je näher eine Anwendung an Kundenversprechen, Preisen, Verträgen oder Ressourcenentscheidungen rückt, desto belastbarer muss der Nachweis sein.

Eine verbindliche Datenquelle ist dabei Voraussetzung, nicht Nebenprojekt. Wenn Produktinformationen in Präsentationen, Preise in Tabellen, Vertragsstände in Ablagen und Kundenhistorien in mehreren Systemen liegen, erzeugt KI schnelle Ergebnisse, aber keine verlässliche Arbeit. Die operative Frage lautet dann: Aus welchem System darf eine Aussage gegenüber Kunden, Lieferanten oder internen Entscheidern entstehen?

Rahmenwerke liefern Kategorien, nicht den betrieblichen Beleg

Für die Einordnung von KI gibt es inzwischen feste öffentliche Bezugspunkte. Die EU-KI-Verordnung ist als Verordnung (EU) 2024/1689 veröffentlicht und folgt einem risikobasierten Ansatz. Sie unterscheidet unter anderem verbotene KI-Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten und Anforderungen an bestimmte allgemeine KI-Modelle. Damit ist KI-Governance in Europa in relevanten Anwendungsfällen auch eine Frage von Pflichten, Dokumentation und Verantwortung.

Das NIST AI Risk Management Framework strukturiert KI-Risikomanagement entlang der Funktionen Governance, Einordnung, Bewertung und Steuerung. Es lenkt den Blick auf Zweck, Einsatzumfeld, Messbarkeit und laufende Kontrolle. Die OECD AI Principles formulieren Grundsätze für vertrauenswürdige KI, darunter menschenzentrierte Werte, Transparenz, Robustheit, Sicherheit und Verantwortlichkeit.

Diese Referenzen sind wichtig, weil sie Unternehmen eine Sprache für Risikoeinstufung, Kontrolle und Zuständigkeit geben. Sie ersetzen aber nicht die betriebliche Evidenz. Die EU-KI-Verordnung entscheidet nicht, ob ein Serviceassistent in einem konkreten Unternehmen auf die gültige Vertragsquelle zugreift. Das NIST-Rahmenwerk sagt nicht, ob ein Angebotsprozess nach KI-Einsatz wirklich weniger Nacharbeit erzeugt. Die OECD-Grundsätze benennen Verantwortlichkeit, bestimmen aber nicht, wer eine maschinell vorbereitete Kundenaussage freigibt.

Gerade agentische Arbeitsabläufe machen diese Grenze sichtbar. Solche Systeme erzeugen nicht nur eine einzelne Antwort. Sie suchen Informationen, fragen Datenquellen ab, nutzen Werkzeuge, formulieren Optionen, legen Aufgaben an oder schlagen nächste Aktionen vor. Ein Servicesystem, das einen Fall klassifiziert, frühere Vorgänge heranzieht, eine Antwort vorbereitet und eine Eskalation empfiehlt, liefert bereits eine Interpretation des Vorgangs.

Dafür reicht eine allgemeine Freigabe „KI darf genutzt werden“ nicht aus. Es braucht den Nachweis, dass die einzelnen Schritte im konkreten Ablauf nachvollziehbar, prüfbar und fachlich tragfähig bleiben. Das betrifft Fachbereich, IT, Datenschutz, Recht und Führung zugleich. Organisatorische Anschlussfähigkeit entsteht nicht durch eine Grundsatzentscheidung, sondern durch geklärte Verwendung im jeweiligen Vorgang.

Anbieterfunktionen verändern Rollen und Wechselkosten

Viele Unternehmen führen KI nicht zuerst durch eigene Entwicklung ein, sondern über vorhandene Software: Büroanwendungen, CRM, ERP, Serviceplattformen, Dokumentenmanagement, Zusammenarbeit oder Branchensysteme. Das ist pragmatisch, weil die Werkzeuge bereits im Betrieb sind. Es verändert aber die Beweislast, weil neue Funktionen über Anbieter-Roadmaps in den Alltag gelangen können, ohne dass vorher eine grundsätzliche Managemententscheidung gefallen ist.

Eine Plattformfunktion erscheint oft als Komfortmerkmal und prägt dennoch Abläufe. Automatische Gesprächszusammenfassungen beeinflussen, welche Kundenanforderungen im CRM landen. Ein KI-gestützter Angebotsassistent priorisiert möglicherweise Produktvarianten. Ein Servicewerkzeug sortiert Fälle vor und legt Bearbeitungswege nahe. Eine Funktion für Projektberichte bestimmt mit, welche Risiken in der Führungsrunde sichtbar werden.

Hier geht es nicht nur um Datenschutz oder Lizenzkosten. Wichtig ist, ob eine Funktion eine neue betriebliche Abhängigkeit erzeugt. Wenn Mitarbeitende ihre Angebotslogik, Servicebearbeitung oder Projektsteuerung zunehmend auf Vorschläge eines Anbieters ausrichten, steigen Wechselkosten. Das Unternehmen übernimmt dann nicht nur Software, sondern auch einen Teil der Arbeitsgestaltung.

Für Beschaffung und Anbietersteuerung heißt das: Eine KI-Funktion braucht eine eigene Begründung, sobald sie verbindliche Arbeit vorbereitet. Welche Daten nutzt sie? Ist sie standardmäßig aktiv? Lassen sich Ergebnisse prüfen und protokollieren? Welche Kosten entstehen bei laufender Nutzung? Lässt sich die Funktion begrenzen, abschalten oder ersetzen, ohne den Prozess neu aufzubauen?

Der praktische Schluss für eine Geschäftsführung ist nüchtern: Eine öffentlich große KI-Entwicklung kann bewusst beobachtet werden, während eine unscheinbare Funktion im bestehenden CRM sofort geprüft werden muss, wenn sie Angebote, Kundenkommunikation oder Anbieterbindung konkret beeinflusst. Für ein KMU entscheidet nicht die lauteste KI-Nachricht über Handlungsbedarf, sondern der erste belegbare Eingriff in Umsatz, Servicequalität, Verantwortung oder Wechselkosten.