Automatisierung braucht Verantwortung, nicht nur bessere Werkzeuge

Eine Kundenanfrage geht ein. Ein KI-Agent liest sie, ordnet sie einem Vorgang zu und bereitet die nächsten Schritte vor. Die Demonstration wirkt überzeugend. Doch dann fehlt eine Kundennummer, zwei Systeme zeigen unterschiedliche Vertragsstände oder die gewünschte Änderung braucht eine Freigabe.

Spätestens jetzt zeigt sich, ob ein Unternehmen einen belastbaren Ablauf geschaffen hat oder nur einen beeindruckenden Prototyp.

Genau hier liegt für mich der Kern der aktuellen Automatisierungsdebatte. Die Frage ist nicht nur, was eine KI technisch erledigen kann. Entscheidend ist, unter welchen Bedingungen sie handeln darf und wer Verantwortung übernimmt, wenn etwas nicht nach Plan läuft.

Ein Tool klärt keine Zuständigkeiten

Der Einstieg beginnt häufig mit einer Produktentscheidung: Welche Plattform nehmen wir? Welches Modell ist am leistungsfähigsten? Brauchen wir einen Agenten oder mehrere?

Ich würde vorher andere Fragen stellen: Welches Problem wollen wir lösen? Was gilt als gutes Ergebnis? Wer darf den Ablauf verändern? Und welche Fehler dürfen auf keinen Fall unbemerkt bleiben?

Nehmen wir als Beispiel eine automatisierte Angebotsvorbereitung. Die KI kann eine Anfrage auswerten, Informationen zusammenstellen und einen Entwurf erstellen. Damit ist aber noch nicht geklärt, welche Preise verbindlich sind, wer Rabatte genehmigt oder wann ein Angebot tatsächlich versendet werden darf.

Diese Regeln muss das Unternehmen festlegen. Ein Modell kann bei ihrer Ausarbeitung helfen. Die Verantwortung dafür lässt sich ihm nicht übertragen.

## Die IT schafft die Grundlage. Der Fachbereich kennt die Folgen.

Bei der Automatisierung kommen wichtige Aufgaben auf die IT zu: Schnittstellen bereitstellen, Zugriffe begrenzen, Datenflüsse nachvollziehbar machen und einen verlässlichen Betrieb ermöglichen.

Daraus sollte jedoch nicht folgen, dass die IT allein das automatisierte Unternehmen entwerfen muss.

Der Vertrieb muss beurteilen können, wann eine Anfrage vollständig ist. Der Einkauf muss festlegen, welche Bestellungen eine Freigabe benötigen. Der Kundenservice muss entscheiden, welche Fälle nicht automatisch beantwortet werden sollen. Die Geschäftsführung muss Prioritäten und vertretbare Risiken bestimmen.

Für mich braucht deshalb jeder automatisierte Ablauf zwei klar benannte Zuständigkeiten: eine für das fachliche Ergebnis und eine für die technische Umsetzung. Beide müssen zusammenarbeiten. Sonst wird ein ungeklärter Geschäftsprozess lediglich in Software übersetzt.

Nicht jeder Ablauf braucht einen Agenten

Ein Agent ist für mich kein Selbstzweck. Wo feste Regeln ausreichen, würde ich zunächst einen klassischen Workflow einsetzen.

Eine Erinnerung nach einem definierten Zeitraum oder die Weiterleitung anhand eines eindeutigen Status braucht nicht automatisch ein frei planendes Modell. Interessanter wird KI dort, wo Inhalte interpretiert werden müssen: bei unterschiedlich formulierten Kundenanfragen, unstrukturierten Dokumenten oder der Vorbereitung einer fachlichen Bewertung.

Ein sinnvoller Aufbau könnte so aussehen:

- Der Workflow prüft, ob notwendige Daten vorliegen.

- Die KI wertet den Inhalt aus und schlägt eine Zuordnung vor.

- Feste Regeln begrenzen die zulässigen Folgeaktionen.

- Unklare oder folgenreiche Fälle gehen an einen zuständigen Menschen.

So muss nicht das gesamte Verfahren von einer KI gesteuert werden. Sie übernimmt den Teil, für den sie tatsächlich gebraucht wird.

Der Ausnahmefall gehört zum Entwurf

Ein Standardablauf ist schnell beschrieben. Die eigentliche Arbeit beginnt häufig bei den Abweichungen.

Was passiert, wenn ein angebundenes System nicht erreichbar ist? Wenn ein Dokument widersprüchliche Angaben enthält? Wenn ein Vorgang nach einem Abbruch erneut gestartet wird? Oder wenn ein Agent einen Schritt als erledigt meldet, obwohl das Zielsystem die Änderung nicht gespeichert hat?

Solche Fälle gehören für mich von Anfang an in die Planung. Dazu zählen begrenzte Wiederholungsversuche, ein Schutz vor doppelten Aktionen und eine nachvollziehbare Übergabe an einen Menschen.

Besonders wichtig ist die Unterscheidung zwischen Versuch und Ergebnis. „Die Nachricht wurde zum Versand übergeben“ ist nicht dasselbe wie „Die Nachricht wurde erfolgreich versendet“. Ein verlässlicher Ablauf muss erkennen können, an welchem Punkt er tatsächlich steht.

Klein anfangen, ohne auf perfekte Prozesse zu warten

Trotzdem würde ich nicht erst ein vollständiges Prozesshandbuch schreiben, bevor der erste Versuch starten darf.

Ein begrenzter Prototyp kann helfen, Anforderungen zu verstehen. Gerade beim Ausprobieren wird sichtbar, welche Informationen fehlen oder welche Entscheidungen bislang nur im Kopf einzelner Mitarbeiter existieren.

Ich würde mit einem überschaubaren Anwendungsfall beginnen: einem bekannten Eingang, einem klar beschriebenen Ergebnis und wenigen beteiligten Systemen. Zunächst darf die KI beispielsweise nur Vorschläge erstellen, ohne selbst Änderungen vorzunehmen oder Nachrichten zu versenden.

Danach wird anhand realer Fälle geprüft, was funktioniert und wo nachgebessert werden muss. Erst wenn die Ergebnisse überzeugen, erhält der Ablauf weitergehende Befugnisse.

So entsteht eine kontrollierte Einführung, ohne dass jede Idee erst ein Großprojekt werden muss.

Menschen brauchen sinnvolle Kontrollpunkte

„Ein Mensch prüft das am Ende“ klingt beruhigend. Es hilft allerdings wenig, wenn diese Person weder die Zeit noch die Informationen hat, einen Fehler zu erkennen.

Eine sinnvolle Freigabe braucht Kontext: Welche Daten wurden verwendet? Was wurde verändert? Wo bestehen Unsicherheiten? Welche Folgen hat die Bestätigung?

Nicht jeder Schritt muss manuell kontrolliert werden. Die Kontrolle sollte dort sitzen, wo eine Entscheidung schwer rückgängig zu machen ist oder spürbare Auswirkungen hat.

Wer dagegen jede Kleinigkeit prüfen muss, bekommt möglicherweise keine Entlastung, sondern eine neue Überwachungsaufgabe.

Erfolg zeigt sich nach der Demonstration

Ich würde Automatisierung nicht daran messen, wie viele Agenten laufen oder wie viele Aktionen sie ausführen.

Interessanter sind die Fragen, wie oft ein Vorgang korrekt abgeschlossen wird, wie viel Nacharbeit entsteht und ob Mitarbeiter tatsächlich entlastet werden. Zur Bewertung gehören auch Einrichtung, Wartung, Modellbetrieb und die Bearbeitung von Fehlern.

Dabei geht es nicht ausschließlich um eingesparte Stunden. Ein sinnvoller Nutzen kann auch darin liegen, dass Mitarbeiter Aufgaben bewältigen können, die vorher liegen geblieben sind. Dieser Nutzen sollte aber konkret benannt werden, statt ihn hinter allgemeinen Produktivitätsversprechen zu verstecken.

Fazit: Mehr Handlungsspielraum braucht klare Grenzen

Gute Werkzeuge sind wichtig. Sie ersetzen jedoch keine gemeinsamen Ziele, keine fachliche Verantwortung und keinen durchdachten Umgang mit Ausnahmen.

Für mich beginnt erfolgreiche Automatisierung deshalb mit einem konkreten Problem. IT und Fachbereich entwickeln gemeinsam einen begrenzten Ablauf, prüfen ihn im Alltag und erweitern ihn dort, wo er sich bewährt.

Der Maßstab ist nicht, wie viel ein Agent selbstständig tut. Entscheidend ist, wie zuverlässig ein brauchbares Ergebnis entsteht und wie wenig Nacharbeit dafür nötig ist.