Wo KI im Ablauf anhalten muss

Wo muss KI im Ablauf anhalten?

An drei Stellen. Erstens, wenn ein Fall unklar ist: Angaben fehlen, widersprechen sich oder passen in keine Kategorie. Zweitens, bevor etwas den Betrieb verlässt, etwa eine Antwort an Kunden, ein Angebot oder eine Zahlung. Drittens, wo im Einzelfall entschieden wird, etwa über eine Zusage, eine Ablehnung oder einen Preis.

An diesen Stellen übernimmt ein Mensch. Dazwischen darf die KI vorbereiten: sortieren, auslesen, zusammenfassen, Entwürfe schreiben. Wir nennen dieses Muster „KI mit Haltepunkt“. Es ist keine Bremse. Es ist die Voraussetzung dafür, dass man einem automatisierten Ablauf überhaupt Arbeit überlassen kann.

Woher kommt die Idee des Haltepunkts?

Aus dem Toyota-Produktionssystem. Sakichi Toyoda, der Gründer der Toyota-Gruppe, baute einen Webstuhl, der von selbst anhielt, sobald ein Faden riss. So entstand kein fehlerhafter Stoff in Serie. Und ein Mensch konnte sich um mehrere Maschinen kümmern, statt jede einzelne zu bewachen.

Toyota nennt dieses Prinzip Jidoka: Automatisierung, in die menschliches Urteil eingebaut ist. Das japanische Wort schreibt Toyota mit einem Zeichen, in dem der Mensch steckt. Die Maschine erkennt den Fehler, hält an und ruft jemanden. Der Mensch behebt dann die Ursache, nicht nur das Symptom.

Für KI im Büro heißt das: Ein Ablauf, der bei Unklarheit anhält, verschickt keine falschen Antworten in Serie. Ihr Team muss nicht jeden Vorgang ansehen. Es sieht die Fälle, die angehalten haben, und gibt frei, was hinausgeht.

Warum genügt es nicht, dass die KI meistens richtig liegt?

Weil Sprachmodelle auch dann flüssig und überzeugend formulieren, wenn sie falsch liegen. Ein Fehler fällt nicht an der Form auf. Eine erfundene Bestellnummer sieht aus wie eine echte, ein falsch gelesener Betrag wie ein richtiger.

Dazu kommt ein gut untersuchter Effekt: Wer lange mit einer zuverlässigen Automatik arbeitet, prüft mit der Zeit weniger genau. Die Fachliteratur spricht von Automation Bias. Gerade seltene Fehler werden so leicht übersehen.

Deshalb verlassen wir uns nicht darauf, dass die KI gut genug eingestellt ist. Wir legen fest, wo der Ablauf stehen bleibt. Und wir bauen das so, dass es nicht von der Tagesform eines Modells abhängt.

Woran erkennt ein Ablauf, dass er anhalten muss?

An Regeln, die man vorher aufschreibt und prüfen kann. Typische Auslöser: Pflichtangaben fehlen, etwa eine Adresse oder ein Wunschtermin. Angaben widersprechen sich, etwa zwei verschiedene Mengen in derselben Anfrage. Ein Betrag liegt über einer festgelegten Grenze. Oder der Fall berührt ein heikles Thema wie eine Beschwerde, eine Kündigung oder eine Frist.

Wichtig ist, dass die KI „weiß nicht“ sagen darf. Wir geben ihr dafür eine eigene Kategorie, statt sie zu zwingen, jeden Fall irgendwo einzusortieren. Ein Fall in dieser Kategorie hält an.

Die übrigen Prüfungen laufen als gewöhnlicher Programmcode um die KI herum. Ist das Pflichtfeld gefüllt, liegt der Betrag unter der Grenze, ist der Absender bekannt? Solche Regeln verhalten sich jedes Mal gleich. Man kann sie testen und nachlesen. Die KI entscheidet also nicht selbst darüber, ob sie geprüft wird.

Wie sieht ein Haltepunkt im Alltag aus?

Ein Beispiel, vereinfacht und kein Kundenprojekt: Ein Dienstleistungsbetrieb bekommt Anfragen per E-Mail und über ein Kontaktformular. Beides läuft in einem Eingang zusammen. Die KI ordnet die E-Mails zu, liest die Angaben aus und markiert, was fehlt. Unklare Fälle gehen direkt an einen Menschen.

Aus Bausteinen mit aktuellen Preisen entsteht ein Angebotsentwurf. Ein Mensch prüft ihn und gibt ihn frei. Erst dann geht das Angebot hinaus, die Wiedervorlage folgt automatisch. Der Ablauf hat damit zwei Haltepunkte: einen für Unklares und einen vor dem Versand.

Damit die Freigabe kein bloßer Klick wird, gestalten wir sie bewusst. Neben jedem ausgelesenen Wert steht die Stelle, aus der er stammt. Unsichere Werte sind markiert. Was der Mensch ändert, wird festgehalten, ebenso, wer freigegeben hat. So lässt sich später nachvollziehen, warum etwas so hinausging.

Was haben wir beim Bau von CuraNexus dafür gelernt?

CuraNexus, unser eigenes Produkt für Arztpraxen, verarbeitet Gesundheitsdaten. Dort haben wir bei jeder Funktion gefragt, welche Daten das System verlassen. Die Bestätigung an Patienten nennt deshalb Datum und Uhrzeit, aber nicht den Anlass, den sie bei der Buchung angeben. An uns gehen nur Lizenz- und Statusdaten.

Dieselbe Frage stellen wir bei jeder KI-Automatisierung, bevor wir einen Dienst anbinden: Welche Daten braucht dieser Schritt wirklich, und wo werden sie verarbeitet? Oft genügt weniger, als man zuerst denkt.

Eine zweite Lehre: Geprüft wird dort, wo es darauf ankommt, nicht nur vorher. In der Online-Terminbuchung von CuraNexus zeigt das Formular freie Zeiten an. Beim Absenden prüft der Server trotzdem noch einmal, ob der Termin noch frei ist. Bei KI gilt dasselbe: Eine gute Vorhersage ersetzt nicht die Prüfung am Haltepunkt.

Was klären wir, bevor KI mitarbeitet?

Drei Fragen, schriftlich und vor der ersten Zeile Code. Was darf KI übernehmen? Typischerweise Eingänge sortieren, Angaben aus Dokumenten auslesen, Entwürfe für Antworten und Angebote schreiben und internes Wissen auffindbar machen.

Was bleibt beim Menschen? Prüfen und freigeben, was KI schreibt, Entscheidungen im Einzelfall und die Verantwortung für das Ergebnis. Und was klären wir vorab? Welche Daten ein KI-Dienst wirklich braucht, wo er sie verarbeitet und ob es ohne KI einfacher geht.

Die letzte Frage ist ernst gemeint. Manchmal löst ein besseres Formular, eine klare Vorlage oder eine andere Reihenfolge das Problem, ganz ohne KI. Dann sagen wir das.

Auch das Recht kennt den Gedanken. Die KI-Verordnung der EU verlangt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht (Art. 14). Die DSGVO gibt Menschen grundsätzlich das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt (Art. 22). Unser Haltepunkt ist keine Rechtsauskunft. Er ist eine Arbeitsregel, die wir unabhängig davon anwenden.

Wie misst man, ob der Haltepunkt richtig sitzt?

Mit wenigen Größen, vorher und nachher erhoben. Wie viele Fälle halten an? Wie oft ändern Menschen einen Entwurf vor der Freigabe? Und wie lange dauert ein Vorgang vom Eingang bis zur Antwort?

Hält fast alles an, entlastet der Ablauf niemanden. Hält fast nichts an und werden Entwürfe trotzdem oft geändert, sitzt der Haltepunkt zu spät. Werden Entwürfe nie geändert, lohnt ein Blick, ob überhaupt noch geprüft wird.

Wir verschieben die Grenzen in kleinen Schritten und messen erneut. Im Toyota-Produktionssystem heißt das Kaizen: Verbesserung in kleinen, überprüfbaren Schritten. Was sich bewährt, wird zum neuen Standard.