Enabler statt Bremse: Warum KI-Governance beim Menschen anfängt

Dr. Christopher Arz hat gezeigt, warum fast alle Unternehmen KI nutzen und trotzdem kaum jemand einen Ergebnisbeitrag sieht. Und was Governance damit zu tun hat.

Ein Vertriebsingenieur bekommt nur noch die Ausnahmen auf den Tisch. Alles Standardmäßige läuft durch den Agenten, markiert wird nur, wo es Rückfragen an den Kunden gibt. Klingt erst mal vernünftig. Nach einem Jahr fehlt ihm allerdings etwas, das in keinem Risikoregister auftaucht: das Gefühl dafür, was am Markt eigentlich normal ist.

Mit solchen Bildern hat uns Dr. Christopher Arz durch die Session geführt. Chris startet gerade in die freiberufliche Beratung rund um KI-Transformation, war davor viele Jahre in strategischen Rollen bei der DB Systel und noch davor bei Safari. Seine Flughöhe war diesmal bewusst höher als sonst im Prompting Lab: Es ging um Governance. Und zwar um Governance als Orchestrierungsfunktion, nicht als Freigabestempel.

Alle nutzen KI, kaum jemand verdient daran

Als Einstieg wählte er eine Zahl aus der aktuellen McKinsey-Erhebung The state of AI in 2026: On the road to ROI: Praktisch alle Unternehmen nutzen irgendwie KI, viele Befragte fühlen sich persönlich produktiver, aber nur rund sechs Prozent berichten von einem signifikanten Ergebnisbeitrag. Dieser Wert stagniert seit dem Vorjahr. Seine These dazu: Das liegt nicht nur an der Technologie, sondern an organisatorischen Fragen. Ohne Vertrauen entsteht keine Handlungssicherheit, ohne Handlungssicherheit probiert man nur im Kleinen herum, und im Kleinen entsteht eben kein Wertbeitrag.

Governance heißt Alignment, nicht Genehmigung

Rechtliche Anforderungen und ethische Grundsätze sind für Chris der unstrittige Teil von Governance. Die Funktion, die seiner Erfahrung nach regelmäßig untergeht, ist das Alignment: sicherstellen, dass das Ganze zu Strategie, Zielen, Werten und Arbeitsweisen der Organisation passt. Bei einer so beweglichen Technologie ist das besonders schwer herzustellen und genau deshalb besonders wertvoll.

Sein Reifegradmodell hat vier Stufen: Compliance, dann Risiko- und Qualitätsmanagement, dann die Steuerung des Wertbeitrags, und ganz oben etwas, das er Interaktionsalignment nennt. Die unteren Stufen schauen auf das System und darauf, dass es nicht wegdriftet: Data Drift, Model Drift, Prompt Injection, Data Poisoning. Stufe vier schaut auf den Menschen. Denn der kann auch driften, nämlich aus seiner Rolle heraus, und zwar schleichend.

Der verlorene Marktsensor

Durchgespielt hat Chris das am Angebotsprozess eines Maschinenbauers: Anfrage lesen, Rückfragen klären, Eignung prüfen, konfigurieren, kalkulieren, Angebot rausschicken. Ein wissensintensiver Ablauf, den ein Agentensystem durchaus Ende zu Ende begleiten kann. Die Falle ist dabei nicht der klassische Kompetenzverlust, sondern eine Ebene darunter: Wer die Routine gar nicht mehr sieht, verliert den Bezugsrahmen dafür, was in seinem Markt eigentlich Standard ist. Chris war an dieser Stelle ausdrücklich ehrlich: Belastbare Praxisbeispiele gibt es dafür noch kaum, das sind Thesen, hergeleitet aus der klassischen Automatisierung.

Was man sich vom Autopiloten abschauen kann

Daher der Pilot als Referenz. Für die Zusammenarbeit mit dem Autopiloten gibt es seit Jahrzehnten Standards dafür, wie der Mensch aufmerksam und in Charge bleibt: zwischendurch die Hand ans Steuer, ein belastbares Lagebild, und die Möglichkeit, Autonomie auch wieder abzustufen. Nur ist die neue Automatisierung anders gelagert. Sie ist denkintensiv, in ihren Antwortmöglichkeiten undurchsichtiger, und sie wird nicht von oben durchgeplant, sondern von unten hereingetragen, Stichwort Schatten-KI. Die Prinzipien lassen sich übertragen, die konkreten Mechanismen muss jede Organisation selbst erproben und dann teilen.

Und dann die Frage nach der Verantwortung

In der Diskussion brachte ein Teilnehmer eine Analogie ein, die gut ankam: Einen Agenten einzuarbeiten sei wie das Einarbeiten eines neuen Mitarbeiters, nur dass dieser sehr schnell lernt, von woanders herkommt und sich plötzlich anders orientieren kann. Chris hat dem freundlich widersprochen. Genau bei diesem Vergleich könnte das Problem anfangen: Ein Agent kann im Prozess sehr hilfreich sein, aber kein Prozessschritt wird von ihm verantwortet. Technisch sei ein sauberes Identity- und Access-Management für Agenten die richtige Antwort. Organisatorisch bleibt die Frage, wer für ein Ergebnis geradesteht, das er selbst nur halb oder gar nicht produziert hat.

Ein weiterer Teilnehmer machte das andere Grundparadox auf: Man baut agentische Prozesse auf Systemen auf, die einem nicht gehören und deren Anbieter morgen die Schotten dichtmachen oder die Preise vervielfachen können. Chris argumentierte mit lokaler Infrastruktur und bewusst einfacheren, aber ausreichend leistungsfähige Modelle für klar umrissene Fälle. Auch er kennt hier nicht das Patentrezept. Sein Vorschlag ist eher eine Reihenfolge: erst Prinzipien aus der konkreten Arbeit heraus sammeln, daraus mit der Zeit Playbooks machen, und erst dort verbindliche Regeln ziehen, wo es sie wirklich braucht.

Das Fazit: Menschenzentrierte KI braucht auch menschenzentrierte Governance. Das Interaktionsalignment sollte nicht ans Ende des Reifegradmodells geschoben, sondern von Anfang an mitgedacht werden. Denn wenn der Bezug zur eigenen Arbeit einmal verloren gegangen ist, holt man ihn nur schwer zurück.

Du möchtest genauer verstehen, wie Chris auf Governance blickt? In der Aufzeichnung siehst du das komplette Reifegradmodell und das Beispiel aus dem Vertrieb in voller Länge.

Jetzt anmelden um die Aufzeichnung zu sehen