IBM hat gerade 2.000 CIOs und CTOs befragt. Die wichtigste Zahl sollte jede Führungskraft innehalten lassen.
67 % sagen, dass sie nicht vollständig kontrollieren können, was ihre KI-Agenten tun.
Nicht „Wir haben noch kein perfektes System“. Nicht „Wir arbeiten daran“. Sie können es nicht kontrollieren. Heute. Mit Agenten, die bereits im Produktivbetrieb laufen.
Dieselbe Umfrage ergab, dass nur 11 % der Organisationen eine umfassende Steuerung ihrer KI eingeführt haben. Die übrigen setzen auf Hoffnung: dass ihre Agenten im erwarteten Rahmen bleiben, dass sie keine Handlungen ausführen, zu denen sie nicht befugt sind, und dass jemand es bemerkt, wenn etwas schiefgeht.
Das ist kein Technologieproblem. Es ist ein Architekturproblem. Und es lässt sich lösen, aber nur, wenn Sie die Lösung von Anfang an einbauen.
Die Lücke, über die niemand spricht
Die Zahlen 67 % und 11 % erzählen eine bestimmte Geschichte. Organisationen haben Agenten schnell eingeführt. Sie wollten sich die Produktivitätsgewinne, die Erfolge der Automatisierung und den Wettbewerbsvorteil sichern, der entsteht, wenn KI Arbeit in großem Umfang erledigt.
Versäumt haben sie, vor der Einführung eine Steuerungsebene aufzubauen.
Das Ergebnis ist eine Flotte von Agenten, deren Befugnisse nie festgelegt wurden. Sie können handeln. Sie können nach außen kommunizieren. Sie können auf Systeme zugreifen. Doch die Grenzen dieser Befugnisse wurden nie formal definiert, nie technisch durchgesetzt und nie nachvollziehbar gemacht.
Wenn etwas schiefgeht, und in 88 % der Organisationen ist das bereits passiert, hat die Frage „Wer hat das erlaubt?“ keine Antwort. Denn niemand hat es ausdrücklich erlaubt. Der Agent konnte es einfach.
Was die 25 % anders gemacht haben
Die Organisationen, die die Lücke geschlossen haben, folgen einem gemeinsamen Architekturmuster. Sie haben die Steuerung nicht nach der Einführung ergänzt. Sie haben sie in die Einführung selbst eingebaut.
Konkret haben sie drei Dinge getan:
1. Sie haben Agenten als gesteuerte Einheiten behandelt, nicht als Werkzeuge.
Jeder KI-Agent hat eine Identität, einen festgelegten Befugnisrahmen und ein Berechtigungsmodell, das zur Laufzeit greift. Der Agent kann nur Handlungen ausführen, die für seine Rolle ausdrücklich erlaubt sind. Nicht „wird seinen Rahmen wahrscheinlich nicht überschreiten“. Er kann ihn nicht überschreiten, denn das System setzt die Grenzen bei der Ausführung durch.
2. Sie haben Beobachtbarkeit in Echtzeit in die Agentenebene eingebaut.
Jede Handlung, jede Entscheidung und jede Kommunikation nach außen wird im Moment der Ausführung protokolliert. Sie wird nicht hinterher aus den Protokollen nachgelagerter Systeme rekonstruiert. Wenn Sie beantworten müssen, was dieser Agent getan hat und warum, ist die Antwort schon da.
3. Sie haben die Verantwortung bei der Einführung festgelegt, nicht erst beim Vorfall.
Bevor ein Agent in Betrieb geht, sind vier Fragen ausdrücklich beantwortet:
- Wer hat seinen Befugnisrahmen freigegeben?
- Wer prüft seine Handlungen?
- Wer wird benachrichtigt, wenn er außerhalb des erwarteten Rahmens arbeitet?
- Wer ist befugt, ihn zu stoppen?
Diese Fragen wollen Sie nicht zum ersten Mal mitten in einem Vorfall beantworten.
Das Ergebnis ist keine langsamere Einführung. Sie geht schneller, denn die Steuerungsebene erspart das Hin und Her, das entsteht, wenn ungesteuerte Agenten Probleme verursachen, die ein Eingreifen von Menschen erfordern.
Eine Frage der Architektur
Diese Lücke geht auf einen bestimmten Fehler zurück: wie die Branche die Steuerung von KI dargestellt hat.
Steuerung wurde als Compliance-Pflicht verkauft, als etwas, das man tut, weil Aufsichtsbehörden oder Prüfer es verlangen. Diese Sichtweise führt zum Ergebnis der 11 %: Organisationen setzen Steuerung nur dort um, wo sie müssen, so knapp wie möglich und so spät wie möglich.
Die 25 %, die die Lücke geschlossen haben, behandeln Steuerung als Anforderung an die Architektur. So wie Sie keine produktive Datenbank ohne Zugriffskontrollen betreiben würden, setzen Sie auch keinen produktiven KI-Agenten ein ohne festgelegtes Berechtigungsmodell, ohne Prüfprotokoll und ohne Möglichkeit, ihn zu stoppen.
Die Compliance-Sicht fragt: „Welche Steuerung müssen wir haben?“
Die Architektur-Sicht fragt: „Welche Steuerung brauchen wir, um diesem System im Produktivbetrieb zu vertrauen?“
Das sind verschiedene Fragen mit sehr verschiedenen Antworten.
Was das für Ihr Unternehmen bedeutet
Wenn Ihr Unternehmen zu den 67 % gehört, führt der Weg nach vorn nicht über eine Prüfung Ihrer Regeln oder ein neues Richtlinienpapier. Er führt über eine Änderung der Architektur, also darüber, wie Agenten eingeführt werden.
Das heißt:
- Identität vor der Einführung. Jeder Agent braucht eine festgelegte Identität und einen begrenzten Befugnisrahmen, bevor er auf Produktivsysteme zugreift.
- Beobachtbarkeit auf der Agentenebene. Es reicht nicht, die Auswirkungen in nachgelagerten Systemen zu protokollieren. Sie müssen die Entscheidungen der Agenten in dem Moment festhalten, in dem sie fallen.
- Verantwortung im Voraus festgelegt. Die Person, die für die Handlungen eines Agenten verantwortlich ist, muss benannt sein, bevor der Agent in Betrieb geht, und nicht erst nach einem Vorfall ermittelt werden.
Die Organisationen, die das richtig machen, sind nicht langsamer. Sie sind schneller und handeln mit mehr Zuversicht, weil sie die Fehlerquellen beseitigt haben, die ein Eingreifen von Menschen erzwingen.
Die IBM-Umfrage ist eine Momentaufnahme dessen, wo die Branche heute steht. Die 25 %, die die Lücke geschlossen haben, zeigen, wohin sie sich entwickelt.
Die Frage ist, auf welcher Seite dieser Lücke Ihr Unternehmen steht.
Outermind entwickelt KI-Agenten, bei denen die Steuerung Teil der Architektur ist und nicht nach der Einführung angebaut wird. Jeder Agent hat vom ersten Tag an eine festgelegte Identität, ein begrenztes Berechtigungsmodell und ein Prüfprotokoll in Echtzeit. Tragen Sie sich in die Warteliste ein, um zu sehen, wie KI mit Steuerung von Anfang an in der Praxis aussieht.