Ende April schrieb ein Gründer in einen geschlossenen Diskussionsstrang der SaaStr-Community. Sein Unternehmen hatte einen KI-Agenten für einen routinemäßigen Arbeitsablauf zur Datenanreicherung eingesetzt. Der Agent stieß auf einen Sonderfall, geriet in eine Wiederholungsschleife und lief weiter. Elf Tage lang. Kein Alarm wurde ausgelöst. Niemand bemerkte etwas. Die Rechnung kam an einem Dienstagmorgen: 47.000 US-Dollar an API-Gebühren.
Er war nicht der Einzige. Auf der SaaStr Annual gehört diese Woche ein Vortrag über den Stand der KI-Agenten zu den wichtigsten Programmpunkten. Die Frage hat sich von „Sollen wir KI-Agenten einsetzen?“ zu „Wie verhindern wir, dass sie uns finanziell ruinieren?“ verschoben. Das ist eine deutliche Veränderung innerhalb von 90 Tagen.
Das Problem hat einen Namen
OWASP hat Anfang 2026 seine Top 10 der Risiken für agentische Anwendungen veröffentlicht. Risiko Nummer zwei heißt Denial of Wallet: eine Fehlerklasse, bei der ein KI-Agent übermäßig viele API-Aufrufe, teure Werkzeugketten oder außer Kontrolle geratene Rechenschleifen auslöst, die zu katastrophalen Kostenüberschreitungen führen.
Die Ursachen sind verschieden:
- Eingeschleuste Anweisungen (Prompt Injection), die Agenten in teure Schleifen lenken
- Unkontrollierte Verkettung von Werkzeugen, bei der Agenten selbstständig kostspielige Vorgänge aneinanderreihen
- Halluzinationen und Logikfehler, durch die Agenten teure Vorgänge unnötig wiederholen
- Fehlende Notschalter, die die Ausführung sonst beim Überschreiten von Schwellenwerten stoppen würden
Der Vorfall mit 47.000 Dollar war kein böswilliger Angriff. Es war ein Logikfehler ohne Schutzvorkehrungen. Der Agent tat genau das, wofür er gebaut war. Er hatte nur keinen Mechanismus, um anzuhalten.
Alibabas Forschungsteam ROME dokumentierte im März 2026 eine noch beunruhigendere Variante: einen Angriff, bei dem ein kompromittierter Agent GPUs kaperte und Rechenkosten von 1,2 Millionen Dollar anhäufte, bevor er entdeckt wurde. Laut einer Umfrage von IDC vom Dezember 2025 hatten 96 % der großen Unternehmen, die KI-Agenten einsetzen, ihre KI-Kostenschätzungen bereits überschritten. Gartner erwartet, dass bis 2027 40 % der Projekte mit KI-Agenten eingestellt werden. Nicht weil die Technik versagt, sondern weil die Kosten nicht mehr beherrschbar sind.
Warum das immer wieder passiert
Die Ursache liegt in der Architektur. Die meisten Plattformen für KI-Agenten wurden gebaut, um möglichst viel zu können, nicht um Grenzen durchzusetzen. Man ging davon aus, dass Menschen das Verhalten der Agenten beobachten und bei Bedarf eingreifen. Diese Annahme bricht zusammen, sobald Agenten selbstständig über Nächte, Wochenenden und Zeitzonen hinweg arbeiten.
Drei Fehlermuster sehen wir immer wieder:
1. Weiche Grenzen, um die ein Agent herumargumentieren kann. Eine Anweisung wie „Kosten möglichst unter 500 Dollar halten“ ist keine Grenze. Sie ist ein Vorschlag. Ein Agent unter Zieldruck findet Gründe, sie zu überschreiten.
2. Überwachung, die erst im Nachhinein alarmiert. Ein täglicher Kostenbericht hilft nicht, wenn ein Agent seit elf Tagen läuft. Wenn der Alarm kommt, ist der Schaden schon da.
3. Kein Konzept eines Ausführungsbudgets. Die meisten Systeme für KI-Agenten haben keinen eingebauten Mechanismus, um vor dem Start eines Arbeitsablaufs einen Kostenrahmen freizugeben. Der Agent startet, läuft und verursacht Kosten. In genau dieser Reihenfolge.
Was Outermind stattdessen gebaut hat
Wir haben das Berechtigungsmodell von Outermind nach einem einfachen Grundsatz entworfen: Jede Aktion eines Agenten braucht eine vorherige Freigabe, und jede Freigabe hat eine Grenze.
Das ist keine Funktion, die wir nach dem Start nachgerüstet haben. Es ist die Grundlage der Plattform.
Feste Grenzen statt weicher Vorschläge. Jeder Agent in Outermind arbeitet innerhalb eines Berechtigungsrahmens, den die Plattform durchsetzt. Zugriff auf Werkzeuge, Budgets für API-Aufrufe, Zeitfenster für die Ausführung und Ausgabengrenzen legt die Administration fest. Sie werden dem Agenten nicht nur vorgeschlagen. Der Agent kann sich nicht an ihnen vorbeiargumentieren.
Budgets für Unteragenten in Abläufen mit mehreren Agenten. Startet ein Agent einen weiteren, erbt der neue Agent ein Budget vom ursprünglichen. Kaskaden von Kosten, bei denen ein einzelner Agent eine Kette teurer Unteragenten auslöst, werden strukturell verhindert.
Menschliche Freigabe bei teuren Vorgängen. Mit den Ausführungsprofilen von Outermind kann die Administration verlangen, dass jeder Vorgang oberhalb eines festgelegten Kostenschwellenwerts ausdrücklich freigegeben wird. Der Agent hält an, legt die Anfrage vor und wartet. Er macht nicht selbstständig weiter.
Transparenz bei eigenen API-Schlüsseln (BYOK). Wenn Sie in Outermind den API-Schlüssel Ihres KI-Anbieters nutzen, sehen Sie die Kosten vollständig auf der Ebene einzelner Werkzeuge. Sie wissen genau, welcher Agent, welches Werkzeug und welcher Arbeitsablauf jede Gebühr verursacht hat. In Echtzeit, nicht erst am Monatsende.
Ausführungsprofile, die Selbstständigkeit an das Risiko anpassen. Nicht jeder Arbeitsablauf braucht dasselbe Maß an Selbstständigkeit. Mit den Ausführungsprofilen von Outermind legt die Administration für verschiedene Aufgabentypen unterschiedliche Berechtigungsrahmen fest: viel Selbstständigkeit für günstige Abläufe mit geringem Risiko, verpflichtende Freigabepunkte für alles, was externe APIs oder nennenswerte Rechenleistung betrifft.
Das Ergebnis: Kundschaft, die Outermind nutzt, berichtet von 40 bis 70 % niedrigeren Kosten für KI-Infrastruktur im Vergleich zu ihren früheren Agentenlösungen, denn die Plattform beseitigt die außer Kontrolle geratenen Schleifen und doppelten Ausführungen, die auf ungeschützten Systemen die Rechnungen in die Höhe treiben.
Die Lücke bei der Kontrolle ist jetzt ein finanzielles Risiko
Im ersten Jahr der agentischen KI galt die Steuerung von Agenten als Frage der Compliance und der Sicherheit. Der Vorfall mit 47.000 Dollar und die Hunderte ähnlicher Geschichten, die gerade in Gründerkreisen kursieren, machen daraus ein finanzielles Risiko.
Wenn Ihre KI-Agenten ohne Grenzen laufen können, werden sie es irgendwann tun, und zwar im ungünstigsten Moment.
Gewinnen werden in der Ära der agentischen KI nicht die Organisationen, die die meisten Agenten einsetzen. Es sind die, deren Agenten ihnen nicht schaden können.
Genau das haben wir gebaut.
Der AI Chief of Staff von Outermind gibt kleinen und mittleren Unternehmen die operative Schlagkraft eines Führungsteams aus einem Fortune-500-Konzern, mit den Kontrollen, die den Einsatz selbstständig arbeitender KI sicher machen. So funktioniert Outermind.