KI-Agenten für Unternehmen: warum Governance entscheidet

KI-Agenten sind überall im Gespräch, aber die meisten scheitern nicht an der Technik, sondern an fehlender Governance. Hier liest du, was KI-Agenten sind, warum ungovernte Agenten scheitern, und wie du sie als AI-Agenten mit einem Adoption Level, das du festlegst, klaren Entscheidungsrechten und festen Eskalations-Regeln sicher einsetzt.

Was sind KI-Agenten?

Ein KI-Agent ist ein KI-System, das nicht nur antwortet, sondern selbstständig handelt: Er plant Schritte, ruft Tools auf, trifft während der Ausführung eigene Zwischenentscheidungen und arbeitet über mehrere Zyklen hinweg auf ein Ziel hin, ohne dass für jeden Schritt ein neuer Prompt nötig ist. Der Unterschied zum KI-Assistenten ist die Autonomie: Ein Assistent liefert einen Vorschlag pro Anfrage, ein KI-Agent führt eine Kette von Aktionen selbst aus.

Ein Beispiel macht das greifbar: Ein KI-Agent im Kundenservice liest ein eingehendes Ticket, prüft die Bestellhistorie, formuliert eine Lösung und stößt bei Bedarf eine Rückerstattung an, mehrere Schritte, eine eigene Entscheidungskette, ohne dass ein Mensch jeden einzelnen Schritt anstößt. Genau diese Autonomie ist zugleich die Stärke und das Risiko: Ein KI-Agent kann viel bewegen, bevor überhaupt jemand hinschaut.

Für Unternehmen ist die Frage längst nicht mehr, ob KI-Agenten kommen, sondern wie du sie einsetzt, ohne dabei das Unternehmen aufs Spiel zu setzen. Die genauen Definitionen der Begriffe auf dieser Seite, von Adoption Level bis Alignment-Check, findest du gesammelt im Glossar.

• KI-Assistent: liefert einen Vorschlag pro Anfrage, keine eigenständige Ausführung.
• KI-Agent: plant, ruft Tools auf und handelt über mehrere Schritte hinweg, meist ungoverned.
• AI-Agent in Rocket Routine OS: ein KI-Agent mit einem Adoption Level, das du festlegst, klaren Entscheidungsrechten und den Rechten der Person, die ihn beauftragt hat.

Warum ungovernte KI-Agenten scheitern

Das deutlichste Beispiel dafür liefert ein Experiment der Princeton University, bekannt als CEO-Bench. Die Forscher gaben 13 KI-Modellen je 1 Million US-Dollar Startkapital und ließen jedes davon 500 simulierte Tage lang ein Unternehmen führen, mit 26 Kundengruppen, 19 Datenbanktabellen und 34 verfügbaren Tools.

Fünf der 13 Modelle gingen in jedem einzelnen Durchlauf pleite: GLM 5.1, Claude Haiku 4.5, Gemini 3 Flash, DeepSeek V4 Pro und Grok 4.20. Auf der anderen Seite schloss Claude Fable 5 mit 47,1 Millionen US-Dollar ab, Claude Opus 4.8 mit 27,8 Millionen, GPT-5.5 mit 21,3 Millionen. Am bemerkenswertesten war eine simple regelbasierte Baseline ganz ohne KI: Sie erzielte 15,8 Millionen US-Dollar und schlug damit zehn der 13 Frontier-Modelle.

Der Unterschied zwischen Gewinnern und Verlierern lag nicht in der Modellgröße. Die erfolgreichen Systeme steckten 87 bis 89 Prozent ihres Entwicklungsbudgets in kundensegment-spezifische Verbesserungen, die gescheiterten Modelle nur 10 bis 44 Prozent. Das Fazit des Experiments in einem Satz: Es fehlte nicht Intelligenz. Es fehlte Governance.

Vom KI-Agenten zum geführten AI-Agenten

Der Sprung vom KI-Agenten zum geführten AI-Agenten ist die direkte Antwort auf das Princeton-Ergebnis. Ein ungovernter KI-Agent handelt selbstständig, aber ohne feste Grenzen: Welche Entscheidungen er treffen darf, welche Tools er nutzen darf und wann er eskalieren muss, bleibt implizit oder steckt in einem Prompt, der im nächsten Zyklus schon wieder vergessen ist. Ein geführter AI-Agent arbeitet anders: Er bekommt einen dauerhaften Rahmen, der über einzelne Aufgaben hinaus gilt, verankert direkt im Produkt, nicht in einem Dokument, das jemand einmal geschrieben hat.

Dieser Rahmen ist kein einzelnes Dokument, das eine Rolle einmal beschreibt, sondern eine Kombination aus mehreren echten Kontrollen im Produkt selbst. Das Adoption Level legt fest, wie viel der Agent allein erledigt: Shadow schlägt nur vor, Copilot erledigt Alltägliches selbst, Autopilot erledigt auch Strukturelles selbst. Du bestimmst das Level für jede AI. Jeder Agent handelt mit genau den Rechten der Person, die ihn beauftragt hat, und kann nicht mehr als sie. Die Entscheidungsrechte legen fest, was er selbst entscheidet und was er an einen Menschen weiterreicht, die Eskalations-Regeln, wann genau das passiert. Auf jedem Level fragt er nach, bevor er etwas löscht oder die Richtung des Unternehmens ändert, und nichts verlässt das Unternehmen ohne dein Ja. Die Skills halten fest, was der Agent kann, und die Verbindungen regeln, welche Systeme er erreicht.

Ein Prompt beschreibt eine einzelne Aufgabe und hat kein Gedächtnis für den nächsten Zyklus. Adoption Level, Rechte der beauftragenden Person, Entscheidungsrechte und Eskalations-Regeln sind dauerhafte Governance: So arbeitest du, innerhalb dieser Grenzen, mit diesen Rechten, gegen diese Standards, und zwar bei jedem einzelnen Zyklus neu erzwungen, nicht nur beim ersten. Das Prinzip dahinter kommt aus der Fertigung, poka yoke: Prozesse werden so gebaut, dass ein Fehler strukturell nicht mehr passieren kann, statt ihn nachträglich zu korrigieren.

Der Weg führt vom KI-Agenten zum geführten AI-Agenten: von unbegrenzter, ungovernter Autonomie zu Autonomie innerhalb klarer Regeln.

Wer im System arbeitet

Governance beginnt mit einer einfachen Frage: Wer arbeitet eigentlich in deinem System? Die Seite Agents und die Benutzerverwaltung beantworten sie, denn jeder Akteur im Unternehmen gehört zu einer von drei Kategorien: Mensch, AI-Agent und Knowledge Persona.

Menschen tragen alle Entscheidungen, die nicht ausdrücklich an einen AI-Agenten delegiert wurden, sie sind die einzigen Akteure, die im Sinne der Unternehmens-Constitution souverän sind. AI-Agenten führen Routinen aus und liefern Ergebnisse, gebunden an explizite Entscheidungsrechte, Eskalations-Trigger und die Rechte der Person, die sie beauftragt hat, sie tragen die Ausführungslast für definierte Routinen, nicht die Entscheidungsverantwortung dahinter. Knowledge Personas sind rein beratend: Sie kennen die Daten deines Unternehmens, besitzen nichts, haben keine Entscheidungsbefugnis und führen keine Routinen aus. Eine Knowledge Persona spricht. Sie entscheidet nicht.

Ohne diese Zuordnung verschwimmt genau das, was Governance eigentlich sichtbar machen soll: Wer hat den Text geschrieben, wer hat ihn freigegeben, wer hat entschieden, dass er live geht. Mit dieser Zuordnung lässt sich diese Frage für jede einzelne Arbeit in Sekunden beantworten.

Diese Aufteilung macht jede Entscheidung auf einen verantwortlichen Akteur zurückführbar. Ein Unternehmen, das nicht weiß, wer in ihm arbeitet, weiß auch nicht, woher seine Qualität kommt.

Vom Entwurf zur Autonomie

Du bestimmst für jede AI, wie viel sie allein erledigt. Dafür gibt es drei Stufen, die Adoption Levels: Shadow, Copilot und Autopilot.

Auf der Stufe Shadow schlägt der AI-Agent nur vor: Es öffnet sich ein Formular, und nichts wird gespeichert, bis du bestätigst. Auf der Stufe Copilot erledigt der AI-Agent Alltägliches selbst und öffnet für strukturelle Dinge, etwa ein neues Ziel, das ausgefüllte Formular zur Bestätigung. Auf der Stufe Autopilot erledigt der AI-Agent auch strukturelle Dinge selbst und sagt dir im Chat Bescheid. Auf jeder Stufe fragt er nach, bevor er etwas löscht oder die Richtung des Unternehmens ändert.

Als Beleg dafür, ob eine AI mehr Freiheit bekommt, dient eine Kennzahl, die First Time Through Rate, kurz FTT: dem Anteil der Arbeitsergebnisse, die die Qualitätsprüfung im ersten Anlauf ohne Nacharbeit bestehen. Eine Person entscheidet, ob eine AI auf die nächste Stufe wechselt. Sinkt die FTT nach einem Wechsel wieder, ist eine Rückstufung die richtige Antwort, kein Vertrauensbruch, sondern die normale Reaktion auf Daten.

Adoption Levels gelten für jede AI einzeln, nicht für das ganze Unternehmen auf einmal. Ein AI-Agent kann im Content-Bereich auf Autopilot laufen und in der Finanzplanung auf Shadow, beides gleichzeitig, beides korrekt.

KI-Governance im Mittelstand

KI-Governance im Mittelstand ist kein Compliance-Dokument, das einmal geschrieben und dann in der Schublade vergessen wird. Sie ist die Summe aus vier konkreten Mechanismen, die zusammen verhindern, dass ein KI-Agent unbemerkt Schaden anrichtet: Entscheidungsrechte, Eskalation, Verifikation und ein Audit Trail.

Der erste Mechanismus sind klare Entscheidungsrechte. Was ein AI-Agent allein tun darf, bestimmen sein Adoption Level und die Art der Aktion: Alltägliches, Strukturelles, Löschen oder eine Grundsatzentscheidung. Vor dem Löschen und bei Grundsatzentscheidungen fragt er immer. Jede Entscheidung trägt eine Einstufung ihrer Tragweite.

Der zweite Mechanismus ist Verifikation vor Vertrauen: Du legst fest, welche Arbeit eine Qualitätsprüfung braucht. Eine Person, nie die, die die Arbeit gemacht hat, prüft sie gegen die Definition of Done und nimmt sie an oder schickt sie mit Begründung zurück. Gemessen wird das über die FTT, den Anteil der Arbeit, der ohne Nachbesserung durch die Prüfung kommt. Als ein Content-Agent bei Rocket Routine wiederholt am Scope vorbeischrieb, half keine Erinnerung, sondern eine strukturelle Kontrolle vor der Qualitätsprüfung: Die FTT stieg von 72 auf 91 Prozent.

Der dritte Mechanismus ist saubere Eskalation. Für jeden AI-Agenten legen die Eskalations-Regeln feste Trigger fest, konkrete Schwellenwerte, ab denen ein Fall auf eine höhere Entscheidungsebene wandert, vorab festgelegt, nicht improvisiert in der Krise. Das ist auch die Antwort auf die Frage, was passiert, wenn der Agent einen Fehler macht: Der Fehler bleibt im Umfang begrenzt, weil der Agent nur mit den Rechten der beauftragenden Person handelt, er wird früh über die FTT erkannt und sauber eskaliert, und die Konsequenz trifft das Adoption Level, nicht das Konto des Unternehmens.

Der vierte Mechanismus ist der Audit Trail: eine lückenlose Nachvollziehbarkeit, wer wann welche Entscheidung getroffen hat, Mensch oder AI-Agent, mit welchem Beleg. Ohne diese Spur bleibt Governance eine Behauptung. Mit ihr wird sie überprüfbar, für den CEO genauso wie für einen Wirtschaftsprüfer oder einen Kunden, der fragt, wer eigentlich in deinem System arbeitet.

• Entscheidungsrechte: Adoption Level und Art der Aktion bestimmen, was ein AI-Agent allein tun darf.
• Verifikation vor Vertrauen: Arbeit, die eine Prüfung braucht, prüft eine Person gegen die Definition of Done, gemessen über die FTT.
• Eskalation: feste Trigger, vorab festgelegt, nicht improvisiert im Ernstfall.
• Audit Trail: lückenlose Nachvollziehbarkeit jeder Entscheidung, Mensch oder AI-Agent.

KI-Agenten sicher einführen

KI-Agenten sicher einzuführen heißt nicht, mit dem riskantesten Bereich zu starten. Beginne dort, wo ein Fehler günstig ist: Ein Marketing-Text lässt sich vor der Veröffentlichung noch prüfen, eine autonome Zahlungsfreigabe nicht.

Der Einstieg folgt der gleichen Reihenfolge wie die Adoption Levels selbst: Du legst für einen AI-Agenten und eine eng begrenzte Routine das Level fest, mit Entscheidungsrechten und Eskalations-Regeln, die von Anfang an feststehen. Bleibt die FTT über mehrere Zyklen stabil, kannst du ihm mehr Freiheit geben.

Wichtiger als das Tempo ist die Reihenfolge: erst Entscheidungsrechte und Eskalations-Regeln festlegen, dann der Einsatz, nie umgekehrt. Ein KI-Agent ohne festgelegte Entscheidungsrechte und ohne Eskalations-Regeln im Kundenkontakt oder in der Finanzplanung ist keine Abkürzung, sondern genau das Risiko, das im Princeton-Experiment sichtbar wurde.

Governance funktioniert nur, wenn sie an die übrige Steuerung des Unternehmens andockt, an die OKRs des Quartals genauso wie an die Prinzipien deiner Unternehmensführung. Mehr zu diesen Zusammenhängen findest du im Strategie- und Unternehmensführungs-Wiki.

Der Maßstab für Erfolg ist nicht, wie viele KI-Agenten im Einsatz sind, sondern wie viele davon governte AI-Agenten sind, deren Fehler das System vorhersieht, statt von ihnen überrascht zu werden.

Häufige Fragen

Was sind KI-Agenten?

Ein KI-Agent ist ein KI-System, das eigenständig plant, Tools aufruft und über mehrere Schritte hinweg auf ein Ziel hinarbeitet, statt nur eine einzelne Anfrage zu beantworten. Ohne Governance bleibt seine Autonomie ungebunden. Mit einem Adoption Level, das du festlegst, und klaren Entscheidungsrechten wird daraus ein geführter AI-Agent mit festen Grenzen.

KI-Agent oder KI-Assistent, was ist der Unterschied?

Ein KI-Assistent liefert einen Vorschlag pro Anfrage und wartet auf die nächste Eingabe. Ein KI-Agent plant selbst, ruft Tools auf und handelt über mehrere Zyklen hinweg. Der Unterschied ist die Autonomie, nicht die Intelligenz des zugrunde liegenden Modells.

Was ist ein AI-Agent in Rocket Routine OS?

Ein AI-Agent ist in Rocket Routine OS ein AI-Teammitglied mit fester Rolle, zum Beispiel Developer, Tester, Content Marketer oder Customer Success. Du bestimmst sein Adoption Level, und er handelt mit den Rechten der Person, die ihn beauftragt hat. Er trägt die Ausführungslast für definierte Routinen, während die Entscheidungsverantwortung dahinter beim Menschen bleibt.

Warum scheitern KI-Agenten ohne Governance?

Im Princeton-Experiment CEO-Bench gingen fünf von 13 KI-Modellen in jedem Durchlauf pleite, während eine einfache regelbasierte Baseline zehn der 13 Modelle schlug. Es fehlte nicht Intelligenz, es fehlte Governance: klare Entscheidungsrechte, Verifikation und Eskalation, alles Dinge, die für jeden AI-Agenten über Adoption Level, Entscheidungsrechte und Eskalations-Regeln von Anfang an feststehen.

Was bedeutet KI-Governance in der Praxis?

KI-Governance bedeutet vier konkrete Mechanismen: klare Entscheidungsrechte über Adoption Level und Art der Aktion, saubere Eskalation über feste Trigger, Verifikation vor Vertrauen über die FTT-Kennzahl, und ein lückenloser Audit Trail für jede Entscheidung, damit Governance überprüfbar bleibt und keine bloße Behauptung.

Wie führe ich KI-Agenten sicher in meinem Unternehmen ein?

Starte dort, wo ein Fehler günstig ist, mit einem AI-Agenten und einer eng begrenzten Routine, mit Entscheidungsrechten und Eskalations-Regeln, die vorab feststehen. Bleibt die FTT über mehrere Zyklen stabil, kannst du ihm mehr Freiheit geben.