10 Sep. Wer trägt die Verantwortung, wenn eine KI-Entscheidung falsch war?

KI-Agenten verbreiten sich in Unternehmen gerade schneller, als viele Organisationen ihre internen Regeln daran anpassen können. Sie beantworten nicht mehr nur Fragen, sondern lösen eigenständig Aktionen aus: Sie priorisieren, genehmigen, kommunizieren. Genau das macht eine Frage plötzlich dringend, die noch vor kurzem theoretisch wirkte: Wer ist eigentlich verantwortlich, wenn eine solche Entscheidung falsch war?

Das Beispiel: Ein KI-Agent entscheidet – niemand unterschreibt

Ein KI-Agent im Kundenservice bearbeitet eigenständig eine Beschwerde wegen einer verspäteten Lieferung und sagt dem Kunden eine Gutschrift von 500 Euro zu – als Geste des guten Willens, weit über dem üblichen Rahmen. Niemand bemerkt es, bis die Zahl vier Wochen später im Monatsabschluss auffällt. In der Führungsrunde die Frage: Wer hat das eigentlich freigegeben?

Antwort: Niemand so richtig. Der Agent durfte “im Sinne der Kundenzufriedenheit selbstständig handeln”. Das Team dachte, es gäbe eine Obergrenze. Die gab es nicht, jedenfalls nicht dort, wo sie hätte hinterlegt sein müssen.

Ein Einzelfall wäre das kaum eine Erwähnung wert. Das Muster dahinter ist es sehr wohl.

Was die aktuelle BCG-Studie zeigt

Die Boston Consulting Group befragt seit vier Jahren jährlich Beschäftigte weltweit zum Stand der KI-Nutzung im Arbeitsalltag. Für die aktuelle Ausgabe von 2026 wurden knapp 12.000 Frontline-Mitarbeitende, Führungskräfte und Manager in mehr als einem Dutzend Ländern befragt – eine der größeren und methodisch am besten dokumentierten Erhebungen zu diesem Thema.

Zwei Ergebnisse daraus sind für Führungskräfte besonders relevant: Die Hälfte der befragten Unternehmen hat keine klare Governance dafür, wie Menschen und KI-Systeme gemeinsam Entscheidungen treffen. Und fast ebenso viele Befragte nennen genau diese Verantwortungsfrage als eine ihrer drei größten Sorgen für die kommenden Jahre. Gleichzeitig zeigt dieselbe Studie, dass sich die Zahl der Unternehmen, die KI-Agenten bereits aktiv in Arbeitsabläufe integriert haben, gegenüber dem Vorjahr mehr als verdoppelt hat.

Das ergibt in der Summe ein eindeutiges Bild: Die Technologie wird schneller eingeführt, als die Organisation nachzieht.

Die eigentliche Führungsaufgabe im KI-Zeitalter

Im Klartext heißt das: Die Technologie ist längst da. Was in vielen Unternehmen fehlt, ist die Antwort auf eine sehr einfache Frage: Wer trägt die Verantwortung, wenn eine KI-gestützte Entscheidung falsch war?

Diese Frage explizit zu beantworten – bevor etwas schiefgeht, nicht danach – ist aus unserer Sicht die zentrale Führungsaufgabe der nächsten Jahre. Nicht Prompting lernen. Nicht das nächste Tool evaluieren. Sondern für jeden Entscheidungstyp im eigenen Verantwortungsbereich einmal ehrlich klären, wo die Grenze zwischen KI-Unterstützung und menschlicher Freigabe verläuft.

Drei Fragen, die jede Führungskraft sich stellen sollte

Wo darf die KI vorschlagen, aber ein Mensch muss unterschreiben?

Nicht jede Entscheidung mit spürbaren Folgen für Kunden, Mitarbeiterinnen und Mitarbeitern oder das Unternehmen sollte vollautomatisch ablaufen. Für diese Fälle braucht es einen definierten Freigabeschritt und jemanden, der ihn tatsächlich wahrnimmt, statt ihn formal zu besitzen, ohne ihn zu prüfen.

Wo darf sie eigenständig entscheiden, weil der mögliche Schaden gering ist?

Nicht jede Entscheidung verdient eine menschliche Prüfschleife. Wo der potenzielle Schaden überschaubar ist, bremst zusätzliche Kontrolle nur unnötig. Die Kunst liegt darin, diese Fälle bewusst zu benennen, statt sie stillschweigend vorauszusetzen.

Wo ist KI-Unterstützung in eurem Bereich bereits im Einsatz, ohne dass diese Frage je gestellt wurde?

Das ist meistens der unbequemste Punkt. Und genau deshalb lohnt es sich, ihn zuerst zu beantworten. Viele Unternehmen wissen laut aktuellen Erhebungen zur Agenten-Governance gar nicht vollständig, welche KI-Agenten in welchen Abteilungen bereits eigenständig arbeiten.

Häufig gestellte Fragen

Wer haftet, wenn ein KI-Agent eine falsche Entscheidung trifft? Rechtlich haftet in der Regel das Unternehmen, das den KI-Agenten einsetzt. Nicht der Softwareanbieter und nicht die KI selbst. Intern verantwortlich ist, wer die Entscheidungsbefugnisse des Agenten festgelegt (oder eben nicht festgelegt) hat. Genau diese interne Zuordnung ist in vielen Unternehmen aktuell nicht klar dokumentiert.

Brauchen KI-Agenten immer eine menschliche Freigabe? Nein. Sinnvoll ist eine abgestufte Regelung: Bei Entscheidungen mit geringem Risiko kann der Agent eigenständig handeln, bei Entscheidungen mit spürbaren finanziellen, rechtlichen oder zwischenmenschlichen Folgen sollte ein Mensch freigeben. Entscheidend ist, dass diese Schwelle bewusst festgelegt wird und nicht, dass sie überall gleich hoch liegt.

Was unterscheidet KI-Kompetenz von KI-Verantwortung? KI-Kompetenz beschreibt das Wissen, wie ein KI-System funktioniert und wo seine Grenzen liegen. KI-Verantwortung geht einen Schritt weiter: Sie legt fest, wer für die Konsequenzen einer KI-gestützten Entscheidung geradesteht. Eine Führungskraft kann technisch versiert sein und trotzdem keine klare Verantwortungsstruktur für ihr Team definiert haben.

Fazit

Die eigentliche Lücke im Umgang mit KI-Agenten ist selten eine technologische. Sie ist organisatorisch: Unternehmen führen Automatisierung schneller ein, als sie festlegen, wer für deren Ergebnisse geradesteht. Führungskräfte, die diese Verantwortungsfrage frühzeitig und explizit klären, verschaffen ihrem Team nicht nur rechtliche Sicherheit, sondern auch Vertrauen in den Umgang mit KI im Alltag. Der erste Schritt dazu ist unspektakulär: eine ehrliche Bestandsaufnahme, wo im eigenen Bereich diese Frage bislang noch nicht gestellt wurde.

bcd beschäftigt sich mit Führung, Organisationsentwicklung und dem verantwortungsvollen Einsatz von KI in Unternehmen. Unsere Geschäftsführer Bernhard und Christiane haben 20 Jahre Erfahrung in der Führungskräfteentwicklung und Begleitung von KI-Transformationsprozessen.