Agentic AI: Neue Governance-Herausforderungen für Boards und Executives
Agentic-AI-Systeme entwickeln eigenständig mehrstufige Handlungspläne, nutzen Tools und führen operative Aktionen aus. Sie unterscheiden sich von klassischer und generativer KI, weil sie nicht nur analysieren, sondern teilweise autonom handeln. Die Forschung entwickelt sich schnell, es existiert jedoch kein allgemein anerkannter Standard.
Damit verschiebt sich Verantwortung strukturell: Entscheidungslogiken und Risikoregeln werden bereits im Design und in der Architektur festgelegt. Agentic AI wird dadurch zu einem strategischen Thema auf Board-Ebene.
Relevanz für das Board
1. Risiko- und Kontrollarchitekturen verändern sich: Autonome oder teilautonome Systeme können schwerer vorhersehbare und schwieriger nachvollziehbare Aktionen ausführen. In Multi-Agent-Umgebungen entstehen zusätzliche emergente Wechselwirkungen, die heutige Kontrollsysteme oft nicht erfassen. Standards wie NIST AI RMF oder ISO/IEC 42001 bieten erste Orientierung, decken Agentic AI aber nur teilweise ab.
2. Verantwortung und Haftung bleiben unverändert: Rechtlich bleibt die Verantwortung beim Unternehmen und seinen Organen. Die ex-post-Zurechnung wird komplexer, da Handlungen nicht mehr ausschliesslich in linearen, vorab freigegebenen Prozessen entstehen. Governance muss Verantwortlichkeiten über den gesamten Lebenszyklus klar definieren.
3. Strategische Gestaltung statt operative IT-Frage: Mit Agentic AI werden Risikotoleranzen, Entscheidungslogiken und Eskalationsregeln technisch vorverlagert. Die Frage, welche Autonomie ein System erhält und wo menschliche Aufsicht zwingend ist, gehört auf Board-Ebene.
Zentrale Governance-Handlungsfelder
1. Ex-ante-Risikobewertung: Boards benötigen klare Kriterien, um zu bestimmen, welche Prozesse für Agentic-AI-Systeme geeignet sind. Entscheidend sind Autonomiegrad, Reversibilität, Zugang zu sensiblen Daten und Schadenspotenzial.
2. Wirksame menschliche Verantwortlichkeit: Autonomie erfordert klare Eingriffs- und Eskalationswege. Risiken wie Automation Bias müssen berücksichtigt werden. Bei irreversiblen oder haftungsrelevanten Aktionen ist menschliche Freigabe zwingend.
3. Technische Durchsetzung von Governance: Governance muss technisch umgesetzt werden, etwa durch Kontrollgrenzen, strukturierte Tests und kontinuierliches Monitoring. Entscheidend ist die Wirksamkeit der Kontrollen, nicht technische Detailtiefe.
4. Rolle der Nutzer und Kompetenzentwicklung: Nutzer sind Teil des Governance-Systems. Transparenz, Schulung und klare Verantwortlichkeiten sind notwendig. Gleichzeitig besteht das Risiko eines Kompetenzverlusts, wenn operative Aufgaben verstärkt durch Agentic AI übernommen werden.
Entscheidungsfragen für das Board
- Wo ist Agentic AI strategisch sinnvoll, und wo ziehen wir klare Grenzen?
- Welche Handlungen dürfen Systeme autonom ausführen, welche benötigen Freigabe?
- Sind Rollen, Zuständigkeiten und Kontrollmechanismen über den Lebenszyklus klar geregelt?
- Verfügen wir über wirksame technische und organisatorische Frühwarnsysteme?
- Sind Management und Kontrollfunktionen ausreichend befähigt, oder besteht Schulungsbedarf?
Fazit. Agentic AI ist eine Governance- und Steuerungsfrage. Der nachhaltige Nutzen entsteht nicht durch technische Leistungsfähigkeit, sondern durch klare Leitplanken und robuste Governance-Strukturen.
Wenn Agentic AI noch kein explizites Thema auf Board-Ebene ist, lohnt sich ein genauer Blick. Ich unterstütze Führungsgremien dabei, ihre Entscheidungsfähigkeit im Umgang mit KI zu stärken und Governance-Fragen strategisch einzuordnen.