Das MIT AI Risk Repository

Für die Klassifizierung von KI-Risiken fehlte lange eine gemeinsame Sprache. Die FutureTech-Initiative des MIT schliesst diese Lücke mit dem AI Risk Repository, einer strukturierten und öffentlich zugänglichen Ressource.

Warum eine einheitliche Taxonomie nötig war

Rahmenwerke zur Klassifizierung von KI-Risiken hatten sich vervielfacht, ohne sich anzunähern. Forschende des MIT werteten 65 bestehende Taxonomien aus und extrahierten daraus 1’612 einzelne Risiken. Daraus entstand das AI Risk Repository: eine lebende, öffentlich zugängliche Datenbank, die mit neu auftretenden Risiken wächst.

Zwei Wege, Risiken zu klassifizieren

Das MIT strukturiert das Repository entlang zweier sich ergänzender Taxonomien.

1. Kausale Taxonomie

Diese Taxonomie ordnet Risiken entlang dreier Dimensionen:

• Entität: Geht das Risiko von menschlichen Entscheidungen, KI-Handlungen oder einer unklaren Quelle aus?
• Intentionalität: Entsteht das Risiko absichtlich oder unbeabsichtigt?
• Zeitpunkt: Tritt das Risiko vor oder nach der Einführung auf?

Die Daten zeigen ein klares Muster. 41 Prozent der Risiken stammen direkt aus KI-Systemen, 62 Prozent zeigen sich erst nach der Einführung. Laufende Überwachung nach der Einführung ist deshalb entscheidend. Dort entsteht der grösste Teil des Risikos.

2. Domänen-Taxonomie

Die zweite Taxonomie ordnet Risiken sieben Domänen zu: Diskriminierung und toxische Inhalte, Datenschutz und Sicherheit, Fehlinformation, missbräuchliche Nutzung, Mensch-Maschine-Interaktion, sozioökonomischer und ökologischer Schaden sowie Sicherheit und Versagen von KI-Systemen.

Am umfassendsten dokumentiert sind Systemversagen, sozioökonomischer Schaden und Diskriminierung. Kaum erforscht bleiben KI-Wohlergehen und -Rechte, die Verschmutzung von Informationsökosystemen und Wettbewerbsdynamiken. Diese Lücke verdient Aufmerksamkeit, wenn Verwaltungsräte Forschungs- und Überwachungsprioritäten setzen.

Wer das Repository nutzen sollte

Das Repository dient mehreren Zielgruppen unmittelbar.

• Regulatoren nutzen es, um Regulierung und Aufsichtsrahmen auf einer belastbaren Datenbasis statt auf Annahmen aufzubauen.
• Unternehmen und Prüfer nutzen es, um internes Risikomanagement und Compliance-Programme auf ihre tatsächliche Risikoexposition zuzuschneiden.
• Forschende und Ausbildende nutzen es, um Lücken in bestehenden Studien zu identifizieren und Curricula zu strukturieren.
• Öffentlichkeit und Interessenvertretungen nutzen es, um die Debatte über KI-Risiken auf ein gemeinsames Vokabular zu stellen.

Ausblick

Das MIT hat das Repository für die Weiterentwicklung angelegt. Beiträge von Forschenden weltweit halten es aktuell, sobald neue Risikokategorien entstehen.

Für Verwaltungsräte, die KI-Einführungen beaufsichtigen, ist dieses Repository ein Ausgangspunkt, kein Ersatz für eine unternehmensspezifische Risikobeurteilung. Es gibt einer Debatte Struktur, der bisher eine gemeinsame Grundlage fehlte.

Das Repository ist unter airisk.mit.edu zugänglich.