Wir nennen KI eine Intelligenz; genau darin liegt die Herausforderung

Die Parallele der künstlichen Intelligenz zur menschlichen Intelligenz ist mehr als ein Terminologieproblem. Es ist eine Herausforderung, welche zu einem Risiko werden kann.

Zwei Reaktionen begegnen mir sehr oft, sobald das Gespräch auf künstliche Intelligenz kommt. Die einen haben fast unerfüllbare Erwartungen und delegieren Aufgaben und Prozesse unkritisch. Die anderen fürchten die KI-Entwicklungen zu sehr, sind überfordert und blockieren in Folge dessen. Beide Haltungen sind problematisch, und beide haben vermutlich dieselbe mögliche Ursache. Es ist das Wort, das wir verwenden.

Ein Begriff als Abgrenzung, nicht als Beschreibung

Der Begriff künstliche Intelligenz stammt aus dem Antrag für die Dartmouth-Konferenz, formuliert 1955 von McCarthy, Minsky, Rochester und Shannon und an der Konferenz im Sommer 1956 etabliert. Aufschlussreich ist das Motiv dahinter. McCarthy wählte den Namen nicht, weil er die Sache am treffendsten beschrieb. Er wollte damit das junge Feld von der damaligen Kybernetik abgrenzen. Verschiedene andere Begriffe wurden im Vorfeld diskutiert, so zum Beispiel «automata studies», «complex information processing», «neuraldynamics» oder «advanced automatic programming». Artificial Intelligence (AI), künstliche Intelligenz (KI), setzte sich dann durch.

Nach eigener späterer Darstellung mochte im Team niemand den Namen wirklich, denn das eigentliche Ziel war «echte» Intelligenz, nicht «künstliche». Der Begriff trug damit von Beginn an mehr Positionierung als wissenschaftliche Präzision in sich. Wer heute mit diesem Wort führt, arbeitet mit einer Marke aus dem Jahr 1956, nicht mit einer Definition.

Was die Maschine tatsächlich macht

Die Sprache, die wir um diese Systeme gelegt haben, ist durchzogen von menschlichen Begriffen. Maschinen «verstehen», «lernen», «entscheiden». Wir scheinen keine anderen Worte für diese maschinellen Prozesse zu haben. Der Philosoph John Searle zeigte bereits 1980, dass es im gewöhnlichen Wortsinn unzutreffend ist, einem Programm Verstehen, Glauben oder Wahrnehmen zuzuschreiben. Floridi und Chiriatti führten diese Linie für moderne Sprachmodelle weiter. Diese Systeme erzeugen Texte, die menschlich wirken, ohne dass dahinter menschliches Verstehen läge. Was tatsächlich abläuft, ist statistische Verarbeitung von Mustern in sehr grossem Massstab und auf riesigen Datenmengen. Das ist beeindruckend und betrieblich nützlich, aber etwas anderes als das, was das Wort Intelligenz nahelegt.

Diese Begriffe und das damit verbundene Verständnis sind nicht harmlos. Wenn ein Bericht festhält, das System habe einen Kandidaten «bewertet» oder ein Risiko «erkannt», verschiebt die Wortwahl unmerklich die Zurechnung. Aus einer statistischen Ausgabe, die ein Mensch zu prüfen hätte, wird ein Urteil, dem man folgt. Die Sprache nimmt die Entscheidung vorweg, die eigentlich noch zu treffen wäre.

Verschärft wird die Lage durch einen aktuellen Befund. Jones und Bergen berichteten 2025, dass grosse Sprachmodelle den Turing-Test bestehen; dieser prüft, ob eine Maschine ein menschenähnliches Denkvermögen besitzt. Das beweist nicht, dass Maschinen denken. Es zeigt, dass dieser Test Imitation misst, und Imitation ist genau das, was die irreführende Etikettierung verstärkt. Je menschenähnlicher die Ausgabe wirkt, desto stärker greift die falsche Erwartung.

Ist der Begriff künstliche Intelligenz falsch?

Man könnte versucht sein, den Begriff schlicht falsch zu nennen. So einfach lässt sich das nicht beantworten, denn eine allgemein anerkannte wissenschaftliche Definition von Intelligenz existiert nicht (vgl. Neisser 1996). Der Begriff ist nicht falsch. Er ist eher unpräzise, heute emotional aufgeladen, und weckt falsche Erwartungen. Er ruft einen Vergleich mit dem Menschen hervor, den die Technik nicht einlöst, und genau dieser Vergleich steuert das Verhalten von Führungskräften.

Sowohl Erwartungshaltung als auch Verweigerung führen zu Problemen

Vermenschlichende Sprache aktiviert menschliche Intuition, und das hat messbare Folgen. Experimentelle Forschung zur Überverlässlichkeit zeigt, dass Menschen den Empfehlungen einer Maschine selbst dann folgen, wenn der Kontext dagegenspricht (Klingbeil et al., 2024). Die OECD beschreibt dasselbe als blindes Vertrauen in Technologie, und Ruschemeier und Hondrich (2024) zeigen juristisch wie psychologisch, dass dabei das eigene Ermessen gar nicht mehr ausgeübt wird. Wer eine intelligente Maschine vor sich zu haben glaubt, prüft weniger (vgl. Automation Bias). Das ist die erste Fehlhaltung, die überzogene Erwartung, und sie führt unmittelbar zu blinder Delegation.

Die zweite Fehlhaltung ist ihr Spiegelbild. Wer das Wort Intelligenz als Bedrohung liest, als denkende und womöglich überlegene Instanz, verfällt in Abwehr. Dystopische Filme wie 2001: A Space Odyssey, Terminator oder Matrix helfen dabei nicht. Auch wenn es nur Science-Fiction ist, haben solche Bilder Ängste geprägt, die einer nüchternen Betrachtung im Weg stehen.

Meiner persönlichen Meinung nach gehen wir auf Verwaltungsrats- und Geschäftsleitungsebene oft von einer falschen Prämisse aus, und diese wird zur Referenzbasis für die ganze Diskussion. Ein Beispiel ist der Begriff «Avatar» eines Verwaltungsrats, bezeichnet die digitale Repräsentation einer Person in einer virtuellen Welt. Genau darin verstecken sich gleich zwei Probleme. Einerseits lässt sich ein Mensch nicht durch eine Maschine repräsentieren, die probabilistisch statt deterministisch arbeitet, keinen freien Willen hat und nicht schuldfähig ist. Andererseits kehrt sich die Wirkung um. Ein virtuelles System beeinflusst unsere reale Welt, in der wir die ethische und rechtliche Verantwortung tragen. Beides ist mehr als eine sprachliche Spitzfindigkeit. Wird ein System wie ein handelnder Akteur behandelt, entsteht der falsche Eindruck menschlicher Kontrolle, und die Verantwortung wird falsch zugerechnet (vgl. Lima et al., 2022).

Was das für den Verwaltungsrat bedeutet

Ein System, das auf Wahrscheinlichkeiten statt auf Gewissheiten und Fakten beruht, Verzerrungen in Trainingsdaten aufweist, teilweise unvorhersehbar auf Änderungen von Daten und Modellen reagiert und kaum nachvollziehbar ist, muss genauso behandelt werden. Als Maschine, nicht als Repräsentant eines Menschen. Genau hier liegt die Verantwortung des Verwaltungsrats. Einerseits muss er die Rahmenbedingungen schaffen, das System zu überwachen und zu kontrollieren, andererseits muss er operativ einfordern, dass dies konsequent durchgesetzt wird. Die Verantwortung bleibt bei den Menschen und Organisationen, die es einsetzen. Wir dürfen Maschinen nicht vermenschlichen und nicht als Repräsentanten von Menschen behandeln, denn unsere menschliche Intelligenz und unser Wertegerüst lassen sich nicht auf eine künstliche Intelligenz übertragen.

Den Begriff künstliche Intelligenz werden wir nicht mehr los, dafür ist er zu fest verankert. Wir können jedoch bewusster damit umgehen und dürfen ihn weder vermenschlichen noch ihm menschliche Attribute zuschreiben. Wer Verantwortung trägt, definiert das Wort am besten als das, was es ist. Ein Etikett aus dem Jahr 1956 für eine Maschine, die es damals noch nicht gab.

Ein Verwaltungsrat muss eine künstliche Intelligenz nicht im technischen Detail verstehen, jedoch eine technologische Kompetenz aufbauen. Dazu gehört unter anderem das richtige mentale Modell. Wer von einer Maschine und einem System spricht und nicht einen überlegenen Mitarbeitenden mit Zauberstab vor Augen hat, hat den entscheidenden Schritt bereits gemacht.

Sprache formt unsere Realität. Frei nach Wittgenstein bedeuten die Grenzen unserer Sprache die Grenzen unserer Welt. Es liegt an uns, diese zu gestalten, und es liegt an uns Menschen, ob daraus ein Risiko entsteht, oder nicht.