Wo KI die Kette bricht

Vom verschwundenen Urteil – und wer haftet, wenn die Maschine entscheidet.

Mit einem KI-System habe ich vor Kurzem die Identität eines Unternehmens visualisiert, sprich: eine Corporate Identity entwickelt. Zehn Farben, exakt definiert – mit Hex-Codes, Pantone-Nummern, RGB-Werten. Die Maschine sollte sie verwenden. Sie tat es – aber nicht genau. Aus dem Farbcode #FF5733 wurde der Farbcode #FF5800. Nichts, was auffällt, wenn man nicht genauer hinschaut.
Ich habe hingeschaut. Das ist das eigentliche Risiko künstlicher Intelligenz: Fehler, die wir nicht erkennen, weil sie überzeugend wirken.

Eine unsichtbare Kette
„Wahrheit – genauer gesagt: ein zutreffendes Verständnis der Wirklichkeit – ist das wesentliche Fundament für jedes gute Ergebnis.“
– Ray Dalio, Die Prinzipien des Erfolgs
Hinter jeder verantwortlichen Entscheidung steht eine Kette: Daten werden zu Information, Information zu Wissen, Wissen zu Wahrheit, Wahrheit zu Vertrauen, Vertrauen zur Entscheidung – und am Ende steht Haftung. Sie ist unsichtbar, aber sie hält nur, solange jedes Glied hält. Künstliche Intelligenz schwächt diese Kette gleich an mehreren Stellen. Bei den Daten – niemand weiß genau, worauf das Modell trainiert wurde. Bei der Information – KI liefert Ergebnisse, keine Beweisführung. Beim Wissen – sie erzeugt Plausibles, ohne selbst zu wissen, ob es stimmt. Und bei der Wahrheit, die zur statistischen Frage wird – also zu keiner. Denn Wissen wird erst zur Wahrheit, wenn es der Realität standhält. Genau diese Prüfung leistet KI nicht. Sie reproduziert, ohne zu prüfen. Vertrauen wird damit zu Gewohnheit, Verantwortung diffundiert, Entscheidung wird zu Bestätigung – und am Ende steht die offene Haftungsfrage.

Drei Welten, in denen die Kette bricht
Im Unternehmen ist der Bruch leise. Ein Mitarbeiter nutzt KI, um hundert Entscheidungen pro Tag zu beschleunigen. Jede ist ungefähr richtig. Niemand prüft jede einzelne. Aber kleine Abweichungen summieren sich. Wer haftet, wenn das auffällt? Das Unternehmen verweist auf den Anbieter, der Anbieter auf das Modellverhalten, der Mitarbeiter auf die Systemvorgabe. Die Kette ist nicht gerissen. Sie ist nur verschwunden. In regulierten Industrien ist der Bruch fatal. Ein Pharmaunternehmen lässt KI Stoffe bewerten – „ungefähr richtig“ kann Menschen schaden. Ein Lebensmittelhersteller ersetzt eine Rezeptur durch eine „ähnliche“ – ähnlich kann tödlich sein. Eine Bank trifft hunderttausend Kreditentscheidungen mit fünf Prozent Fehlerquote – ein Millionenproblem, sichtbar erst im nächsten Quartal. Die Abweichung merkt man hier erst, wenn der Schaden da ist. In der Behörde ist der Bruch verleugnet. Ein Sachbearbeiter hat hundert Anträge auf dem Tisch. Sozialhilfe, Asyl, Kredite. Zu wenig Zeit, zu wenig Personal. Er öffnet ChatGPT im Browser – ein freigegebenes System gibt es nicht. Datenschutzwidrig. Aber praktisch. Die Maschine empfiehlt „ablehnen“. Er klickt „ablehnen“. Der Bürger erfährt nie, dass eine Maschine über ihn entschieden hat. Hier ist die Kette nicht nur gebrochen. Sie wird vor ihm verborgen.

Der kognitive Reflex
Das tiefere Problem ist nicht technisch. Es ist kognitiv. Vor zwanzig Jahren haben wir Telefonnummern auswendig gelernt. Dann kam das Handy, und wir mussten nicht mehr. Unser Gedächtnis dafür ist atrophiert – und das ist in Ordnung, weil das Handy zuverlässig speichert. Heute delegieren wir nicht mehr nur Speicherung, sondern Entscheidungen. Mit demselben Reflex: Wir vertrauen, ohne zu prüfen. Das ist der Fehler. Ein Handy speichert exakt. KI entscheidet unsicher. Behandelt das Gehirn beides gleich, schaltet die kritische Kontrolle ab. Wir hinterfragen nicht mehr, trainieren unser Urteilsvermögen ab, und Verantwortung fühlt sich plötzlich leichter an – weil sie sich entzieht. Doch Urteilsvermögen ist nicht irgendeine Funktion. Es ist das, was den Entscheider zum Entscheider macht. Wer es abgibt, gibt mehr ab, als ihm bewusst ist.

Die andere Unsichtbarkeit
„Es kann Kompetenz ohne Verständnis geben.“
– Daniel Dennett, Von Bakterien zu Bach und zurück
Es gibt eine zweite Form von Unsichtbarkeit – und sie ist das Gegenteil der ersten. Der erfahrene Entscheider weiß oft nicht mehr, warum er weiß. Sein Wissen ist so vollständig durchgelaufen – durch Daten, Prüfung, Erfahrung, gelegentliches Scheitern – dass es zur Intuition geworden ist. Das ist keine Magie. Das ist verdichtete Kette. KI sieht von außen genauso aus: schnell, sicher, ohne Begründung. Aber dahinter steht keine durchlaufene Kette, sondern statistische Mustererkennung. Die Geste ähnelt der des Meisters – das Fundament fehlt.

Was zu tun ist
Das ist kein Plädoyer gegen KI. Wer sie einsetzt, muss die Kette kennen. Das heißt vor allem dreierlei. Erstens: wissen, woher die Daten kommen und wie eine Empfehlung zustande kommt – wenigstens im Prinzip. Zweitens: klären, wer haftet, bevor etwas schiefgeht. Denn Delegation ist nicht Abdikation. Wer eine Empfehlung annimmt, übernimmt sie. Drittens: KI nicht heimlich einsetzen. Die gefährlichste KI ist die, von der niemand weiß, dass sie entscheidet. Künstliche Intelligenz macht uns schneller. Aber Geschwindigkeit ist nicht Verantwortung. Effizienz ist nicht Urteilsvermögen. Tausende Entscheidungen werden automatisiert – in Banken, Behörden, Unternehmen. Die Kette wird leiser. Manche bemerken es. Andere nicht. Die Aufgabe des Entscheiders ist nicht, KI zu verbieten – sondern die Kette zu kennen und zu sehen, wo sie zu brechen beginnt. Diese Entscheidung trifft nicht die Maschine. Sondern er selbst.