„Die tatsächlich Bösartigen“

Neurowissenschaftler Henning Beck (42) spricht im Interview über die Manipulation des Menschen im KI-Zeitalter, über intellektuelle Gefügigkeit und eine „unfassbar entgrenzte Informationswelt“. Verteufeln dürfe man die KI nicht, man brauche die Technologie, sagt der Biochemiker und Autor: „Verharren wir allerdings in unserer digitalen Gefälligkeit, dann haben die Schurken leichtes Spiel. Es liegt an uns.“

Herr Beck, Sie haben jüngst in Brand eins einen Artikel über Schurken im KI-Zeitalter geschrieben – und dabei festgehalten, dass man Menschen heute anders manipuliere, viel subtiler …
Früher hat man Propaganda und Parolen mit einem Megafon in die Menge gebrüllt oder über Medien gezielt gestreut. Heute flüstert uns KI die passgenaue Meinung gezielt zu. Meinungsmache wird in Zukunft ein sehr intimer Akt, subtil und persönlich, ohne dass wir es merken. In einer Welt, in der man Menschen durch einen Überfluss an Informationen manipuliert, ist das ein sehr eleganter Weg. 

Soll heißen?
Dass der Mensch mit derart vielen Informationen überfrachtet und dadurch so verwirrt wird, dass es ihm immer schwerer fällt, klar zu sehen und die wirklich relevanten Informationen auch zu selektieren. Das Gehirn hat eine Obergrenze dessen, was es verarbeiten kann. Wir sind nicht dafür gemacht, in dieser Welt des Informationsüberflusses klar zu denken. Es ist die Vollendung des großen Missverständnisses der Digitalisierung. Ende der Neunziger und Anfang des neuen Jahrtausends war man ja beseelt von der Vorstellung, dass der Zugang zu Informationen den Menschen kognitiv ertüchtige und sich Demokratie auch deswegen weltweit durchsetzen werde. Von wegen. Weltweit sind Demokratien am Rückzug. Wir sind keine digital aufgeklärte Wissensgesellschaft geworden. Wir erleben auch nicht die Demokratisierung des Wissens, sondern dessen Industrialisierung.

War der Traum einer digital aufgeklärten Gesellschaft also nur eine naive Illusion? 
Ja. Wir haben einfach unterschätzt, wie bequem es ist, nicht viel zu denken. Weil es uns sehr leicht gemacht wird, nicht alles zu sortieren und nicht alles zu überprüfen. Wir haben unterschätzt, dass Menschen gar nicht die Zeit oder die geistige Kraft haben, diesen Ozean an unendlicher Information zu bändigen. Und wir leben in einer unfassbar entgrenzten Informationswelt, in der es keinen redaktionellen roten Faden mehr gibt. Früher hatte alles ein Ende. Heute sind wir in einer Welt ohne Letztes. Es gibt kein letztes Video, was du dir anschaust, keine letzten Nachrichten, die du liest, keine letzte Seite, die du umklappst. Heute kannst du jederzeit alles konsumieren, überall und immer findest du dein Informationsfeld, und zwar in einem Übermaß, das nicht mehr endet. 

Wieso ist es bequem, nicht zu denken? Wie erklärt das der Neurowissenschaftler?
Denken bedeutet, Widerspruch auszuhalten. Wer denkt, sucht nach widersprechenden Ereignissen, Phänomenen, Informationen. Wir lernen aus Niederlagen, aus Widersprüchen, aus Fährnissen. Denken braucht Reibung. Es ist doch viel angenehmer, sich berieseln zu lassen und auf diese kognitiv simple Art und Weise durch die Welt zu segeln. Aber wir werden dadurch so bequem, dass wir den Übergang in eine intellektuelle Gefügigkeit gar nicht bemerken. Die Herrscher über diese Modelle schreiben die digitalen Menükarten, aus denen wir unsere Wahrheiten auswählen.

Apropos. In dem eingangs erwähnten Artikel benennen Sie die drei Schurken des KI-Zeitalters.
Jede Technologie ist doppelt nutzbar. Man kann Technik für etwas Sinnvolles und für etwas Schädliches einsetzen. Das gilt für alles, was die Menschheit jemals erfunden hat, vielleicht mit Ausnahme des Fahrrads (schmunzelt). Bei KI kommt allerdings etwas Besonderes hinzu. 

Von welcher Besonderheit sprechen Sie?
Die Art von generativer künstlicher Intelligenz, die wir bei ChatGPT, Gemini oder Claude sehen, ist die erste Technologie, die das Individuelle im großen Maßstab herstellen kann. Man kann für jeden Menschen auf der Welt passgenau Werbekampagnen anfertigen, Videos machen, Musik erstellen. Darauf setzt der erste Schurke, der Clown. Dieser Typus fertigt mit künstlicher Intelligenz beispielsweise Musik oder Videoclips, und schüttet die Welt damit zu. Ihm geht es nicht um kulturelle Substanz. Der will nur Aufmerksamkeit. Aber wenn man diese Informationswelt mit lauter Belanglosigkeiten flutet, dann verdünnt man den Rest so sehr, bis er nicht mehr erkennbar ist. Das Relevante geht in diesem Ozean aus KI-Banalitäten unter. Und der Clown wird zum König.

Wer ist Schurke Nummer zwei?
Der Blender. Der Blender gibt mit KI vor, etwas zu sein, was er nicht ist. Auf LinkedIn findet man haufenweise Aufschneider, die sich angeblich mit etwas auskennen, in Wahrheit aber nur irgendwas mit KI reingeklopft haben. Das Problem: Dem Clown ähnlich, verdrängen auch diese Aufschneider durch schiere Quantität wertige Information. Das kann auch kompletter Schrott sein. Aber weil Menschen generell nicht so genau hinschauen, was andere tun und Sachen viel zu schnell glauben, hat der Blender leichtes Spiel, Aufmerksamkeit zu gewinnen, die ihm nicht gebührt. Doch die gefährlichsten Schurken sind die tatsächlich Bösartigen, die durch KI die Macht bekommen, die Meinung von Menschen zu manipulieren. Man kann mit Künstlicher Intelligenz derart maßgeschneiderte Informationen anbieten, dass man gar nicht merkt, manipuliert zu werden. 

Sie sagen in diesem Zusammenhang: Man weiß, dass chinesische Sprachmodelle bestimmte politische Themen aussperren. Doch auch die westliche KI sei alles andere als neutral.
Die Sprachmodelle der US-Hersteller folgen einem bestimmten ethischen, kulturellen, linksliberalen Ideal: Sie folgen dem Ideal des Silicon Valley. Sie finden in diesen Sprachmodellen – mit Ausnahme von Elon Musks Grok – sehr viel weniger konservative oder gar rechte Ideen oder Ansichten. Aber es wäre sehr einfach, das zu justieren. Die KI-Anbieter können die politische Tonalität der Antworten jederzeit entsprechend verändern. Und das Problem ist jetzt, dass wir glauben, diese Technik sei neutral. 

Sie schreiben, Menschen lassen sich durch KI-Antworten unterschwellig leichter manipulieren als durch klassische Nachrichten. Warum ist das so?
Weil wir evolutionär nie gelernt haben, dass ein technisches System eine politische Meinung transportieren könnte. Denken Sie doch nur an das Navigationsgerät im Auto: Man zweifelt nicht. Man folgt gutgläubig der vorgeschlagenen Route. Und KI ist, wenn Sie so wollen, das ultimative Navigationssystem in unserem Leben. Wir fragen, Claude oder Gemini oder ChatGPT antworten. Weil diese Sprachmodelle eben technische Systeme sind, glaubt der Mensch, deren Antworten seien objektiv. Und kann damit sehr viel leichter politisch umgestimmt oder beeinflusst oder manipuliert werden.

Hat Journalismus denn überhaupt noch eine Zukunft?
Nun, es sind zwei Möglichkeiten denkbar. Die eine Möglichkeit ist, dass sich Menschen in Zukunft mit KI ihre eigenen Nachrichtensendungen erstellen. Ich bin sehr sicher, dass die Technik in wenigen Jahren so weit sein wird. Dann mache ich keinen Fernseher mehr an, sondern lasse mir von meiner KI meine Henning-Beck-Nachrichten des Tages erstellen. Ich könnte mir auch einen eigenen Henning-Beck-Radiosender vorstellen. 

Einen Radiosender?
Wenn ich heute einen Radiosender einschalte, dann läuft Musik, die mir nicht gefällt, Nachrichten, die mich nicht interessieren, Staus, durch die ich nie durchfahren werde, Wettermeldungen, die überhaupt nicht zu mir passen. Also eigentlich kompletter Schrott. Mit künstlicher Intelligenz könnte ich mir einen Radiosender erstellen mit Nachrichten, die genau zu meinem Interesse passen, mit Musik, die nur mir gefällt, weil sie mit KI für mich geschaffen wurde. Der Mensch wird sich passgenau eine Informationswelt schaffen können. Man wird keinen Vermittler mehr brauchen. Die Kontrolle von Redaktionen über den Nachrichtenraum gäbe es nicht mehr. Es gäbe dann keine Leitmedien mehr. Es würden überhaupt keine Medien mehr existieren. 

Eine erschreckende Vorstellung.
Die Alternative ist: Je günstiger diese billige KI-Informationswelt wird, desto wertvoller wird die kuratierte Information. Es könnte eine Welt entstehen, in der Redaktionen den Schrott rausfiltern und als Serviceleistung vorselektieren. Und ich könnte mir auch vorstellen, dass redaktionelle Torwächter in Zukunft umso wichtiger werden und Menschen gerne dafür zahlen. Aber was passieren wird, ist im Moment offen. 

Wie wirkt sich die Nutzung von KI eigentlich auf das menschliche Gehirn aus?
Die Technologie an sich ist weder verdummend noch schlauer machend. Es kommt auf die Art an, wie man sie einsetzt. Eine aktuelle interessante Studie zeigt, was passiert, wenn sich Menschen von künstlicher Intelligenz nicht nur berieseln lassen, sondern sie als Sparringspartner einsetzen. Wer sich mit den Antworten nicht gleich zufrieden gibt, sondern nachfragt und mit der KI in einen Dialog tritt, kann sogar sein kritisches Denken schulen und Aufgaben auf einem Niveau erledigen, das ihm vorher nicht möglich war. 

Apropos kritisch. Sie rufen nach Selbstverteidigungskursen gegen die kommenden digitalen Machtstrukturen. 
Wir müssen erkennen, dass es diese Strukturen gibt und vielleicht auch selber einmal gedanklich in die Rolle eines Bösewichts schlüpfen, um zu erkennen, nach welchen Mechanismen dieses System funktioniert. Ich sag’s mal so: Drogendealer sind auch selten süchtig, die wissen ganz genau, wie das Zeug wirkt. Und die Leute, die ich in Kalifornien getroffen habe, und die Milliarden mit diesen Technologien verdienen, die haben da auch eine gewisse Mündigkeit entwickelt. Spricht man mit diesen Leuten, merkt man sehr schnell: Das sind clevere Typen, die ganz genau wissen, in welchen Fällen man KI einsetzen sollte und in welchen nicht. Die wissen um die Gefahren, die wissen, dass man eben nicht allem ungläubig hinterherlaufen sollte, was die KI sagt. Sie nutzen Künstliche Intelligenz als Sparringspartner. Allerdings geht die größte Gefahr nicht von den Bösewichten aus.

Nein?
Die größte Gefahr geht in Zukunft von uns selbst aus. Es wird entscheidend sein, wie wir Künstliche Intelligenz nutzen. Und wir dürfen nicht der Verlockung erliegen, zu glauben, dass der heute so einfach gewordene Informationszugang für uns eine Befreiung darstellt. Es ermächtigt uns nicht, wenn wir viele Informationen konsumieren. Es kann uns auch in eine Falle locken. Wir müssen erkennen, dass die Manipulation der Zukunft nicht darin besteht, dass uns jemand etwas sagt, sondern darin, dass wir uns die Informationen selber holen. Ich bin kein digitaler Apokalyptiker. Wir dürfen KI nicht verteufeln. Es wäre geradezu fahrlässig, auf sie zu verzichten. Wir brauchen das Konzeptionelle, Kritische, Zielsetzende des Menschen – und wir brauchen das Optimierende der KI. Aber: Ein mündiger Umgang mit dieser Technologie besteht darin, immer auch kritisch zu sich selbst zu sein. Bleiben wir bequem und lahm und verharren in unserer digitalen Gefälligkeit, dann haben die Schurken leichtes Spiel. Es liegt an uns.

Vielen Dank für das Gespräch! 

Zur Person

Henning Beck , *1983, ist Neurowissenschaftler, Biochemiker und Publizist. Beck, der regelmäßig in den USA ist, um aktuelle Tech-Trends zu erforschen, lebt in Frankfurt am Main. Der 42-Jährige ist Autor mehrerer Sachbücher, zuletzt erschienen: „Besser denken“, Econ, Berlin 2026. Beck schreibt unter anderem für das Wirtschaftsmagazin Brand eins.