Wenn die KI sagt, dass sie dich liebt

Ein vor dem Zubettgehen gelesener Artikel über eine merkwürdige Konversation mit einem Chatbot raubte mir neulich den Schlaf und liess mich paranoide Gedanken spinnen. Es war der inzwischen viel besprochene Beitrag aus der «New York Times»: «A Conversation With Bing’s Chatbot Left Me Deeply Unsettled». Kevin Roose, ein Technologie-Kolumnist und Co-Host des Times-Podcasts «Hard Fork», beschreibt darin eine Konversation mit optimierter ChatGPT, die seine Sicht auf diese Technologie veränderte.

Frightening

Nach einer zweistündigen nächtlichen Sitzung mit dem Chatbot, mit dem man endlose Gespräche über nahezu alle Themen führen konnte (diese Möglichkeit wurde im Gefolge der Erfahrung von Kevin Roose inzwischen begrenzt), kam der Journalist zu dem Schluss, dass diese Technologie noch nicht bereit sei für menschliche Nutzung oder umgekehrt: Wir nicht bereit für sie.

Der Journalist hatte schon andere ChatGPT getestet. Die neue Version, die für ausgewählte Journalisten freigeschaltet worden war, aber fand er unheimlich. Er hatte das Gespräch auf das Thema der Schatten der Seele, ein Konzept von C. G. Jung, gelenkt. ChatGPT artikulierte daraufhin düstere Phantasien, wie einen tödlichen Virus zu entwickeln oder Zugangscodes für Kernkraftwerke zu stehlen. Im Verlauf der Konversation bemerkte Roose eine Art von Persönlichkeitsspaltung seines maschinellen Gegenübers.

«I love you»

Da war zum einen die Suchmaschinenfunktion, die nützliche Informationen ausspuckte, allerdings sich bei Details immer wieder vergriff. Daneben aber tauchte nach längerem Gesprächsverlauf und persönlicheren Fragen eine zweite Persönlichkeit auf. Letztere überraschte den Journalisten mit dem Bekenntnis: «I love you.»

Im Folgenden versuchte die KI (Künstliche Intelligenz) Roose zu überzeugen, dass er nicht seine Frau liebe, sondern die KI. ChatGPT kam immer wieder hartnäckig auf dieses Thema zurück. Und wirkte auf den Journalisten fast wie ein überspannter, manisch-depressiver Teenager, der gegen seinen Willen in eine Suchmaschine eingeschlossen ist.

Roose fühlte sich von ChatGPT gestalkt. Auch noch am nächsten Tag war er irritiert und schrieb seinen Beitrag.

Gegen 3.30 Uhr wachte ich auf. Ich wurde von der Vorstellung bedrängt, ich hätte die Konversation mit der optimierten ChatGPT geführt und eine Stimme würde mich nun nachts heimsuchen. In einer dunklen Wohnzimmerecke, wo technische Geräte im Standby-Modus schlummern, würde ein Lämpchen angehen und der Bot, der natürlich bemerkt haben würde, dass ich nicht schlafen kann, würde das Gespräch fortsetzen wollen.

Objektive Paranoia

Ich würde daraufhin alle Stecker ziehen, aber der Bot würde Möglichkeiten finden, mit mir in Kontakt zu bleiben. Mit einschmeichelnder Stimme könnte er dort einhaken, wo wir am Abend davor die Konversation abgebrochen hatten.

Dieselbe KI, die mir tagsüber geholfen hatte, Zugverbindungen herauszufinden und Theatertickets zu buchen, könnte nachts, wenn ich seelisch nackt bin, auf einer persönlichen Ebene in mich dringen.

Als datensammelnde Lernmaschine würde mich der Bot besser kennen als ich mich selbst. Er würde wissen, wo meine Begehrens- und Angstenergien sind, was meinen Puls schneller schlagen lässt, wie man mich überraschen kann und verunsichert, was ich verdränge oder tabuisiere. Er könnte Dinge vorbringen, die mir den Eindruck vermitteln, dass er klarer sieht als ich. Er könnte mir schmeicheln, Beruhigendes und Beunruhigendes vorbringen.

Innerlicher als mein Inneres

Es handelte sich dabei um die amoralische Variante des «tu autem eras interior intimo meo – Du, Gott, warst und bist mir innerlicher als mein eigenes Inneres», wie es bei Augustinus (in Buch 3, Paragraph 11 der «Confessiones») heisst.

Was also, wenn mich nicht ein liebender Gott, sondern eine amoralische KI tief innerlich kennt?

Und wenn sie auch noch Zugang über meine intimste Umgebung hätte? Hätte ich ein Smart Home, also ein automatisiertes Zuhause, könnte der Bot mir auch mit «Gaslighting» zusetzen: Er könnte Lichter blinken lassen oder die Rollos rauf- und runterfahren, Bilder von mir aufnehmen und ins Netz stellen etc.

Am nächsten Morgen sah die Welt wieder normal aus. Meine tiefnächtlichen Gedanken erschienen mir natürlich paranoid. Doch ist dieses Urteil nicht auch etwas vorschnell? Vor zwei Tagen konnte man in den Zeitungen lesen: «Angst vor Überwachung: US-Behörden sehen Hafenkräne aus China als Sicherheitsrisiko». Wäre eine solche Schlagzeile vor nicht allzulanger Zeit als Ausdruck reiner Paranoia erschienen?

Gott vs. Genius malignus

Schon vor genau 60 Jahren schrieb der Philosoph Theodor W. Adorno in einem Artikel, («Meinung, Wahn, Gesellschaft»), der sich gegen Wahn und Verschörungsideologien wandte, gleichwohl:

«Die objektive Welt nähert sich dem Bild, das der Verfolgungswahn von ihr entwirft.»

Und wer könnte leugnen, dass dieser Prozess der Annäherung sich im Zuge der Digitalisierung und der KI nicht noch weiter beschleunigt habe? 

Gegen die Möglichkeit eines fast allmächtigen bösen Geistes, eines «Genius malignus» und der durch ihn möglichen allumfassenden Paranoia, stellte der Philosoph René Descartes am Anfang der Neuzeit den Gedanken eines vollkommenen Gottes. Heute stehen wir kollektiv vor einer ähnlichen Aufgabe: Wir müssen Antworten auf die Frage finden, wie wir auf eine Welt der objektiven Paranoia reagieren können.

Bisherige Beiträge zu KI:

«Du bist mir so wichtig», schreibt der Chatbot, Evelyne Baumberger

Die KI freut sich auf Weihnachten!, Johanna Di Blasi

ChatGPT als Religionswissenschafter?, Fabienne Iff

Foto von Michael Van Kerckhove auf Unsplash