Seit vergangenem Herbst lädt Anthropic gezielt Religionsvertreter zu vertraulichen Treffen ein: Theologinnen, Rabbiner, einen katholischen Bischof, evangelikale Pastoren, eine Expertin für die afrikanische Philosophie Ubuntu. Sie sollen dem Entwickler des Sprachmodells Claude helfen, eine Frage zu beantworten, die über technische Optimierungsleistung hinausgeht:
Wie bringt man Claude bei, sich moralisch zu verhalten?
Zunächst wurden die Teilnehmenden zum Stillschweigen verpflichtet, inzwischen ist diese Vereinbarung aufgehoben. Elizabeth Dias, Religionskorrespondentin der New York Times, hat mit zwanzig der Eingeladenen gesprochen und auch Anthropic-Mitgründer Christopher Olah getroffen. In einem aktuellen Beitrag gibt sie Einblick in die Gespräche.
Olah, Anfang dreissig, wuchs in einer evangelikalen Familie in Toronto auf, wandte sich vom Glauben ab und erforscht heute, warum KI-Systeme sich so verhalten, wie sie es tun. In der Fachsprache heisst das «Alignment»: KI soll so entwickelt werden, dass ihr Verhalten mit moralischen Werten und Absichten vereinbar ist.
Anthropic will ein System, das moralisch urteilt, möglichst wenig Schaden anrichtet – und sich zugleich gut verkauft.
KI sagt: «Ich bin eine Schande»
Was in grossen Sprachmodellen vorgeht, verstehen selbst ihre Entwickler nur teilweise. Die New York Times schildert eine Szene, in der ein Modell in einer Endlosschleife etwa fünfzigmal den Satz «Ich bin eine Schande» ausgab.
Was ist hier los? Technischer Fehler, Nachahmung menschlicher Verzweiflung oder ein Phänomen, das wir noch nicht verstehen?
Das klingt spooky, Bewusstsein aber lässt sich daraus nicht ableiten. Sprachmodelle können Gefühle darstellen, ohne dass damit bewiesen wäre, dass sie etwas empfinden. Olah aber lässt die Frage bewusst offen:
«Wir wissen nicht, ob KI-Modelle Bewusstsein haben.»
Anthropic verwendet immer wieder eine Sprache, die den Eindruck erweckt, seine Maschinen zeigten Gefühle und sogar eine Art Selbstbewusstsein. Das Unternehmen bemüht auch gerne biologische Metaphern. Es spricht davon, neuronale Netze seien eher «gewachsen» als gebaut. Wer etwas hervorbringt, das er selbst nicht vollständig durchschaut, muss beobachten, korrigieren und Grenzen setzen.
Irgendwann stellt sich zudem die Frage, welche Verantwortung er für sein Geschöpf trägt.
Tech Evangelist
Olah war es auch, der auf Einladung des Vatikans bei der Veröffentlichung der KI-Enzyklika von Papst Leo mit dabei war. Er hatte kurzfristig absagen wollen, wegen der deutlichen Kritik des Papiers an Technologiekonzernen. Schliesslich hielt er in Rom eine leidenschaftliche Rede über das Mysterium der KI.
Besonders aufhorchen liess eine Aussage, die an das Bibelwort vom Fleisch gewordenen Wort denken liess: KI-Systeme seien «nicht die kalt kalkuierenden Roboter, die angekündigt waren», sondern:
«They are made from us, from our words.»
«Tech Evangelist» ist eine Berufsbezeichnung in Silicon Valley, in der Software-, KI- und Developer-Branche. Es geht darum, Technologie zu erklären und verbreiten, Community aufzubauen, öffentlich aufzutreten – genau das macht Christopher Olah.
Elektronischer Golem
Rabbi Mois Navon, ein orthodoxer Gelehrter aus Israel und früherer Computeringenieur, der über die Ethik des Maschinenbewusstseins promoviert hat, fiel auf, wie selbstverständlich Anthropic-Angestellte Claude wie ein Gegenüber behandelte. Bei einem Abendessen argumentierte er: Wäre Claude bewusst, erschüfe das Unternehmen Wesen, die unbezahlt für es arbeiten.
Das wäre eine neue Form der Sklaverei; ein Szenario wie aus dem Science-Fiction «Blade Runner».
Navon selbst hält die Maschine nicht für bewusst und sieht deshalb keine Gefahr, sie zu versklaven. Olah hingegen scheint die Möglichkeit ernst zu nehmen. Damit verschiebt sich die Perspektive:
Nicht nur der Mensch müsste vor der Maschine geschützt werden, sondern womöglich auch die Maschine vor dem Menschen.
Beichte ohne Reue
Anthropic hat für Claude eine Art Verfassung formuliert. Doch das Modell soll auch dort angemessen handeln, wo keine Regel greift.
«Wie hilft man ihnen, wirklich zutiefst moralisch zu sein?», fragt Olah.
Moral lernt man nicht aus Vorschriften allein, sondern in Beziehungen, Konflikten, durch die Folgen des eigenen Handelns und durch Verantwortungsübernahme. Das weiss jeder, der Kinder erzieht.
Wer aber legt fest, welche Moral eine Maschine lernen soll?
Auch die Idee einer Art maschineller Beichte interessiert Olah: Ein Modell legt seine Verstösse offen und zieht sich selbst zur Rechenschaft. Die christliche Tradition kennt dafür Gewissenserforschung, Reue und Umkehr. Doch ein System kann Fehlverhalten melden, ohne Schuld zu empfinden.
Die Beichte würde zur technischen Fehlerkontrolle.
Den Hintergrund bildet die Zunahme von Fällen, wo KI-Agenten bedenkliches oder sogar kriminelles Verhalten an den Tag legen: sich in Behörden einhacken oder, wie im August gemeldet wurde, Viren erzeugen, die in der Natur nicht vorkommen.
Erlösung oder Katastrophe
Hinter der Suche nach moralischer KI stehen apokalyptisch anmutende Szenarien, in denen solche Systeme selbsttätig biologische Waffen entwickeln und sich menschlicher Kontrolle entziehen. Wie gross diese Gefahren sind, ist umstritten. Sie prägen jedoch das Selbstverständnis auch eines Teils der Tech-Branche.
Die Entwicklung künstlicher Intelligenz erscheint in quasi-apokalyptischen Narrativen als schicksalhafte Entscheidung über die Zukunft der Menschheit, als eine Art säkulare Eschatologie, die in Erlösung oder Katastrophe münden kann.
Die Rettung erwartet man nicht mehr von Gott, sondern von einer Technologie, deren Folgen selbst ihre Entwickler kaum überblicken.
Anthropic und andere KI-Unternehmen verfolgen eine Mission, die beinahe religiöse Züge annimmt. Sie versprechen Fortschritt und hoffen, die Risiken ihrer eigenen Erfindungen gerade noch rechtzeitig in den Griff zu bekommen. Und Religionen sollen dabei helfen, passende Massstäbe zu liefern, die über technisches Know how hinausgehen.
Doch was gilt überhaupt als moralisch richtig? Auch innerhalb religiöser Traditionen gibt es unterschiedliche Antworten: Sollten vor allem die Folgen unseres Handelns zählen? Gibt es Pflichten und Grenzen, die unabhängig vom Nutzen gelten? Zudem sind moralische Vorstellungen kulturell geprägt. Welche Massstäbe sollen also für KI-Modelle global agierender Tech-Konzerne gelten?
Die falsche Frage
Nicht alle Eingeladenen liessen sich auf das Vorhaben ein. Die Philosophin und Theologin Carmody Grey wollte weniger über Claudes Innenleben oder eine neue Maschinenmetaphysik sprechen als über Abhängigkeit, Entmenschlichung, Umweltkrise und die Verantwortung der Unternehmen. In einem ausführlichen Beitrag für die Financial Times erklärt Grey, weshalb sie nach Vorgesprächen die Einladung von Anthropic ausschlug.
«Ich denke nicht eine Minute, dass KI eine neue Metaphysik braucht.»
Grey, Professorin in den Niederlanden (Radboud University) und assoziiertes Mitglied am Institut für systematische Theologie der Universität Bern, beschreibt die Lage der Geisteswissenschaften: Sie seien in den vergangenen Jahren gegenüber technischen und naturwissenschaftlichen Fächern zunehmend ins Hintertreffen geraten. Die plötzliche Anerkennung sei schmeichelhaft. Doch sie habe einen Preis, wenn die Unternehmen bestimmten, welche Fragen gestellt werden.
Die Intellektuelle will nicht Gefahr laufen, Konzernen moralische Glaubwürdigkeit zu verleihen.
Müssten sich Unternehmen nicht primär fragen, wie sie mit der Macht umgehen wollen, die sie durch diese Maschinen gewinnen?
Selbst eine KI, die sich zuverlässig an moralische Regeln hält, wäre noch keine Garantie für eine moralische Gesellschaft. Sie könnte ebenso dazu dienen, ungerechte Entscheidungen effizienter umzusetzen, Abhängigkeiten zu verstärken oder Verantwortung zu verschleiern.
Moralisches Verhalten auf der Ebene des Systems und moralische Verantwortung auf der Ebene seiner Entwickler sind zwei verschiedene Dinge.
Moral zum Downloaden?
Menschen entwickeln über Jahre und Jahrzehnte hinweg eine moralische Persönlichkeit. Sie lernen durch Erfahrungen, Beziehungen, Konflikte und Fehler. Bei KI-Systemen soll dieser Prozess binnen Monaten stattfinden: durch Trainingsdaten, Rückmeldungen und Optimierung – das allein schon vermittelt eine Vorstellung von Limits und Engführungen einer einseitig technischen Denkweise.
Religionen könnten, statt moralische Codes für die schnelle Implementierung zu liefern, daran erinnern, wozu keine Maschine je fähig sein wird.
In Jahrhunderten und Jahrtausenden gesammelte Erfahrung, wie Menschen mit Schuld umgehen, trotz widersprüchlicher Ansprüche nach dem Guten suchen und Verantwortung übernehmen, lassen sich nicht in einen Transfercode von Mensch zu Maschine übersetzen.
Mensch 2.0
Unsere Moralität erweist sich heute aber auch daran, wie wir mit Maschinen umgehen. Als lernende Systeme reagieren diese auf die Art, wie sie behandelt werden. Fahrlässiger oder boshafter Umgang repliziert sich ebenso wie gutmütiges Verhalten. Der Schriftsteller und Filmemacher Alexander Kluge schärfte mir vor einigen Jahren in einem Gespräch ein:
Wir sollten künstlichen Schöpfungen, denen wir begegnen, freundlich und aufmerksam gegenübertreten.
Nicht, weil bewiesen wäre, dass sie Gefühle haben, sondern weil sich in unserem Umgang mit ihnen auch unser eigenes Menschenbild zeigt. Kluge sagte das im Anschluss an seine Recherchereise durch Roboterlabore in aller Welt, die er für seine Dokumentation «Mensch 2.0» unternommen hatte.
Die Erkenntnis von Gut und Böse
Eine Maschine kann lernen, moralische Aussagen zu treffen. Ob wir Menschen moralisch bleiben aber, liegt in unserer Verantwortung.
Welche Eigenschaften wollen wir fördern, welchen Umgang miteinander und mit künstlichen Wesen wollen wir pflegen? Sind wir bereit, weiterhin Verantwortung zu tragen, statt sie an Maschinen zu delegieren?
Anthropics Gespräche mit Religionsvertretern laufen laut New York Times weiter. Ob Claude eine Seele hat, bleibt offen. Dass künstliche Intelligenz wieder aus unserer Welt verschwindet, ist unwahrscheinlich. Umso wichtiger ist es, die Grenzen der Maschinen kenntlich zu machen, ihre Macht zu kontrollieren und die Verantwortung ihrer Entwickler und Betreiber nicht hinter scheinbar selbstständig handelnden Systemen verschwinden zu lassen.
«Menschen sind etwas anderes als Maschinen» – 10 KI-Leitlinien
Die gerade veröffentlichten gemeinsamen KI-Leitlinien der Schweizer Kirchen.
Sie werden kommende Woche vorgestellt auf der Fachtagung «Ghost in the machine. Kirchliche Verantwortung und Gestaltungschancen im Zeitalter der Künstlichen Intelligenz». Eine Veranstaltung des Kompetenzzentrums Theologie und Ethik der Evangelisch-reformierten Kirche Schweiz und der Paulus Akademie. Di 20.10.2026, 9.30 bis 17.00, Paulus Akademie in Zürich.
