Die Maschine, der wir zu viel glauben – Simon Baur

Im Spiegel der KI

Auftakt einer Himmel & Erdung-Reihe zu Künstlicher Intelligenz und wie sie das Menschsein neu reflektieren lässt. Wahrscheinlich haben Menschen noch nie so nachdrücklich nach dem genuin Menschlichen gefragt wie heute. Danach, was uns ausmacht, was uns unersetzlich macht. Und wo wir vielleicht zu sicher waren, dass uns Maschinen nicht übertrumpfen.

In der Auftaktepisode geht es grundsätzlich darum, wie KI funktioniert.

Was können Large Language Models tatsächlich – und wo liegen ihre strukturellen Grenzen?

Gast ist der Spezialist für Deep Learning, Simon Baur. Er forscht im Bereich Machine Learning und Deep Learning mit einem besonderen Fokus auf Unsicherheit und Verlässlichkeit von KI-Modellen.

Künstliche Intelligenz erscheint derzeit vielen entweder als Heilsversprechen oder als Untergangsmaschine.

Wie erlebt jemand diese Spannung, der selbst an der Entwicklung solcher Systeme arbeitet?

Eine zentrale These des Gesprächs lautet:

Gefährlich wird KI nicht, weil sie allmächtig wäre, sondern weil Menschen ihr Macht übertragen.
Und weil sie zunehmend dort eingesetzt wird, wo statistische Systeme eigentlich nicht über Menschen entscheiden sollten.

Im Gespräch geht es unter anderem auch darum, warum KI oft kompetenter wirkt als sie tatsächlich ist – und wieso Sprachmodelle trotz ihrer beeindruckenden Fähigkeiten grundsätzlich fehleranfällig bleiben.

Simon Baur ist Deep-Learning-Researcher und Doktorand an der Fraunhofer-Gesellschaft, einer der grössten europäischen Organisationen für angewandte Forschung und Technologietransfer. Fraunhofer-Institute arbeiten an der Schnittstelle zwischen Wissenschaft, Industrie und Gesellschaft und entwickeln Technologien, die später in reale Anwendungen überführt werden – von Medizintechnik bis zu KI-Systemen.

Nächste Folge

Jonas Simmerlein, Theologe und international bekannt geworden mit ChatGPT-Gottesdiensten, zur Frage: Was geschieht mit Spiritualität, wenn Maschinen in Räume eindringen, die einmal von Präsenz, Offenheit und leiblicher Begegnung lebten?

RefLab bietet weitere Podcast-Formate zu Spiritualität, Philosophie, Kultur, Psychologie und Popkultur. Zudem erscheinen wöchentlich neue Blogbeiträge. Wenn du informiert bleiben möchtest, abonniere den RefLab-Newsletter.