Ein kleines bisschen Ähnlichkeit mit dem Michelin-Männchen hat er auf dem Fake-Foto: Papst Franziskus in einem dicken Daunenmantel. Wuchtig, weiß, tailliert, und mit etwas versehen, das dem Zingulum ähnelt, jenem breiten Gürtel, den der Papst zu seiner Soutane trägt. Dazu ein auffälliges silbernes Kreuz. Es wirkt, als ob das Oberhaupt der römisch-katholischen Kirche zu einem Besuch in eine sehr kalte Region unterwegs sei. Am Wochenende verbreitete sich dieses Foto rasend schnell im Internet. Es wurde auf Twitter und Facebook geteilt, Millionen von Nutzerinnen und Nutzern amüsierten sich darüber – und viele hielten es für echt.

Inzwischen ist klar: Das Bild ist eine Fälschung. Generiert wurde es von einer künstlichen Intelligenz namens Midjourney. Seit einem Dreivierteljahr ist dieses Computerprogramm für jedermann zugänglich, vor wenigen Tagen ging das digitale Bilderzeugungstool in seiner fünften Version in eine Alpha-Testphase. Jeder, der über einen Computer und einen Internetanschluss oder ein Smartphone mit ausreichend Datenvolumen verfügt, kann Midjourney nutzen. Die KI wird mit einem Text gefüttert, der beschreibt, was zu sehen sein soll. Daraus generiert Midjourney dann ein Bild. Seine virale Reise durchs Netz begann der Franziskus-Fake in einem Forumsthread auf Reddit, wo Nutzer ihre Midjourney-Experimente teilen können. Das Onlinemagazin „Golem” schreibt über die aktuelle Version der KI: „Die mit V5 erzielten fotorealistischen Ergebnisse sind gelegentlich so gut, dass sie kaum noch von Fotografien zu unterscheiden sind.”

So war es auch im Fall von Papst Franziskus. Denn so bizarr das Bild auch auf den ersten Blick wirkte – zumal in Rom am Wochenende milde 18 Grad herrschten –, ganz abwegig schien das extravagante Kleidungsstück nicht zu sein. Papst Johannes Paul II. soll trendige Stiefel der Marke Dr. Marten’s getragen haben. Und Papst Benedikt XVI. wurde 2013 vom US‑Männermagazin „Esquire” zum „Accessoireträger des Jahres” gekürt. Die roten Lederschuhe, die dafür Anlass waren, stammten zwar nicht aus dem Hause Prada, wie der Vatikan damals klarstellte. Aber klar ist eben auch: Kleidungsstücke für den Stellvertreter Gottes auf Erden gibt es nicht von der Stange bei Primark, H&M oder Deichmann. Insofern – ein Daunenmantel in päpstlichem Weiß, wieso nicht? Könnte ja sein.

Und genau dieses „Könnte ja sein” ist nun der Ausgangspunkt einer Debatte über die Möglichkeiten und Gefahren, die sich durch künstliche Intelligenz wie Midjourney auftun. „Könnte ja sein” ist das Credo der Anhänger von Verschwörungserzählungen. Die Mondlandung wurde im Studio aufgezeichnet? Ist zwar widerlegt, aber: „Könnte ja sein.” Oder auch abgewandelt: „Hätte ja sein können.“ So lässt sich jede Tatsache, jeder Beweis, der einen hanebüchenen Mythos als Fake entlarvt, ins Lächerliche ziehen.

Blick auf eine neue Wirklichkeit

Ein Papst in Daunen tut niemandem weh, aber was, wenn gefälschte Fotos dazu genutzt werden, um gezielt Unruhe zu schüren? Wenige Tage vor dem Franziskus-Fake kursierten im Internet Fotos, die die angebliche Verhaftung des früheren US‑Präsidenten Donald Trump zeigten. Der Twitter-Nutzer, der es verbreitete, hat keine 1000 Follower – angesehen wurde das Bild aber mehr als 800.000-mal. Trump selbst hatte zuvor behauptet, er werde demnächst festgenommen und seine Anhänger zum Protest aufgefordert. Das amerika­nische Technikportal „The Verge” schrieb über die gefakten Papstbilder, sie seien ein flüchtiger Blick auf eine neue Wirklichkeit – und zeigten, wie schwierig es künftig werde, Realität von Fälschung zu unterscheiden.

Mehr zum Thema

 

Kreative künstliche Intelligenz

Die KI als Künstlerin: Bedrohung oder Bereicherung?

 

Hausaufgaben, Gemälde und schöne Haut

Mehr als nur ChatGPT: Diese cleveren KI-Tools sollten Sie sich merken

 

Wenn Bilder täuschend echt wirken

Trumps inszenierte Festnahme: Wie erkennt man die Deepfakes im Netz?

Noch ist das KI-Erzeugnis nicht perfekt, und wer das Papstbild genauer unter die Lupe nimmt, findet einige Anhaltspunkte, die auf eine Fälschung hindeuten. Eine der einfachsten Methoden, ein künstlich erzeugtes Bild zu identifizieren, seien die Hände, heißt es in einem Artikel des Wirtschaftsmagazins „Forbes”. Midjourney habe enorme Schwierigkeiten, Hände zu generieren. Das sieht man auch bei Franziskus: Die linke Hand erscheint verwischt und sieht aus, als ob sie einen zu kurz geratenen Coffee-to-go-Becher halte, die rechte Hand (jeweils vom Betrachter aus) irritiert mit ihren Proportionen. Auch der Kopf des Papstes wirkt auf den zweiten Blick nicht ganz stimmig: Wer aktuelle Fotos googelt, stellt fest, dass der in Daunen gehüllte Franziskus etwas jünger aussieht als das Original.