Editorials: Aus dem Uncanny Valley mitten ins Herz

28.11.2022 von Rudi Schmidts



Kürzlich hat Roope Rainisto auf Twitter die Ergebnisse seines KI-Dreambooth Modells für "Realistische Fotos" präsentiert - und dabei ist uns klar geworden, dass wir mittlerweile einen Kipppunkt bei der Erzeugung realistischer Fotos mittels Künstlicher Intelligenz überschritten haben:

!

Alle diese Bilder wurden von einem neuronalen Netz nach Stichwort-Vorgaben generiert. Keine der dargestellten Personen existiert wirklich, alles ist nur eine stochastische Iteration von Millionen Parametern aus ursprünglichem Rauschen. Dennoch würde kaum ein Betrachter ohne Vorwissen aktuell auf die Idee kommen, dass es sich hierbei um computergenerierte Bilder handelt.

Fotorealistische Bilder ließen sich schon die letzten Jahre immer einfacher erzeugen, jedoch haben die künstlichen Fotos von Roope Rainisto eine neue, zusätzliche Qualität. Sie sind so realistisch, dass sie beim Zuschauer echte Emotionen freisetzen können. Einen Astronauten auf einem Pferd mag man vor allem technisch bewundern, aber solche "echten Fotos von echten Menschen" wecken unvermittelt direkte Emotionen beim Betrachter, was für ein computergeneriertes Bild doch ein Novum ist.

Was war nochmal im Uncanny Valley?

3D-Modellierer hatten in den letzten zwei Jahrzehnten mit der Akzeptanzlücke des Uncanny Valley zu kämpfen. Die Wikipedia erklärt das Problem folgendermaßen:

"Während man zunächst annehmen würde, dass Zuschauer oder Computerspieler ihnen dargebotene Avatare umso mehr akzeptieren, je fotorealistischer die Figur gestaltet ist, zeigt sich in der Praxis, dass dies nicht stimmt. Menschen finden hochabstrakte, völlig künstliche Figuren mitunter sympathischer und akzeptabler als Figuren, die besonders menschenähnlich bzw. natürlich gestaltet sind.

Die Akzeptanz fällt der Theorie zufolge ab einem bestimmten Niveau des Anthropomorphismus schlagartig ab und steigt erst ab einem bestimmten, sehr hohen Grad wieder an. Die Akzeptanz wäre dann am höchsten, wenn sich die Imitationen überhaupt nicht mehr von echten Menschen unterscheiden ließen."

Kurz gesagt, wenn ein computergenerierter Mensch menschenähnlich, aber eben nicht perfekt generiert wurde, so wirkt er auf viele Betrachter abstoßend oder sogar furchteinflößend. Daher war eine gewisse Abstraktion von computergenerierten Charakteren in der Vergangenheit in der Regel zuträglicher als eine möglichst große Ähnlichkeit - sofern diese nicht hundertprozentig perfekt ist.

Auch bei dem KI-Dreambooth Modells für "Realistische Fotos" von Roope Rainisto gelingt aktuell nur durchschnittlich eines von zehn Bildern ohne grobe sichtbare Fehler. Und fast immer wenn die KI daneben liegt, wird das Ergebnis ziemlich creepy:

!

Gerade weil der Diskriminator - also der wertende Teil des Netzes - beschließt, dass es sich um ein realistisches Foto handelt, ist die Qualität immer nahezu fotorealistisch. Aber das im Motiv Dargestellte kollidiert inhaltlich mit dem gesunden Menschenverstand. Was die misslungenen Ergebnisse meistens ebenfalls recht interessant macht:

!

Die letzten Bilder zeigen gut, wie ungemütlich man sich im Unacanny Valley fühlen kann. Und umso erstaunlicher ist es, dass wir es nun geschafft haben, dieses Tal tatsächlich auch mal zu überwinden.

Mittels KI lässt sich nun auch emotional manipulieren!

Vielleicht resultiert das Unbehagen im Tal ja gerade aus einer Art Ur-Angst heraus, in seinen Gefühlen betrogen zu werden. Im Gegensatz zu den gelungenen KI-Fotos, auf die man sich bedingungslos emotional einlässt, weil man deren unrealen Hintergrund nicht in Frage zu stellt.

Gerade dieses unhinterfragte Vertrauen ermöglicht diesen synthetischen Fotos eine bisher nie dagewesene, emotionale Verbindung zum Betrachter. Und gerade von dieser Glaubwürdigkeit werden auch in den folgenden Jahren die größten Gefahren ausgehen, denn diese Glaubwürdigkeit kann und wird ausgenutzt werden, um den Betrachter zu manipulieren.

Sei es für Fake News, Deep Fakes oder andere Betrügereien. "Fake oder Fakt?" lässt sich nicht mehr instinktiv zuverlässig bestimmen. Unser Misstrauen in alles, was wir zu sehen bekommen, wird drastisch zunehmen, ob wir es wollen oder nicht. Und das ist leider eine verdammt schlechte Nachricht. Denn ein solches "Misstrauen in alles" bekräftigt letzlich auch den Glauben, dass man ja überhaupt nichts mehr glauben kann oder nicht weiß wem man noch glauben sollte. Und solche Gedanken (deren Produktion als Ziel man ja ebenfalls aktuellen Desinformationskampagnen nachsagt) sind letztlich hochexplosiver gesellschaftlicher Sprengstoff.

!

   

Kommentare

 

Top

AKTUELLE ARTIKEL

AKTUELLE NEWS

8.Februar 2023 - 16:27 Uhr
Kompakter und mit neuem Fokusmotor: SIGMA 50mm F1.4 DG DN | Art Standard-Objektiv vorgestellt

8.Februar 2023 - 14:50 Uhr
Neue Firmware für Sigma fp und fp L Kameras bringt EL ZONE Farbmodus, Support für 4TB SSDs und Atomos Cloud

8.Februar 2023 - 11:03 Uhr
Canon stellt EOS R50 DSLM mit APS-C Sensor für 829,- Euro vor

8.Februar 2023 - 10:42 Uhr
Canon EOS R8 - Vollformat Hybrid Kamera mit 10 Bit Log unter 2000 Euro



weitere News: