Zum Seiteninhalt

ZurQuelle Magazin

Das gesellschaftskritische Popmagazin

Im Internet treibt seit kurzem ein Phantom sein Unwesen: Deepfakes. Mit Hilfe einer selbstentwickelten Software spielt er Bilder von Schauspielerinnen auf Pornofilme. Das weitere Missbrauchspotential ist vielfältig – trotzdem feiern sich die »Faker« als Revoluzzer.

Nichts läuft im Netz so gut wie pornografische Inhalte. Das hat sich ein Internet-User zu Nutze gemacht und eine Face-Swap-Technologie entwickelt, mit der man jedes beliebige Gesicht auf Pornos übertragen kann.


Deepfake, 2Besonders beliebt sind die Darstellerinnen aus Game of Thrones, hier trifft es Natalie Dormer. Via BBC

Unter dem Namen »deepfakes« postete er auf Reddit die Früchte seiner Arbeit. Zu sehen sind bekannte Schauspielerinnen, die man sonst aus Hollywood kennt: Emma Watson, Scarlett Johansson oder Gal Gadot. Nun spielen sie in Pornos mit – und zwar ohne es zu wissen.

Demütigung als revolutionärer Akt?

Die perfide Technik: Fotos und Videos der Frauen werden mit Hilfe von Algorithmen auf das Gesicht von Pornodarstellerinnen eingefügt. Das ist nicht schwer: Die Software »FakeApps«, frei im Netz verfügbar, erledigt die ganze Arbeit.

Die Ergebnisse sehen erschreckend real aus: Auch „Star Wars“-Hauptdarstellerin Daisy Ridly ist ein Opfer von „deepfakes“. Via Motherboard

Besonders auffällig: Bis jetzt sind fast ausschließlich Schauspielerinnen betroffen, die nicht nur durch Talent, Intelligenz und ihr hübsches Aussehen auffallen, sondern auch durch ihr frauenpolitisches Engagement. Ausgerechnet die Person, die sich gegen sexuelle Degradierung und sexuellen Machtmissbrauch einsetzen, werden nun auf diese Art und Weise Opfer davon.

Nichtsdestotrotz sehen sich die »Deepfaker«, aus denen mittlerweile eine ganze Community geworden ist, als Helden des Internets. Ein Reddit-Nutzer schreibt in einem vielgeteilten Post:

»Die Arbeit, die wir hier in dieser Community erstellen, ist ohne bösartige Hintergedanken. Genau im Gegenteil. Wir malen mit revolutionärer, experimenteller Technik, die sehr wahrscheinlich die Zukunft von Medien und kreativem Design beeinflussen wird!« (Übersetzt aus dem Englischen, Originalpost hier)

Mit letzterem mag der User recht haben: Diese Art des Gesichtertauschs könnte das Internet wie wir es kennen revolutionieren. Immerhin stellt fast jeder regelmäßig Foto- und Videomaterial ins Netz; sei es auf Facebook und Instagram oder in privaten Messenger-Chats wie WhatsApp. Stellt sich die Frage, ob die Revolution der »Deepfaker« nicht auf eine dystopische Episode der Netflix-Serie  »Black Mirror« hinausläuft.

Vollständiger Verlust der Persönlichkeitsrechte

Weil die Technologie frei verfügbar und relativ leicht zu bedienen ist, könnte einem genau das zum Verhängnis werden: Je mehr Material zur Verfügung steht, desto leichter ist es für die Software, die Fakes zu erstellen. Bis jetzt sind deshalb hauptsächlich Prominente betroffen. Zukünftig wird sich das vermutlich ändern. Ob als Rache oder als übler Scherz gemeint: Freunde, Bekannte oder Fremde haben plötzlich die Macht, einen zum Pornodarsteller zu machen.


Deepfake 1Eine Auswahl an Videos, die bekannte Frauen in Pornos zeigt – tausende Male gesehen und gepusht. Via Aiat.Tech

Bis jetzt gibt es dazu überhaupt keine Rechtsgrundlage. Das wird sich ändern müssen. Nicht nur, dass Persönlichkeitsrechte bei den »gefakten« Inhalten nicht gelten – auch wird es zukünftig noch schwieriger sein, echt von falsch zu unterscheiden. Doch immerhin hat der oben zitierte Reddit-Nutzer auch dafür eine Antwort: »Wenn alles echt sein könnte, ist nichts mehr echt.«

Politische Manipulation

Wenn »nichts mehr echt ist«, hat das vermutlich weitreichende Folgen; nicht nur in der Pornoindustrie. Auch in der Politik wird die Technologie einiges ändern. Wie extrem Fälschungen auf die öffentliche Wahrnehmung wirken, zeigte eindrucksvoll der Wahlkampf zwischen Hillary Clinton und Donald Trump. Letzterer prägte nicht nur das Wort »Fake News«, das die Grenze zwischen wahr und falsch zu subjektiven Ansicht werden ließ; sondern profitierte auch von hunderttausenden Bots, die z.B. seine Tweets verbreiteten. Vielfach wurde spekuliert, ob er nicht zuletzt dadurch erst gewinnen konnte.

Die Face-Swap-Technologie geht noch weiter. Wo es möglich ist, Gesichter von Schauspielerinnen auf Pornodarsteller zu montieren; da kann man auch die Gesichter von Politikerinnen und Politikern manipulieren. Wissenschaftlern ist es bereits gelungen, mithilfe von Webcam-Aufnahmen die Mimik und Kopfhaltung von u.a. Barack Obama und George W. Bush zu kontrollieren.

Lachen, zwinkern, Augenbrauen hochziehen: Diese Bewegungen stammen nicht von George W. Bush (komplettes Video hier).

Das Ganze funktioniert nicht nur mit Bildmaterial, sondern auch mit Tonspuren. Je mehr Material zur Verfügung steht, desto genauer wird das Ergebnis. So lassen sich zukünftig Zitate oder ganze Interviews fälschen – ohne, dass es auffällt. Dabei steht die Wissenschaft hier noch ganz am Anfang – doch die Ergebnisse wirken schon jetzt erschreckend echt. Es braucht nicht viel Phantasie um sich vorzustellen, wie viel Schaden durch solche Softwares entstehen könnte: Auf einmal kann man seinen politischen Kontrahenten jegliche Worte unterjubeln. Oder aber behaupten, dass echte Zitate das Ergebnis solcher Fälschungen sein. Ein paar Jahre später, und Donald Trump hätte sein »Grab her by the pussy«-Zitat vermutlich als Fake ausgeben können.

Bis jetzt werden die Apps und Softwareprogramme hauptsächlich zum Spaß genutzt, zum Beispiel als Snapchat-Filter. Doch die »Deepfakes« zeigen, wie schnell die Algorithmen ausgetrickst werden können, um fatale Inhalte zu produzieren. Bleibt nur zu hoffen, dass derartige Technologien zukünftig klarer Reglementiert werden – damit der Kampf um die Wahrheit nicht vollends verloren geht.


Trägt normalerweise weder Schnäuzer noch Hornbrille: Die Autorin mit Snapchat-Filter.

Außer »Deepfake« gab es in der letzten Woche folgende Themen…

In der Sneak wurde es kalt und grausam. »Wind River«

Unsere Autorin Leonie hat ein Herz für Gedichte auf Wänden. Ein Herz für Avenidas y Flores.

Immer noch keine neue GroKo? 10 Dinge, die nach 100 Tagen ohne neue Regierung nicht eingetreten sind.

Pamela Reif lesen, Food Porn posten und den Kapitalismus überwinden? Strong & Beautiful.

Mehr ZurQuelle Magazin-Party? Wir freuen uns auf dich bei FacebookTwitter und Instagram.

Und am tollsten wäre es, wenn du ein Abo abschließen würdest. Nirgendwo sind wir so schön wie im Print.