Warum Deepfake die Wahrnehmung von Film und Video für immer verändert!

Wenn du noch nie etwas von einer Videotechnologie namens Deepfake gehört hast, wirst du dich bald schon an diesen Artikel erinnern! Denn diese Technologie für Videos verändert dein Leben für immer: Nicht nur, wenn du Filmemacher oder Videoproducer bist.

Wir stehen am Rand einer Welt, in der das, was real ist und was nicht, nochmals weit weniger erkennbar sein wird, als bisher.

Sagen wir mal, du bist dir als technikaffine Persönlichkeit bewusst, dass die Art der Nachrichten, die du online liest oder siehst, durch Algorithmen bestimmt werden. Du blockierst Cookies oder hast diese bis zu dem Punkt akzeptiert, an dem die personalisierte Werbung dich nicht nervt. Das ist nett … – aber für das, was kommt, total irrelevant:

Denn nun werden Deepfakes zum Mainstream. Deepfake-Videos zeigen, wie unsere digitale Realität komplett neuen Spielregeln folgt.

Was wirst du dagegen tun?

Stell dir einmal vor …

Bevor wir sehen, was Deepfake heißt und warum dieser Trend unser Leben und unsere Wahrnehmung für immer ändert, starten wir zusammen ein kleines, harmloses Gedankenspiel:

Wenn du denkst, dass all dies möglich ist, brauchst du für Deepfake Videos nur noch eines:

Eine Software, die (nur) zwei Dinge kann. Dafür aber richtig gut. Erstens muss sie Gesichter automatisch erkennen und digitalisieren können. Zweitens muss dieses Programm digitalisierte Gesichter präzise und automatisch Bild für Bild tauschen können. Fertig ist das Fake Video.

Diese Software, die gibt es.

Das Resultat

Das auf diese Weise automatisch gefälschte Video sieht dann beispielsweise so aus wie im Videobeispiel unten. Natürlich nicht verpixelt von uns, wie in diesem Beispielvideo. Doch selbst damit lässt sich die Perfektion erahnen:

Bereits heute gibt es in den USA spezialisierte Anbieter, die dein Gesicht auf Wunsch mit der neuen Deepfake-Technologie nahezu perfekt in das Pornovideo deiner Wahl montieren.

Wo das Pornogeschäft technologisch voranschreitet, ist es bis zum Mainstream nicht mehr weit. Online mit Kreditkarte bezahlen? 360 Virtual Reality (VR) auf die Spitze getrieben? Interaktive Videos? All dies wäre ohne den Drang nach digitalen Ferkeleien nie so schnell zur Massentauglichkeit entwickelt worden.

Die Software für Deepfake Videos

Die aktuell bekannteste Software für die Herstellung von Deepfake Videos heißt FakeApp. Sie ist im Netz gratis erhältlich.

Um sie nutzen zu können, muss dein Computer über eine Nvidia-Grafikkarte verfügen. Bei den meisten Multimedia-Geräten ist dies Standard. Das Programm nutzt FFmpeg, CUDA 8. Das erforderliche Java Runtime Environment (JRE) 9.0.1 für Windows in der ZIP-Datei zur Installation von FakeApp bereits enthalten. Du brauchst es also nicht separat zu installieren.

FakeApp splittet das Video deiner Wahl zuerst in Einzelbilder. Danach analysiert die Software beide Gesichter.

Künstliche Intelligenz lernt dabei, wie sich Gesicht und Bewegungen verhalten. Bei der eingesetzten KI handelt es sich meist um das Framework TensorFlow von Google. TensorFlow ist ein Open-Source-Projekt mit einer Bibliothek für Machine Learning. Es ist im Web frei verfügbar.

Nach der Analyse wird für jedes Einzelbild der Unterschied von Quelle und Ziel per Gesichtserkennung abgeglichen und berechnet. Anschließend legt die Software das neue Gesicht über das Original und rendert das gefälschte Video neu.

Wenn du selbst als Einsteiger in die Materie mit der FakeApp experimentieren willst, empfehlen wir dir das DeepFake FaceLab. Auf diesem Portal findest du allerhand nützliche Hinweise, Anleitungen, Tipps und Tricks. Dies leider nur in englischer Sprache.

Bitte beachte bei der Herstellung von Deepfake Videos immer das Gesetz. Das Recht am eigenen Bild und Persönlichkeitsrechte gelten auch für diese Art Video. Einzig Parodien haben gelockerte Bestimmungen. Sie werden weniger streng beurteilt. Der Maßstab dazu unterscheidet sich aber von Land zu Land.

Deepfake Videos erkennen?

Wie bei jedem Video, das digital bearbeitet wird, spielen die Renderzeit und damit die Länge des Videos eine Rolle. Was heißt das? Die Qualität ist immer von den technischen Möglichkeiten abhängig. Das gilt auch für Deepfake Videos. Leider bedeutet das auch, dass die Fehler solcher Videos aus der Anfangszeit bald einmal Geschichte sein werden.

Die Qualität eines Videos war ein Kriterium, an dem sich Fakes erkennen ließen. Ebenso der Innenraum des Mundes (aufwendig zu rendern) oder Köpfe, die irgendwie nicht zur Psychomotorik und dem restlichen Körper passen. Auch Flackern oder seltsames Blinzeln ermöglichte es lange Zeit, Fälschungen zu erkennen.

Seit aber unter anderem der bekannte Hersteller Nvidia Grafikkarten mit Raytracing-Unterstützung (eine neue, radikal bessere Technik für das Rendering) anbietet, fallen alle diese Identifikationsmerkmale weg.

Auch als Beispiele für Deepfake Videos bekannten Clips sind nur beschränkt eine Referenz. Sie wurden mehrheitlich Amateuren mit bescheidender Infrastruktur erstellt.

Wer im großen Stil mit strategischer Absicht Videos fälschen will, hat gewöhnlich auch die bestmögliche Technik dafür zur Verfügung. Die Chance, professionelle Fälschungen zu erkennen, ist klein und nur mit den klassischen journalistischen Mitteln realistisch.

Manipulation gehört zum Film

Manipulation im Film gibt es schon seit dem Stummfilm. Nur gab es zu den Zeiten von Eisenstein keine Unterstützung durch künstliche Intelligenz und selbstlernende Software für Film und Video.

Deepfake aber ist eine KI-basierte Technologie. Sie wird verwendet, um Videoinhalte zu produzieren oder zu ändern, sodass sie etwas darstellen, was tatsächlich nicht passiert ist. Das Wort, das sowohl für die Technologien als auch für die damit erstellten Videos gilt, ist ein Mix aus «Deep Learning» und «Fake».

Das gefälschte Video unterscheidet sich in Zukunft vom Original dadurch, dass es echter aussieht.
Filmpuls

Erstmals aufgetaucht ist dieses Kofferwort im Dezember 2017, als ein User auf Reddit mit handelsüblichen KI-Tools die Gesichter von Prominenten auf pornografische Videoclips klebte. Dazu wählte er für sich selbst als User den Namen «Deepfake».

In Tat und Wahrheit reicht das Phänomen der Deepfakes weit über Pornos oder Filmspezialeffekte hinaus. Auch wurde der Trend, anders, als es viele Medien wiederkäuen, nicht erst im Dezember 2017 ausgelöst. Sondern schon ein Jahr zuvor.

Das berühmteste Beispiel für eine offizielle Filmmanipulation aus dieser Zeit ist Star Wars Rogue One 2016. In diesem Spielfilm spielte mithilfe der Deepfake-Technologie eine 19-jährige unbekannte Statistin die im selben Jahr verstorbene Schauspielerin Carrie Fisher.

Foto-Bearbeitungssoftware wie Photoshop wird seit Langem eingesetzt, um Bilder zu fälschen. Bis zum Auftauchen von Deepfake-Software war es jedoch aufwendig und überaus schwierig, Videoinhalte in erheblichem Umfang zu verändern. Darum wurden Videoaufnahmen oft als Beweis dafür angesehen, dass tatsächlich passiert ist, was auf dem Bewegtbild zu sehen ist.

Automatische 3D-Animation von Deepfake Videos

3D und Räumlichkeit sind darum essenziell, weil sich das neu aufgeklebte Gesicht nur so auch wie echt mitbewegen kann.

Und genau dies kann Deepfake-Software schon heute. Diese Technik tauscht Gesichter. Und zwar täuschend echt. In der Fachsprache nennt man das einen Face Swap (engl.= Gesichtstausch). Weil das neue Gesicht als 3D-Animation aus vielen unterschiedlichen Fotos zusammengesetzt ist, kann es nicht nur tun, was die Person auf dem Video tut. Sondern noch viel mehr.

Deepfake kann den Mund einer Person etwas Neues sagen lassen, was im Originalvideo niemals vorkam. Oder die Mimik ändern. Noch sprechen wir erst vom Gesicht. Der Körper wird folgen.

So ist es möglich, dass plötzlich täuschend echte Pornovideos von berühmten Personen auftauchen, die dazu nie eine Einwilligung gegeben haben und damit in ihren Persönlichkeitsrechten verletzt werden. Ab hier bis zur gefälschten personalisierten Interaktion mit dem User in Echtzeit ist es nur noch ein Katzensprung.

Beispielvideo: Barack Obama

Was passiert, wenn der russische Präsident oder der nordkoreanische Machthaber per Video im Web einen Atomangriff auf die USA bekannt gibt? Was, wenn das Video eine Fälschung ist, die nicht mehr als solche erkennbar ist?

Um dir einen weiteren Eindruck davon zu vermitteln, wozu Deepfake heute schon in der Lage ist:

Denke daran: Dieses Video arbeitet mit Nahaufnahmen als Einstellungsgröße. Wären die Fälschung bei einem Video in drei Jahren und mit einer halbnahen Einstellung genauso einfach zu erkennen?

Wann spricht man von Deepfake Videos?

Videos und Bilder, die mit bekannter Software zur Bildbearbeitung wie Adobe Photoshop und AE After Effects bearbeitet wurden, gehören gemäß der Mehrzahl der Experten nicht in die Kategorie Deepfakes. Aber so ganz einfach ist die Zuordnung nicht. Diese Unterscheidung wird nämlich unter anderem davon abhängig gemacht, ob die Bearbeitung händisch oder automatisch erfolgt. Und da wird es schon schwierig. Denn auch Adobe arbeitet längst daran, immer mehr Arbeitsvorgänge mit KI zu automatisieren.

Umstritten ist, ob ein für alle erkennbares, gefälschtes Video (sog. synthetische Medieninhalte) in die Kategorie Deepfake gehört. Als Beispiel dafür kannst du das Video nehmen, in der die britische Premierministerin Theresa May als Bonnie Tyler in einer alten TV-Aufzeichnung einen Song zum Besten gibt.

Nicht ausschlaggebend ist für die meisten Experten, ob ein Deepfake Video jemanden konkret täuscht. Solange die Absicht besteht, jemanden böswillig in die Irre führen zu wollen oder zu verletzen, ist es ein Fake Video.

Nur wenn Videos bewusst zur Falsch- oder Desinformation verwendet werden, sind es Deepfakes
Nina Schick

Alle Deepfake-Programme werden ständig verbessert. Was heute noch stört und dämlich wirkt, ist morgen perfekt. Auch du kannst dann dein Gesicht (oder andere Körperteile) im Web am falschen Ort in täuschend echter Perfektion wiederfinden.

Wie eine brauchbare Definition lauten könnte

Entscheidend ist also, ob ein Video das Potenzial hat, eine große Anzahl Personen zu täuschen. Darum sind unter anderem Filter-Anwendungen, bei denen du dir bei Snapchat dein Gesicht verändern kannst, keine Deepfakes. Das gilt auch für Animoji von Apple.

Eine zukünftige, verbindliche Definition beruht gemäß Fachleuten darum voraussichtlich auf diesen drei Kernelementen:

1. Das Deepfake Video wurde unter Einbezug von künstlicher Intelligenz (KI) auf
2. automatisierte Weise manipuliert und
3. das so entstandene Bewegtbild ist für die Mehrheit der Zuschauer potenziell irreführend.

Viele Experten betonen immer wieder, dass informierte User entscheidend sind, um Chancen dieser bahnbrechenden Technologie nutzen und Risiken eingrenzen zu können.

Zwei reale Gefahren

Wie bei Fake News besteht nämlich die Gefahr, dass wir den Begriff Deepfake zu beiläufig und zu unbedacht verwenden. Als Folge davon wird er allgegenwärtig.

Damit entsteht eine Kraft, die größer ist als die tatsächliche Gefährdung. Dann nämlich wird jeder Politiker bei jedem Video, das ihm nicht gefällt, ganz einfach behaupten, es handle sich um einen Deepfake. Auch wenn diese Behauptung nicht wahr ist: Die Hälfte des Publikums wird es glauben. Weil man schließlich überall immer wieder hört und liest, dass gefälschte Videos ein riesiges Problem sind. Beim Begriff Fake News kann man diese Strategie und den damit einhergehenden Vertrauensverlust in die Medien wunderbar beobachten.

Eine weitgehend einheitliche Definition dessen, was ein Deepfake ist, wird die Menschheit natürlich nicht vor den vorgehend aufgeführten Szenarien schützen. Aber eine klare Definition hilft bei der öffentlichen Diskussion über diese Fragen. Wenn wir nicht von der gleichen Sache sprechen, wird das Vertrauen in Videos noch schneller verloren.

Das Risiko, dass die Menschen gefälschte Videos als echt ansehen, ist real. Das ist besonders dann eine Gefahr, wenn viele Personen noch nichts von Deep Fake gehört haben, oder wenn sie den Begriff überall hören, aber nicht korrekt verstehen. Aber auch wenn alle verstanden haben, was diese Technologie ist und kann, bleibt das Risiko bestehen, dass die User aufhören, dem Bewegtbild zu vertrauen.

Für Filmschaffende, Videoproduzenten und Geschichtenerzähler spielt das keine große Rolle. Aber für Leute, die von der Herstellung von Auftragsfilmen leben, oder beim Fernsehen im News-Bereich tätig sind, hat eine solche Entwicklung grobe Konsequenzen.

Welches Unternehmen wird noch Imagefilme herstellen, wenn alles darin erstunken und erlogen sein kann? Wer wird sich noch die Nachrichten anschauen, wenn man sich nicht auf den Wahrheitsgehalt von Videoaufnahmen verlassen kann?

Einer für alle und alles: Nicolas Cage

Etwas irr, aber sehr lustig ist die Gruppe von Filmfreaks, die öffentlich im Web erklärt hat, sie wolle in naher Zukunft von jedem bekannten Film (!) eine Version mit Deepfake herstellen, in welcher der Schauspieler Nicolas Cage die Hauptrolle, möglicherweise sogar sämtliche im Film vorkommende Rollen spielt. Ob sich der Neffe von Oscar-Preisträger Francis Ford Coppola über diesen Plan freut, ist leider nicht bekannt.

Auch hier kannst du schon abschätzen, wo wir in einigen Jahren stehen und worauf wir uns gefasst machen können.

Chancen und Verbote

Deepfake bietet ungeahnte neue Möglichkeiten. Du kaufst die Lizenzrechte von Bradley Cooper und kannst ihn dann offiziell in deinem Geburtstagsvideo auftreten lassen. Die CEO eines globalen Konzerns muss für ihre Management-Videos nicht mehr vor Ort sein. Es reicht, wenn sie einmal ihr Gesicht digitalisieren lässt.

Auch gibt es bereits erste Ansätze, wie der Missbrauch durch Deepfake eingegrenzt werden kann. Dazu zählt die Blockchain-Technologie oder Software, die mit derselben Technologie wie Deepfake auf Basis von online verfügbaren Fotos Gesichter errechnet und so Fakes im Web identifiziert.

Auch gibt es bereits soziale Plattformen im Internet, die Deepfakes offiziell verboten haben. Dazu zählen Tumblr und Facebook. Dass sich diese gewinnorientierten Unternehmen zu einem Verbot gezwungen gesehen haben, lässt dich das Potenzial, die Gefahren und die zukünftige Perfektion dieser Technologie erahnen.

Werden Deepfakes verboten?

Tatsache ist, dass die Gesetzgebung weltweit immer der Technologie nachhinkt. Unternehmen wie Facebook oder Google müssen darum die Aufgabe übernehmen, deine Privatsphäre und deine Bildrechte zu schützen.

Stell dir vor, du bewirbst dich für einen neuen Job und jemand hat ohne dein Wissen ein gefaktes Video von dir online gestellt, in welchem du etwas tust, was du nie und nimmer (oder zumindest nicht öffentlich) tun würdest. Twitter, Reddit, Tumblr und andere Websites für Social Videos haben darum die Verwendung von Deepfakes bereits verboten.

Aber das darf nicht dazu führen, dass du dich zu sicher fühlst. Jedes Verbot wird umgangen und erhöht die Wirkung gefälschter Videos (ein Clip muss diesfalls in den Augen der Mehrheit echt sein, weil Fälschungen offiziell verboten sind).

Hinzu kommt: Ein Verbot kann nur durchgesetzt werden, wenn die Fälschung als solche überhaupt erkannt wird.

Wahrscheinlicher als gesetzliche Regelungen ist es, dass Distributoren, Redaktionen und Producer von Videos sich freiwillig einem Ehrenkodex unterwerfen und sich damit verpflichten, die Technologie nicht anzuwenden. Bei Fotoagenturen wie der legendären Magnum und bei gewissen Berufsverbänden von Fotografen und Journalisten wird eine solche Selbstregulierung mit Bezug auf Bildmanipulationen an Fotos seit Jahrzehnten erfolgreich gelebt.

Darum: So unklar die Zukunft ist, Deepfake Videos werden ein Teil davon sein.

Zusammengefasst

Wir glauben, was wir sehen, weil wir als Menschen so über Jahrtausende überlebt haben. Deepfake Videos stellen diese urmenschliche Fähigkeit auf die Probe. Darum lösen sie viele tiefe Ängste, aber ebenso große Faszination aus.

Je besser wir verstehen, was wir sehen und warum bewegte Bilder immer gefährlicher werden, desto mehr bleibt ein Internet ohne Einschränkungen (nichts anderes sind Verbote) bestehen.

Fehler gefunden? Jetzt melden
Dieser Artikel wurde erstmals publiziert am 09.10.2018