Warum Deepfake Film und Video für immer verändert!

Wir glauben, was wir sehen

Deepfake Film-und Video Revolution
Screenshot: Deepfake Video im Web

Wenn du nicht nie etwas von der Videotechnologie namens Deepfake gehört hast, wirst du dich bald schon an diesen Artikel erinnern! Denn diese Technologie für Videos verändert dein Leben für immer: Nicht nur, wenn du Filmemacher oder Videoproducer bist.

Wir stehen am Rande einer Welt, in der das, was real ist und was nicht, für uns noch weniger erkennbar sein wird, als bisher. Du bist es gewohnt, dass deine (manchmal falschen) Nachrichten, die du online liest oder siehst, durch Algorithmen bestimmt werden. Du hast Cookies bis zu dem Punkt akzeptiert, an dem die personalisierte Werbung dich nicht nervt.

Nun werden Deepfakes zum Mainstream. Deepfake-Videos zeigen, wie unsere digitale Realität ohne unser Eingreifen schon morgen komplett neu verdrahtet werden kann.

Was wirst du dagegen tun?

Stell dir einmal vor …

Bevor wir sehen, was Deepfake heißt und warum dieser Trend unser Leben und unsere Wahrnehmung für immer ändert, starten wir zusammen ein kleines, harmloses Gedankenspiel:

  1. Stell dir eine Person vor, die von sich selbst öfters mal ein Selfie macht und dieses online stellt. Natürlich muss es kein Selbstporträt sein. Es reicht eine Serie Fotos bei einer Party, in der Schule oder in der Öffentlichkeit.
  2. Nimm an, diese Bilder landen irgendwo online. Facebook, Instagram, Snapchat, du sagst es. (Wenn du den Namen einer Person weißt, reicht eine Bildersuche auf Google: Dann hast du oftmals schon eine nette Auswahl an unterschiedlichen Aufnahmen aus unterschiedlichen Blickwinkeln.)
  3. Gehe davon aus, dass diese Person irgendjemanden interessiert. Vielleicht, weil sie gut aussieht. Oder, weil sie jemand verärgert oder wütend gemacht hat.
  4. Überlege, ob es möglich ist, mit einem Computer an fremde Videos heranzukommen. Oder ob man heute Videos einfach so mit einem Smartphone selbst drehen kann?

Wenn du denkst, dass all dies möglich ist, brauchst du für Deepfake Videos nur noch eines:

Eine Software, die (nur) zwei Dinge kann. Dafür aber richtig gut. Erstens muss sie Gesichter automatisch erkennen und digitalisieren können. Zweitens muss das Programm die digitalisierten Gesichter präzise und automatisch Bild für Bild tauschen können. Fertig ist das Fake Video.

Diese Software, die gibt es.

Das Resultat

Das auf diese Weise automatisch gefälschte Video sieht dann beispielsweise so aus wie im Videobeispiel unten. Natürlich nicht verpixelt, wie in diesem Beispielvideo. Doch selbst damit lässt sich die Perfektion erahnen:

VorschaubildBeispiel für Deepfake Video

In diesem gefälschten Porno zieht sich ein bekanntes Supermodel scheinbar komplett aus und erklärt und zeigt dir dabei, wo und wie es am liebsten berührt werden mag.

Bereits heute gibt es in den USA spezialisierte Anbieter, die dein Gesicht auf Wunsch mit der neuen Deepfake-Technologie nahezu perfekt in das Pornovideo deiner Wahl montieren.

Wo das Pornogeschäft technologisch voranschreitet, ist es bis zum Mainstream nicht mehr weit. Online mit Kreditkarte bezahlen? 360 Virtual Reality (VR) auf die Spitze getrieben? Interaktive Videos? All dies wäre ohne den Drang nach digitalen Ferkeleien nie so schnell zur Massentauglichkeit entwickelt worden.

Die Software

Die aktuell bekannteste Software für die Herstellung von Deepfake Videos heißt FakeApp. Sie ist im Netz gratis erhältlich.

Um sie nutzen zu können, muss dein Computer über eine Nvidia-Grafikkarte verfügen. Bei den meisten Multimedia-Geräten ist dies Standard. Das Programm nutzt FFmpeg, CUDA 8. Das erforderliche Java Runtime Environment (JRE) 9.0.1 für Windows in der ZIP-Datei zur Installation von FakeApp bereits enthalten. Du brauchst es also nicht separat zu installieren.

Hier ist ein Beispiel dafür, wie ein Video mit KI unter Beihilfe von automatisierten Algorithmen einfach gefälscht werden kann. Inklusive Erklärungen, was dabei genau passiert:

VorschaubildDeepfake bei Film und Video: Manipulation von Präsidenten

FakeApp splittet das Video deiner Wahl zuerst in Einzelbilder. Danach analysiert die Software beide Gesichter. Künstliche Intelligenz lernt dabei, wie sich Gesicht und Bewegungen verhalten. Bei der eingesetzten KI handelt es sich um das Framework TensorFlow von Google. TensorFlow ist ein Open-Source-Projekt mit einer Bibliothek für Machine Learning. Es ist im Web frei verfügbar.

Nach der Analyse wird für jedes Einzelbild der Unterschied von Quelle und Ziel per Gesichtserkennung abgeglichen und berechnet. Anschließend legt die Software das neue Gesicht über das Original und rendert das gefälschte Video neu.

Wenn du selbst als Einsteiger in die Materie mit der FakeApp experimentieren willst, empfehlen wir dir die Webseite DeepFakes Club. Auf diesem Portal findest du allerhand nützliche Hinweise, Anleitungen, Tipps und Tricks. Dies leider nur in englischer Sprache.

Bitte beachte bei der Herstellung von Deepfake Videos immer das Gesetz. Das Recht am eigenen Bild und Persönlichkeitsrechte gelten auch für diese Art Video. Einzig Parodien haben gelockerte Bestimmungen. Sie werden weniger streng beurteilt. Der Maßstab dazu unterscheidet sich aber von Land zu Land.

Manipulation gehört zum Film

Manipulation im Film gibt es schon seit dem Stummfilm. Nur gab es zu den Zeiten von Eisenstein keine Unterstützung durch künstliche Intelligenz.

Deepfake aber ist eine KI-basierte Technologie. Sie wird verwendet, um Videoinhalte zu produzieren oder zu ändern, sodass sie etwas darstellen, was tatsächlich nicht passiert ist. Das Wort, das sowohl für die Technologien als auch für die damit erstellten Videos gilt, ist ein Mix aus «Deep Learning» und «Fake».

Erstmals aufgetaucht ist dieses Kofferwort im Dezember 2017, als ein User auf Reddit mit handelsüblichen KI-Tools die Gesichter von Prominenten auf pornografische Videoclips klebte. Dazu wählte er für sich selbst als User den Namen «Deepfake».

In Tat und Wahrheit reicht das Phänomen der Deepfakes weit über Pornos oder Filmspezialeffekte hinaus. Auch wurde der Trend, anders als es viele Medien wiederkauen, nicht erst im Dezember 2017 ausgelöst. Sondern schon ein Jahr zuvor.

Das berühmteste Beispiel für eine offizielle Filmmanipulation aus dieser Zeit ist Star Wars Rogue One 2016. In diesem Spielfilm spielte mithilfe der Deepfake-Technologie eine 19-jährige unbekannte Statistin die im selben Jahr verstorbene Schauspielerin Carrie Fisher.

Hier kannst du sehen, wie sowas möglich ist:

VorschaubildDeepfake Video: Beispiel Star Wars, Rogue

Fotobearbeitungssoftware wie Photoshop wird seit langem eingesetzt, um Bilder zu fälschen. Bis zum Auftauchen von Deepfake-Software war es jedoch aufwendig und überaus schwierig, Videoinhalte in erheblichem Umfang zu verändern. Darum wurden Videoaufnahmen oft als Beweis dafür angesehen, dass tatsächlich passiert ist, was auf dem Bewegtbild zu sehen ist.

Automatische 3D-Animation

3D und Räumlichkeit ist darum essenziell, weil sich das neu aufgeklebte Gesicht nur so auch wie echt mitbewegen kann.

Und genau dies kann Deepfake-Software schon heute. Diese Technik tauscht Gesichter. Und zwar täuschend echt. In der Fachsprache nennt man das einen Face Swap (engl.= Gesichtstausch). Weil das neue Gesicht als 3D-Animation aus vielen unterschiedlichen Fotos zusammengesetzt ist, kann es nicht nur tun, was die Person auf dem Video tut. Sondern noch viel mehr.

Deep Fake kann den Mund einer Person etwas Neues sagen lassen, was im Originalvideo gar nie vorkam. Oder die Mimik ändern. Noch sprechen wir erst vom Gesicht. Der Körper wird folgen.

Mit Deepfakes gelangen wir an einen Punkt, an dem künstliche Intelligenz benötigt wird, um der künstlichen Intelligenz zu begegnen.

So ist es möglich, dass plötzlich täuschend echte Pornovideos von berühmten Personen auftauchen, die dazu nie eine Einwilligung gegeben haben und damit in ihren Persönlichkeitsrechten verletzt werden. Ab hier bis zur gefälschten personalisierten Interaktion mit dem User in Echtzeit ist es nur noch ein Katzensprung.

Beispielvideo: Barack Obama

Was passiert, wenn der russische Präsident oder der Nordkoreanische Machthaber per Video im Web einen Atomangriff auf die USA bekannt gibt? Was, wenn das Video eine Fälschung ist, die nicht mehr als solche erkennbar ist?

Um dir einen weiteren Eindruck davon zu vermitteln, zu was Deepfake heute schon in der Lage ist: Schau dir dieses gefälschte Video mit dem ehemaligen Präsidenten Barack Obama an!

VorschaubildDeepfake bei Film und Video: der doppelte Trump

Denke daran: Dieses Video arbeitet mit Nahaufnahmen als Einstellungsgröße. Wären die Fälschung bei einem Video in drei Jahren und mit einer halbnahen Einstellung genauso einfach zu erkennen?

Wann spricht man von Deepfake Videos?

Videos und Bilder, die mit bekannter Software zur Bildbearbeitung wie Adobe Photoshop und AE After Effects bearbeitet wurden, sind nach der Meinung der meisten Experten keine Deepfakes. Aber so ganz einfach ist die Zuordnung nicht.

Die Unterscheidung wird nämlich unter anderem davon abhängig gemacht, ob die Bearbeitung händisch oder automatisch erfolgt. Und da wird es schon schwierig. Denn auch Adobe arbeitet längst daran, immer mehr Arbeitsvorgänge mit KI zu automatisieren.

Umstritten ist, ob ein für alle erkennbares, gefälschtes Video in die Kategorie Deepfake gehört. Als Beispiel dafür kannst du das Video nehmen, in der die britische Premierministerin Theresa May als Bonnie Tyler in einer alten TV-Aufzeichnung einen Song zum Besten gibt.

Hier ist sofort klar, dass es sich um eine Parodie handelt und ein (nicht sehr gut gerechneter) Face Swap stattgefunden hat:

VorschaubildDeepfake Video: Theresa May's Total Eclipse of the Heart

Nicht ausschlaggebend ist für die meisten Experten, ob ein Deepfake Video jemanden konkret täuscht. Solange die Absicht besteht, jemanden böswillig in die Irre führen zu wollen oder zu verletzen, ist es ein Fake Video.

Alle Deepfake-Programme werden ständig verbessert. Was heute noch stört und dämlich wirkt, ist morgen perfekt. Auch du kannst dann dein Gesicht (oder andere Körperteile) im Web am falschen Ort in täuschend echter Perfektion wiederfinden.

Wie eine brauchbare Definition lauten könnte

Entscheidend ist also, ob ein Video das Potenzial hat, eine große Anzahl Personen zu täuschen. Darum sind beispielsweise Filter-Anwendungen, bei denen du dir bei Snapchat dein Gesicht verändern kannst, keine Deepfakes. Das gilt auch für Animoji von Apple.

Eine zukünftige, verbindliche Definition beruht gemäss Fachleuten darum voraussichtlich auf diesen drei Kernelementen:

  1. Das Deepfake Video wurde unter Einbezug von künstlicher Intelligenz (KI) auf
  2. automatisierte Weise manipuliert und
  3. das so entstandene Bewegtbild ist für die Mehrheit der Zuschauer potenziell irreführend.

Viele Experten betonen immer wieder, dass informierte User entscheidend sind, um Chancen dieser bahnbrechenden Technologie nutzen und Risiken eingrenzen zu können.

Zwei reale Gefahren

Wie bei Fake News besteht nämlich die Gefahr, dass wir den Begriff Deepfake zu beiläufig und zu unbedacht verwenden. Als Folge davon wird er allgegenwärtig.

Damit entsteht eine Kraft, die größer ist als die tatsächliche Gefährdung. Dann nämlich wird jeder Politiker bei jedem Video, das ihm nicht gefällt, ganz einfach behaupten, es handle sich um einen Deepfake. Auch wenn diese Behauptung nicht wahr ist: Die Hälfte des Publikums wird es glauben. Weil man schließlich überall immer wieder hört und liest, dass gefälschte Videos ein riesiges Problem sind. Beim Begriff Fake News kann man diese Strategie und den damit einhergehenden Vertrauensverlust in die Medien gut beobachten.

Eine weitgehend einheitliche Definition dessen, was ein Deepfake ist, wird die Menschheit natürlich nicht vor den vorgehend aufgeführten Szenarien schützen. Aber eine klare Definition hilft bei der öffentlichen Diskussion über diese Fragen. Wenn wir nicht von der gleichen Sache sprechen, wird das Vertrauen in Videos noch schneller verloren.

Das Risiko, dass die Menschen gefälschte Videos als echt ansehen, ist real. Das ist besonders dann eine Gefahr, wenn viele Personen noch nichts von Deep Fake gehört haben, oder wenn sie den Begriff überall hören, aber nicht korrekt verstehen. Aber auch wenn alle verstanden haben, was diese Technologie ist und kann, bleibt das Risiko bestehen, dass die User aufhören, dem Bewegtbild zu vertrauen.

Für Spielfilmer und Geschichtenerzähler spielt das keine große Rolle. Aber für Leute, die von der Herstellung von Auftragsfilmen leben, oder beim Fernsehen im News-Bereich tätig sind, hat eine solche Entwicklung grobe Konsequenzen.

Welches Unternehmen wird noch Imagefilme herstellen, wenn alles darin erstunken und erlogen sein kann? Wer wird sich noch die Nachrichten anschauen, wenn man sich nicht auf den Wahrheitsgehalt von Videoaufnahmen verlassen kann?

Einer für alle und alles: Nicolas Cage

Etwas irr und sehr lustig ist die Gruppe von Filmfreaks, die öffentlich im Web erklärt hat, sie wolle in naher Zukunft von jedem bekannten Film (!) eine Version mit Deep Fake herstellen, in welcher der Schauspieler Nicolas Cage die Hauptrolle, möglicherweise sogar sämtliche im Film vorkommende Rollen spielt. Ob sich der Neffe von Oscar-Preisträger Francis Ford Coppola über diesen Plan freut, ist leider nicht bekannt.

In dem Beispielvideo hier hat man im Superman-Spielfilm «Man of Steel (2013)» das Gesicht von Amy Adams als Lois Lane durch dasjenige von Cage ersetzt.

VorschaubildDeepfake bei Film und Video: Nicolas Cage forever

Auch hier kannst du schon abschätzen, wo wir in einigen Jahren stehen und auf was wir uns gefasst machen können.

Chancen und Verbote

Deepfake bietet ungeahnte neue Möglichkeiten. Du kaufst die Lizenzrechte von Bradley Cooper und kannst ihn dann offiziell in deinem Geburtstagsvideo auftreten lassen. Die CEO eines globalen Konzerns muss für ihre Management-Videos nicht mehr vor Ort sein. Es reicht, wenn sie einmal ihr Gesicht digitalisieren lässt.

Auch gibt es bereits erste Ansätze, wie der Missbrauch durch Deepfake eingegrenzt werden kann. Dazu zählt die Blockchain-Technologie oder Software, die mit derselben Technologie wie Deepfake auf Basis von online verfügbaren Fotos Gesichter errechnet und so Fakes im Web identifiziert.

Auch gibt es bereits soziale Plattformen im Internet, die Deep Fakes offiziell verboten haben. Dazu zählen Tumblr und Facebook. Dass sich diese gewinnorientierten Unternehmen zu einem Verbot gezwungen gesehen haben, lässt dich das Potenzial, die Gefahren und die zukünftige Perfektion dieser Technologie erahnen.

Werden Deepfakes verboten?

Tatsache ist, dass die Gesetzgebung weltweit immer der Technologie nachhinkt. Unternehmen wie Facebook oder Google müssen darum die Aufgabe übernehmen, deine Privatsphäre und deine Bildrechte zu schützen.

Stell dir vor, du bewirbst dich für einen neuen Job und jemand hat ohne dein Wissen ein gefaktes Video von dir online gestellt, in welchem du etwas tust, was du nie und nimmer (oder zumindest nicht öffentlich) tun würdest. Twitter, Reddit, Tumblr und andere Websites für Social Videos haben darum die Verwendung von Deepfakes bereits verboten.

Aber das darf nicht dazu führen, dass du dich zu sicher fühlst. Jedes Verbot wird umgangen und erhöht die Wirkung gefälschter Videos (ein Clip muss diesfalls in den Augen der Mehrheit echt sein, weil Fälschungen offiziell verboten sind).

Hinzu kommt: ein Verbot kann nur durchgesetzt werden, wenn die Fälschung als solche überhaupt erkannt wird.

Wahrscheinlicher als gesetzliche Regelungen ist es, dass Distributoren, Redaktionen und Producer von Videos sich freiwillig einem Ehrenkodex unterwerfen und sich damit verpflichten, die Technologie nicht anzuwenden. Bei Fotoagenturen wie der legendären Magnum und bei gewissen Berufsverbänden von Fotografen und Journalisten wird eine solche Selbstregulierung mit Bezug auf Bildmanipulationen an Fotos seit Jahrzehnten erfolgreich gelebt.

Darum: So unklar die Zukunft ist, Deepfake Videos werden ein Teil davon sein.

Zusammengefasst

Wir glauben, was wir sehen, weil wir als Menschen so über Jahrtausende überlebt haben. Deepfake Videos stellen diese urmenschliche Fähigkeit auf die Probe. Darum lösen sie viele tiefe Ängste, aber auch ebenso große Faszination aus.

Je besser wir verstehen, was wir sehen und warum bewegte Bilder immer gefährlicher werden, desto mehr bleibt ein Internet ohne Einschränkungen (nichts anderes sind Verbote) bestehen.


Im Interesse der Lesbarkeit ist im gesamten Text die männliche Form verwendet; die weibliche Form ist selbstverständlich immer miteingeschlossen. | © filmpuls logo

 

Pavel Sokolov
Wer ist Pavel Sokolov? 12 Artikel
Pavel studiert Film mit Schwerpunkt Montage. Er mag François Truffaut, Terrence Malick, Dr Pepper, seinen Thermaltake View 71 TG, Musik von Seeed und alle Dinge, die mit der Farbe Rot zusammenhängen aber keinem Lebewesen Schmerzen bereiten.

2 Leser-Inputs

  1. Ich sage: Du kannst in Zukunft wählen, ob du bei dir im Home Cinema dank Deepfake und Faceswapping in einem Kinofilm selbst die Hauptrolle spielst. Oder ob dein Lieblingsdarsteller in jedem Spielfilm der Star ist. Hollywoodstars von morgen werden mit Lizenzvergaben für Face Swap reich und können durchaus auch als Influencer bekannt geworden sein. Spielen können müssen sie nicht. Das tun talentierte Platzhalter mit Schauspielausbildung.

Input hinterlassen

E-Mail Adresse wird nicht veröffentlicht. Du kannst Deine Daten jederzeit löschen lassen. Informiere uns darüber bitte mit dem Kontaktformular.


*