Eine neue Open-Source-Software namens "Deep-Live-Cam" sorgt derzeit für Aufsehen in sozialen Netzwerken, denn sie erlaubt es, das Gesicht des Users in Echtzeit-Videochats per "Face Swapping" nur anhand eines Fotos durch das einer anderen Person ersetzen. Die Technologie nutzt DeepLearning-Algorithmen (aka KI), um Gesichtszüge, Mimik und Beleuchtung des Gesichts auf dem Beispielfoto dem auszutauschenden realen Gesicht im Live-Video anzupassen. Obwohl das Ergebnis noch nicht perfekt ist, zeigt es die rasante Entwicklung im Bereich der Deepfake-Technologie.
Experten warnen vor möglichem Missbrauch, etwa für Betrug oder Identitätsdiebstahl. Die einfache Verfügbarkeit eines solchen Tools (es steht kostenlos bei Github zum Download) könnte zum Beispiel Täuschungen in Videoanrufen begünstigen. Natürlich erlaubt das Tool aber auch interessante (und vollkommen legale) Anwendungen im professionellen Bereich, wie zum Beispiel zur einfachen Animation von künstlichen Gesichtern oder virtuellen Kleiderproben.
Wie gut im folgenden Video eines DeepFakes von Elon Musk zu sehen ist, kommt Deep-Live-Cam auch mit sehr wechselhafter Beleuchtung zu recht:
Deep-Live-Cam ist mittels seiner simplen Bedienoberfläche einfach zu bedienen - per Command Line stehen noch viele weitere Optionen zur Auswahl. Alles was man machen muss, ist ein Bild mit dem gewünschten Gesicht auszuwählen und das Videofile bzw. den Live-Videostream anzugeben, in welchem das Gesicht ersetzt werden soll.
Man kann Deep-Live-Cam grundsätzlich auf zwei Weisen anwenden: man kann sein eigenes Gesicht in einem Video durch ein anderes ersetzen und dieses so animieren und "faken", oder aber auch ein Gesicht in einem beliebigen Video durch sein eigenes ersetzen.
Wie funktioniert es?
Wie viele Open-Source-Projekte auf GitHub kombiniert Deep-Live-Cam (ein Fork eines Projekts namens "roop") mehrere vorhandene Tools unter einer neuen Benutzeroberfläche, um die verschiedenen Arbeitsschritte wie Erkennung der Gesichter, Austausch und spezifische nachträgliche Bildkorrekturen am resultierenden Video durchzuführen.
Die eigentliche Arbeit, das "FaceSwap", wird von dem mit Millionen von Gesichtsfotos trainierten, inswapper-gtauften neuronalen Netzwerk erledigt, das einschätzt, wie die Person auf dem Foto mit unterschiedlichen Gesichtsausdrücken und aus verschiedenen Blickwinkeln aussehen könnte. Es hat ein Modell von Gesichtsstrukturen und deren Dynamik unter verschiedenen Bedingungen gelernt, und kann so die dreidimensionale Struktur eines Gesichts aus einem zweidimensionalen Bild ableiten.
Die lange Geschichte der DeepFakes
// Top-News auf einen Blick:
Deepfakes (eine Kombination von "deep learning" und "fakes") gibt es schon seit dem Jahr 2017 - die ersten solchen Videos wurden gemacht, um bekannte weibliche Stars in Pornoszenen zu versetzen. Wir berichteten zum Beispiel schon 2018 über das DeepFake-Tool FakeApp und schon bald darauf kursierten DeepFake-Videos von Sylvester Stallone als Terminator oder Heath Ledger Joker in "A Knights Tale".
Die Gefahren von Live-DeepFakes
Die Qualität der DeepFakes wird allerdings zusehends besser und das Verfahren ist jetzt schon in Echtzeit möglich, was ganz neue Möglichkeiten für Identitätsdiebstahl und Betrug per DeepFakes birgt, denn die Qualität ist gut genug, um ahnungslose User zu täuschen. Erfolgreich angewendet wurde so DeepFake schon für spektakuläre Betrugsfälle wie diesen, als ein Angestellter per Anweisung in einer Videokonferenz seines scheinbaren Chefs 24 Millionen Dollar an Betrüger überwies. Die dafür notwendigen Algorithmen sind längst entwickelt und können mit genügend Sachkenntnis leicht zu einem Tool wie DeepLive-Cam zusammengefügt werden - inklusive einer perfekten Simulation der Stimme der ausgetauschten Person nur anhand eines kurzen Samples.
Und der finanzielle Anreiz ist bei einer sehr geringen Entdeckungsgefahr für Betrüger so groß, dass wir bestimmt bald noch mehr von solchen Aktionen sehen werden - Enkelbetrug turbocharged. Vielleicht ist es wirklich keine schlechte Idee, in Zukunft mit seinen Arbeitskollegen sowie auch Familie und Freunden ein Codewort zu vereinbaren, mit welchem man sich bei Videocalls als "echt" ausweisen muss.
Demo mit verschiedenen Gesichtern:
Die Entwickler von Deep-Live-Cam sind sich der Gefahren des Missbrauchs bewusst - sie haben eigenen Angaben nach einen Check auf unangemessene Inhalte wie Nacktheit, Gewaltdarstellung oder usw. in das Tool integriert, setzen sonst aber ganz darauf, dass User es verantwortungsvoll verwenden und die Zustimmung der Person einholen, deren Gesicht per DeepFake genutzt wird und auch darauf hinweisen, dass es sich um einen DeepFake handelt. Wer die Dynamik in den sozialen Medien kennt, kann abschätzen, dass dies nicht so ganz klappen wird. Der Hinweis ist auch wohl eher dazu gedacht, sich juristisch abzusichern, als echten Missbrauch zu vermeiden.
Da das Tool ein Open Source Projekt ist und der Code zum freien Download per Github bereitsteht, ist natürlich auch damit zu rechen, dass alle Sicherheitsprüfungen ausgehebelt werden oder auch eine zukünftige Kennzeichnungspflicht per Wasserzeichen umgangen werden wird. Die Katze aus dem Sack, d.h. der Code ist im Netz.
