Logo Logo
/// News

KI synchronisiert Lippenbewegungen mit Audio in Echtzeit

[14:44 Mi,23.September 2020 [e]  von ]    

Der neue DeepLearning Algorithmus "Wav2Lip" eines indischen Forscher-Teams kann die Lippenbewegungen eines Sprechers an die Worte aus einer beliebigen Audioaufnahme in Echtzeit angleichen. Er zeigt schön die ständigen Fortschritte auf, welche die Machine Learning Technologie macht, denn die neue Methode liefert deutlich bessere Ergebnisse als ältere Projekte. Sie funktioniert nicht nur in Echtzeit sondern - und das ist der eigentliche Fortschritt - sie ist auch universeller, denn sie kommt mit jedem Gesicht, jeder Sprache und jeder Stimme zurecht und synchronisiert diese.





Der Nutzen eines solchen Algorithmus für die Arbeit mit Video ist offensichtlich - wie schon im Demovideo gezeigt, kann mit seiner Hilfe die Lippenbewegung einer sprechenden Person in einem Video an eine in einer anderen Sprache erstellte Synchronversion angepasst werden, um die für viele Zuschauer sonst störenden Asynchronizität von Mundbewegungen und Worten zu beseitigen. Praktisch ist das sowohl für nachsynchronisierte Filmversionen als auch für die Lippensynchronisation von Vorlesungen, Pressekonferenzen oder von Figuren animierter Filme in anderen Sprachen.

Und nicht zuletzt könnte diese Technologie auch grundsätzlich dabei helfen, statt O-Ton in szenischen Produktionen die Stimmen in der Postproduktion einfacher per Overdub nutzen zu können. Auch kleinere Sprachfehler (die sonst eine Szene gleich unbrauchbar machen würden) ließen sich hiermit bequem ausbügeln, indem die Lippen mal kurz automatisiert "nachgeführt" werden.

Wav2Lip-Schema
Wav2Lip Algorithmus


Per Deep Learning Algorithmen wäre es so auch denkbar, anderssprachige Versionen von beliebigen Clips zum Beispiel auf YouTube automatisiert anzubieten. Eine automatische Transkription liefert YouTube ja schon jetzt, die nächsten Schritte sind auch schon möglich mithilfe verschiedener Deep Learning Algorithmen: die Übersetzung des transkribierten Textes in eine andere Sprache, die Sprachsynthese mit der Stimme der Originalstimme und dann die Lippensynchronisation des Videos mit dem neuen Ton.

Natürlich kann die Technik aber auch dazu missbraucht werden, um Clips zu generieren, in denen Personen Sachen zu sagen scheinen, die sie nie gesagt haben - das neue Audio kann ebenfalls per neuronalem Netzwerk generiert werden, um die echte Stimme nachzuahmen.

Wie gut der Wav2Lip-Algorithmus ist, kann jeder auf der Demo-Website des Projekts selbst ausprobieren und einen kurzen (maximal 20 Sekunden) Videoclip einer sprechenden Person plus Sprachaudioclip hochladen, um dann eine Ausgabe des neu lippensynchronisierten Clips zu erhalten. Wer mehr ausprobieren will, findet auf GitHub den entsprechenden Programmcode. (Danke an unser Forenmitglied Ruessel für die News)

Link mehr Informationen bei bhaasha.iiit.ac.in

  
[9 Leserkommentare] [Kommentar schreiben]   Letzte Kommentare:
ruessel    10:34 am 21.9.2020
Hier kann kostenlos gerendert werden: http://bhaasha.iiit.ac.in/lipsync/ Einfach Videofile und Tonspur hochladen (limitiert auf 20 Sekunden)
srone    15:26 am 20.9.2020
ich fürchte wenn es so weitergeht, braucht man bald nichts mehr selberdrehen, du beschreibst der ki alle wesentlichen details deines films et voila, das fertige mp4 landet auf...weiterlesen
[ Alle Kommentare ganz lesen]

  Vorige News lesen Nächste News lesen 
bildZwei neue Flexscan Monitore mit USB-C von Eizo: EV2795 und EV2495 bildCanon Cinema EOS C70 - S35 RF-Mount mit optionalem EF-Speedbooster


verwandte Newsmeldungen:
Sound:

Audio Plugins auf der GPU berechnen - BRAINGINES GPU Audio 8.März 2021
Netflix Damengambit: Einblicke in den guten Ton 9.Februar 2021
AJA veröffentlicht 12G-AM 12G-SDI Audio-Embedder/Disembedder 22.November 2020
FiLMiC Pro jetzt auch mit 10-Bit-Dolby Vision HDR auf 12er iPhones 19.November 2020
Zoom F2 Field Recorder - Audio-Zwerg mit 32-Bit-Float-Technologie 11.November 2020
Blackmagic DaVinci Resolve 17 - neue Farb-Tools, schnelleres Editing, massives Audio-Update 9.November 2020
Sky: Dritte Staffel von "Das Boot" - erste Serie weltweit in 8K und Dolby Atmos 28.Oktober 2020
alle Newsmeldungen zum Thema Sound

Machine Learning:

Flim - die KI Suchmaschine für Filmstandbilder aus großen Kinofilmen 28.Februar 2021
Topaz Labs Video Enhance AI 2.0: Videoverbesserungen per KI zum Sonderpreis 28.Februar 2021
Colourlab Ai 1.1 bringt KI Farbkorrektur per Look Designer für DaVinci Resolve 27.Februar 2021
JPEG beginnt Standardisierung der KI-Bildkompression - JPEG AI 11.Januar 2021
KI erfindet Bilder nach Textbeschreibung - DALL-E 6.Januar 2021
MuZero: Googles DeepMind KI wird Videokompression für YouTube optimieren 5.Januar 2021
DeepFake Hack bei „The Mandalorian“ realistischer als CGI von Industrial Light & Magic? 30.Dezember 2020
alle Newsmeldungen zum Thema Machine Learning


[nach oben]

















passende Forenbeiträge zur News:

Archive

2021

März - Februar - Januar

2020
Dezember - November - Oktober - September - August - Juli - Juni - Mai - April - März - Februar - Januar

2019

2018

2017

2016

2015

2014

2013

2012

2011

2010

2009

2008

2007

2006

2005

2004

2003

2002

2001

2000






































update am 9.März 2021 - 12:02
ist ein Projekt der channelunit GmbH
*Datenschutzhinweis*