Kostenloses KI-Tool "Deep-Live-Cam" erzeugt täuschend echte DeepFakes im Live-Chat

[slashCAM]

Eine neue Open-Source-Software namens "Deep-Live-Cam" sorgt derzeit für Aufsehen in sozialen Netzwerken, denn sie erlaubt es, das Gesicht des Users in Echtzeit-Videochats...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
Kostenloses KI-Tool "Deep-Live-Cam" erzeugt täuschend echte DeepFakes im Live-Chat

[-paleface-]

Wow.
Das tool wird 100% missbraucht werden. Das kann ich euch sagen.

Wir brauchen eigentlich einen Internet Ausweis. Also sowas wie ein Personalausweis fürs Web, das man weiß das der Gegenüber der ist der er zu sein scheint.

[Frank Glencairn]

Wow.
Das tool wird 100% missbraucht werden. Das kann ich euch sagen.

Das hören wir jetzt seit fast 8 Jahren, als die ersten Deep Fake Anwendungen aufgetaucht sind.
Allerdings ist - außer der paar üblichen TikTok und Twitter Scherze - in all der Zeit nix signifikantes passiert.

[berlin123]

Wow.
Das tool wird 100% missbraucht werden. Das kann ich euch sagen.

Wir brauchen eigentlich einen Internet Ausweis. Also sowas wie ein Personalausweis fürs Web, das man weiß das der Gegenüber der ist der er zu sein scheint.

Wird sicher kommen. Geht schon beim Telefonieren los, wenn man heute mit der Stimme eines beliebigen anderen Menschen sprechen kann.

Das nächste Thema sind gefakte Videos von Politikern und anderen Prominenten. Wir sind gerade in der Übergangsphase, wo man Deep Fakes noch meint erkennen zu können und sie mehr zum Spass erstellt werden. Bald werden echt wirkende, gefakte Videos von Politikern das Internet überschwemmen, da sie jeder mit simplem Prompts erstellen kann. Der Nachrichtenwert von Videos wird rapide abnehmen.

[berlin123]

Wow.
Das tool wird 100% missbraucht werden. Das kann ich euch sagen.

Das hören wir jetzt seit fast 8 Jahren, als die ersten Deep Fake Anwendungen aufgetaucht sind.
Allerdings ist - außer der paar üblichen TikTok und Twitter Scherze - in all der Zeit nix signifikantes passiert.

Die Deepfake Welle kann erst richtig losgehen, wenn die Videos nicht mehr als Fake erkennbar sind.

Die Beispiele im Video im Beitrag sind für meinen Geschmack nicht bei 100%. Es reicht nicht nur das Gesicht echt aussehen zu lassen, auch die Mimik muss zu 100% überzeugen, was da nicht der Fall ist. Auch die Augen, die Farbe im Gesicht bzw die Tönung durch das Licht, und sogar die Kopfform wirken mMn nicht echt.



Solange das so ist macht sich keiner die Mühe gefakte Politiker-Videos auf Twitter zu stellen um Stimmung zu machen.

[Rick SSon]

Ein Gesicht ist halt nicht mal die Hälfte. Du brauchst auch die echte mimik und gestik der person. So pauschal könnte das natuerlich bei halbblinden rentnern funktionieren, aber im zweifelsfall werden in so einem persönlichen gespräch auch private Dinge gefragt, die der fakende gar nicht wissen kann.

Da sind doch irgendwie whatsapp bots viel besser automatisierbar.

[asymmetric]

Das hören wir jetzt seit fast 8 Jahren, als die ersten Deep Fake Anwendungen aufgetaucht sind.
Allerdings ist - außer der paar üblichen TikTok und Twitter Scherze - in all der Zeit nix signifikantes passiert.

Die Deepfake Welle kann erst richtig losgehen, wenn die Videos nicht mehr als Fake erkennbar sind.

Die Beispiele im Video im Beitrag sind für meinen Geschmack nicht bei 100%. Es reicht nicht nur das Gesicht echt aussehen zu lassen, auch die Mimik muss zu 100% überzeugen, was da nicht der Fall ist. Auch die Augen, die Farbe im Gesicht bzw die Tönung durch das Licht, und sogar die Kopfform wirken mMn nicht echt.

Solange das so ist macht sich keiner die Mühe gefakte Politiker-Videos auf Twitter zu stellen um Stimmung zu machen.

Das sehe ich auch so. Solche Entwicklungen verlaufen meist exponentiell und bleiben lange (durchaus auch Jahre) auf der X-Zeitachse "kleben", bis es dann steil aufwaerts geht. Entscheidend ist, dass alle Glieder in der Kette funktionieren. Sobald das momentan schwaechste Glied (100% ueberzeugende Fakes) im Griff ist, duerfte es bald in die exponentielle Phase uebergehen.

[pillepalle]

Das Entscheidende wird eben die Quelle der Nachricht werden. Wir ja schon alle vorgewarnt, wenn allzu unwirkliche Videos auftauchen in denen Joe Biden plötzlich Samba tanzt. Ein Video das vom weißen Haus, oder einer seriösen Nachrichtenagentur gepostet wird ist eben etwas anderes, als ein Wald- und Wiesenvideo auf irgendeinem Kanal der sozialen Medien.

VG

[roki100]

Das Entscheidende wird eben die Quelle der Nachricht werden. Wir ja schon alle vorgewarnt, wenn allzu unwirkliche Videos auftauchen in denen Joe Biden plötzlich Samba tanzt. Ein Video das vom weißen Haus, oder einer seriösen Nachrichtenagentur gepostet wird ist eben etwas anderes, als ein Wald- und Wiesenvideo auf irgendeinem Kanal der sozialen Medien.

das ist wirklich nicht lustig ....aber schon ein bisschen seltsam^^



...
gibts sehr viele davon
....

[Frank Glencairn]

Das Entscheidende wird eben die Quelle der Nachricht werden. Wir ja schon alle vorgewarnt, wenn allzu unwirkliche Videos auftauchen in denen Joe Biden plötzlich Samba tanzt. Ein Video das vom weißen Haus, oder einer seriösen Nachrichtenagentur gepostet wird ist eben etwas anderes, als ein Wald- und Wiesenvideo auf irgendeinem Kanal der sozialen Medien.

VG

Darauf würde ich nicht setzen.

Im letzten Video von "Biden", das von Weißen Haus gepostet wurde, ist er quasi über Nacht 10 cm gewachsen - und dazu brauchen die nicht mal Deep Fake, das können die auch so.

Und was sind schon "seriöse" Medien? Man denke nur an Claas Relotius, dessen - von vorne bis hinten gefakte - Reportagen der Spiegel über Jahre gedruckt hatte.

Wie viele sind darauf rein gefallen, nur weil sie den Spiegel für "seriös" hielten?

Sich nach "Quellen" zu orientieren kann also ganz gewaltig nach hinten los gehen, da muß man sich in Zukunft schon deutlich mehr anstrengen und besser werden. Wer es sich weiterhin so einfach macht, steht ganz schnell da wie ein Vollidiot - siehe Spiegel.

[cantsin]

Das Entscheidende wird eben die Quelle der Nachricht werden. Wir ja schon alle vorgewarnt, wenn allzu unwirkliche Videos auftauchen in denen Joe Biden plötzlich Samba tanzt.

Das ist noch nicht das echte Problem. Das echte Problem entsteht erst, wenn Videos gefälscht werden, deren Inhalt plausibel ist. Zum Beispiel, wenn Joe Biden in einem Fake-Video ankündigen würde, dass die USA Nuklearraketen im Baltikum stationieren.

Und wenn sich die Fälscher geschickt anstellen, platzieren sie das Originalvideo auf einer Social Media-Plattform, warten, bis das erste seriöse Nachrichtenmedium darauf hineinfällt und verlinken letzteres dann als Quelle.

EDIT: Und auch umgekehrt. Man stelle sich vor, Deep Fake-Technologie hätte schon 1989 existiert. Schabowskis berühmte Pressekonferenz zur Maueröffnung am 9.11.89 wäre dann für ein Deep Fake gehalten worden, und die restliche DDR-Führung hätte sie sogar als solches denunzieren und in Abrede stellen können.

[berlin123]

Man stelle sich vor, Deep Fake-Technologie hätte schon 1989 existiert. Schabowskis berühmte Pressekonferenz zur Maueröffnung am 9.11.89 wäre dann für ein Deep Fake gehalten worden, und die restliche DDR-Führung hätte sie sogar als solches denunzieren und in Abrede stellen können.

Die Nachricht wurde von den anwesenden Journalisten verbreitet. Dadurch wäre ein einzelner Deepfake sogar erkannt worden.

Davon mal abgesehen hat sich Schabowski nur um wenige Tage vertan. Der Schritt wäre also auch ohne seinen berühmten Zettel gekommen. Nachdem das Politbüro selber darauf kam wie dumm es wäre, wenn man wie zuerst geplant nur die raus lässt, die nie mehr wiederkommen wollen.

[-paleface-]

Wow.
Das tool wird 100% missbraucht werden. Das kann ich euch sagen.

Das hören wir jetzt seit fast 8 Jahren, als die ersten Deep Fake Anwendungen aufgetaucht sind.
Allerdings ist - außer der paar üblichen TikTok und Twitter Scherze - in all der Zeit nix signifikantes passiert.

Na weil die Hürde zu groß war und es nicht in Echtzeit lief.
Hier brauch man auch nur 1 Foto und nicht 200.

Zudem ist der Code ja nun frei und offen. Da wird es bald ne simple web Anwendung geben.

[macaw]

Anfang des Jahres wurde eine Firma doch spektakulär um 23 Millionen erleichert, u.a. mit Hilfe einer Videokonferenz, wo der hinters Licht geführte Mitarbeiter ihm bekannte (aber gefakte) Schaltungen von Kollegen dabei hatte. Die breite Masse wird dann schon des längeren eifrig mit Promi-Deepfakes betrogen. Es ist also schon voll im Gange.

[medienonkel]

Gestern Abend zum ersten mal damit rumgespielt.

Erst dachte ich mir, naja, sieht ganz nett aus. Bis ich dann auf die Idee kam mit Licht zu spielen...

Das Ding kann Schatten, Highlights, Gegenlicht, zu einem gewissen Mass Transparenzen, Rauch, Schlapphut, der ins Gesicht hängt und Brille!

Das compositing ist hervorragend, vor allem die Fähigkeit Beleuchtung in Echtzeit nachzustellen ist wirklich ernsthaft beachtlich.

Entsprechende Vorlagen vorausgesetzt klappen Mund (inkl. Zunge) und Augen auch akzeptabel.

Ein wenig Bewusstseinserweiternd war dann die Erfahrung als Samuel L Jackson in den Spiegel zu schauen.

Der mauen Performance, mehr als 12 fps schafft auch eine 3090 nicht, kann man dann noch mit frame Generation nachhelfen.

Ich gehe sogar so weit, dass ich hier auch Potential in der psychologischen Forschung sehe.
Nach zwei Stunden akzeptiert das Hirn, dass man ab jetzt wie Söder aussieht....