Petition fordert Verbot von DeepFakes von echten Menschen

[slashCAM]

Angefangen hatten DeepFakes mit Pornovideos, in welche per Software die Gesichter von bekannten Schauspielerinnen montiert wurden - seit damals ist das Missbrauchspotent...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
Petition fordert Verbot von DeepFakes von echten Menschen

[cantsin]

So eine Petition hat in der heutigen globalen politischen Landschaft keine realistische Chance. Die KI-Industrie hat mit Musk & Co. ihren Mund direkt am Ohr des amerikanischen Präsidenten, und unter dem Motto "America First" wird KI nicht weiter reguliert, sondern im Gegenteil völlig dereguliert. In China ist es auch nicht anders.

[TomStg]

Panikmache, Bevormunden und Verbieten. Mehr kann man aus Deutschland nicht mehr erwarten.

[iasi]

So eine Petition hat in der heutigen globalen politischen Landschaft keine realistische Chance. Die KI-Industrie hat mit Musk & Co. ihren Mund direkt am Ohr des amerikanischen Präsidenten, und unter dem Motto "America First" wird KI nicht weiter reguliert, sondern im Gegenteil völlig dereguliert. In China ist es auch nicht anders.

In China nutzt das Regime (wie auch anderswo) ganz fleißig KI selbst und reguliert damit heftigst.

[Darth Schneider]

Warum denn nicht gleich pauschal alles verbieten was Leuten spass machen könnte ?.:)
Ich sehe gar keinen Grund für solche pauschal Verbote.
Rachevideos, Deepfake Pornos/AI Filmchen mit Leuten die da nicht mitspielen wollen , KI Mobbing Videos und Ähnliches sind ja so oder so schon längst illegal und verboten.

Wäre doch schade wenn sowas verboten sein würde…D


Jede Wette der Arnold findet das witzig….
Gruss Boris

[Ingole]

Der Link zur Petition und Quelle:
https://weact.campact.de/petitions/deepfakes-verbieten

[markusG]

Warum denn nicht gleich pauschal alles verbieten was Leuten spass machen könnte ?.:)
Ich sehe gar keinen Grund für solche pauschal Verbote.
Rachevideos, Deepfake Pornos/AI Filmchen mit Leuten die da nicht mitspielen wollen , KI Mobbing Videos und Ähnliches sind ja so oder so schon längst illegal und verboten.

Na steht doch in der Petition:

Natürlich sind manche Deepfakes heute schon strafbar, sofern man sie als Beleidigung, üble Nachrede, Verleumdung oder Ähnliches einstufen kann. Da die Beweislast aber bei den Geschädigten liegt und es viel Interpretationspielraum gibt, reagieren die großen Plattformen zu lasch und zu selten auf Beschwerden (Notice & Takedown). Nur ein generelles Verbot würde für die nötige Trennschärfe und ein entsprechendes Problembewusstsein sorgen. Allen muss klar sein, dass die Erstellung eines Deepfakes ohne Einwilligung der gefälschten Person strafbar ist!

Was nützen Papiertiger-Gesetze?

Und was daran bitteschön "Spaß"* sein soll musst du auch erst mal erklären:

Diese Deepfakes werden schon jetzt benutzt, um Menschen zu verleumden oder in Verruf zu bringen. Sie werden verwendet für politische Desinformation, Cybermobbing, Rachepornos und gefälschte Produktempfehlungen.

Ich finde diese Spaß-Videos auch witzig, aber wenn der Preis dann ist dass andere wegen zu lascher Handhabe darunter leiden oder gar in den Selbstmord getrieben werden sehe ich die Grenze erreicht. Und es ist schon klar dass das alles schon eher Symptombekämpfung ist, aber differenzierte und proaktive Maßnahmen sind garantiert nicht "rentabel"...Ich lese aus der Petition jedenfalls eine gewisse Hilflosigkeit, weil an entscheidenden Stellen mal gar nix passiert.


*Zum Thema Spaß: das haben wir ja auch immer wieder hier gehabt bzl. Drohnen. Steht und Fällt dann immer wer was damit macht. Wegen ein paar wenigen Idioten müssen alle anderen unter strengen Maßnahmen leiden. Ist in unserer Gesellschaft wohl nicht anders möglich. Ob's am Ende dann was bringt ist eine nicht unwichtige Frage...

[Darth Schneider]

Als wenn jemand wegen einem AI Video zum Selbstmord getrieben wird liegt das Problem an der Person selber, nicht am Video.
Ansonsten geb ich dir ja recht,
aber dafür braucht es gar keine neue Pedition, weil solch problematische Videos/Fotos/Bilder mit Abbildern von echten Menschen die das nicht wollen sind doch schon längst illegal/verboten. Egal ob deepfake/AI/3D Animation oder eine von Hand gezeichnete Karikatur.
Gruss

[markusG]

Als wenn jemand wegen einem AI Video zum Selbstmord getrieben wird liegt das Problem an der Person selber, nicht am Video.

Naja das ist dann nur das neueste "Werkzeug". Mobbing ist real. Ob eine strengere Handhabe zB in Social Media überhaupt was bringt müsste erst bewiesen werden. Eine (positive) Wirkung im Vorfeld auszuschließen ist aber genauso quatsch.

Wo bleibt dann die Petition, Verleumdung, politische Desinformation, Cybermobbing, Rachepornos und gefälschte Produktempfehlungen an sich stärker zu ahnden? Gilt ja generell bei Verboten. Wir haben zB in Deutschland ein relativ strenges Waffengesetz. Wer mal ein wenig Lars Winkelsdorf zuhört, kriegt dann schnell mit was so alles schief läuft, trotz eigentlich solider Gesetze. Nützt halt nichts, wenn Gesetze gar nicht erst umgesetzt werden. Da kommen dann x-beliebige Schreie nach noch strengeren Gesetzen nach einer x-beliebigen Schießerei, ohne die eigentlichen Ursachen anzugehen. Ist halt bequemer, und die Leute fressen es. Aktionismus und Populismus sind Verkaufsschlager.

[soulbrother]

Als wenn jemand wegen einem AI Video zum Selbstmord getrieben wird liegt das Problem an der Person selber, nicht am Video.

Na Du bist ja echt der Naivste auf dem Planeten.
Informier Dich mal was mit dem fast harmlos klingenden Übergriff "Mobbing" so alles gemeint ist und möglich ist.

[Darth Schneider]

Mag für dich so erscheinen das ich naiv bin. Aber das da oben war jetzt nur auf die AI bezogen.
Und informiert hab ich mich auch.
Selbstmord wegen Mobbing gab es schon lange vor den sozialen Medien, auch vor der AI, deepkake und Cybermobbing.

Und das wird mit der nächsten neuen Technik Innovation die unsere Gesellschaft beeinflussen kann auch nicht anders sein. Ganz egal wie viele Verbote und Gesetze noch kommen werden.
Alles können wir nicht steuern, auch wenn so manche das Gefühl haben.
Gruss Boris

[Hayos]

Ich verstehe den Ansatz der Petition, aber wie soll das in der Praxis aussehen, gerade für Satire? Hier mal ein Beispiel, kein Deepfake, sondern wo mit klassischem Schnitt "Deepfakes" erstellt werden, also auch hier werden "echte Menschen gefälscht" (wie es in der Peition heißt):

(mit Timestamp zu einer Stelle, wo man die Tonschnitte fast nicht wahrnimmt)



(der Macher des Videos arbeitet übrigens auch für Funk (also ÖRR), für die er solche Videos mit Politikern anfertigt)

[Bluboy]

In de Praxis schafft das Arbeietsplätze .....

[7River]

In China nutzt das Regime (wie auch anderswo) ganz fleißig KI selbst und reguliert damit heftigst.

Wenn die im Bereich Sicherheit eingesetzt wird, wie etwa Gesichtserkennung an Bahnhöfen oder Flughäfen, um Kriminelle und Verbrecher aufzuspüren, ist das jetzt schlecht?

[Darth Schneider]

Natürlich ist das nicht schlecht. Im Gegenteil.
Wobei die Chinesen übertreiben es schon ein wenig, die nutzen die Ai um jeden Furz zu analysieren. Jeder Schritt wird mit Hilfe der Ai in den grossen Städten überwacht und die Leute öffentlich zur Schau gestellt nur wenn sie ein paar mal falsch parkieren…
Das geht dann finde ich zu weit.
Gruss Boris

[Bluboy]

Hierzulande setzt man auf die gute alte Nchbrschaftshilfe

https://www.google.com/search?client=fi ... c8P267p-Qo

[soulbrother]

...wie etwa Gesichtserkennung an Bahnhöfen oder Flughäfen, um ....

Das hat mit dem Thema nichts zu tun.

[macaw]

Die Vorstellung, daß man Deepfakes verhindern kann ist gelinde gesagt gefährlich naiv. Es ist ja nicht einmal möglich den Leuten in ihre hohlen Birnen einzuhämmen keine Nacktbilder von sich zu verschicken oder Bilder/Videos von Personen ohne Einwilligung zu machen und zu verbreiten geschweige denn diese danach wieder aus der Öffentlichkeit zu entfernen. Solche Bilder haben nämlich definitiv zu Suiziden geführt. Es gibt aber eine Lösung: Teilt keine Bilder von euch, haltet euch möglichst von Twitter, Insta, Facebook, Tiktok und dem ganzen Schwachsinn fern und es wäre ein Anfang. Wenn jemand aber meint unbedingt jeden Dünnpfiff ins Netz stellen zu müssen und dem auch noch Beachtung zu schenken...

[markusG]

Ich verstehe den Ansatz der Petition, aber wie soll das in der Praxis aussehen, gerade für Satire? Hier mal ein Beispiel, kein Deepfake, sondern wo mit klassischem Schnitt "Deepfakes" erstellt werden, also auch hier werden "echte Menschen gefälscht" (wie es in der Peition heißt):

Auch hier siehe Wortlaut der Petition:

Durch Künstliche Intelligenz kann man Texte, Bilder, Töne und Videos erstellen, die für Laien kaum noch als Fälschung erkennbar sind.

Der Unterschied sollte offensichtlich sein...gepart mit eher mangelhafter Medienkompetenz und fertig ist die Katastrophe mit Ansage. Das ist nicht AI exklusiv, erreicht damit aber eine neue Stufe - sowohl was das kreieren/verbreiten angeht (Stichwort Bots), als auch die eigentliche Qualität.

Wäre IMHO völlig ausreichend, wenn solche Inhalte einfach erkennbar automatisch markiert werden (so dass man es nicht wegschneiden kann) und gut ist's, aber scheint ja auch nicht vorgesehen zu sein?

[Hayos]

Wäre IMHO völlig ausreichend, wenn solche Inhalte einfach erkennbar automatisch markiert werden (so dass man es nicht wegschneiden kann) und gut ist's, aber scheint ja auch nicht vorgesehen zu sein?

Ich folge auch einem anderen Satiriker, der hatte dann irgendwann angefangen immer fett "SATIRE" bei jedem seiner Clips unten rechts gut sichtbar hingeklebt, aber selbst das übersehen viele...wie du schon sagst, Stichwort "mangelhafte Medienkompetenz ".