Für Schutz der Demokratie Petition fordert Verbot von DeepFakes von echten Menschen

Angefangen hatten DeepFakes mit Pornovideos, in welche per Software die Gesichter von bekannten Schauspielerinnen montiert wurden - seit damals ist das Missbrauchspotential von DeepFakes also klar. Für jene, die davon noch nichts gehört haben: DeepFakes sind Videos, Fotos oder Sprachaufnahmen, die scheinbar von einem echten Menschen stammen, aber in Wirklichkeit von einer KI generiert wurden.

Die Erstellung von DeepFakes ist im Laufe der schnellen Entwicklung von KI in den letzten Jahren immer einfacher geworden und erfordert im Gegensatz zu früher kein Fachwissen mehr. Deswegen werden immer mehr DeepFakes in den verschiedenen sozialen Netzwerken gepostet. Die Motivationen dafür sind ganz unterschiedlich, sie werden verwendet für politische Desinformation, Cybermobbing, Satire, Rachepornos und gefälschte Produktempfehlungen. Letzteres kann sogar lebensbedrohlich sein, wenn per Deepfake prominente Persönlichkeiten für schädliche Medikamente zu werben scheinen.

Solche DeepFakes und andere Fehlinformationen werden oft weiterverbreitet durch Social Media Bots, also automatisierte Social-Media-Konten, die vorgeben, Menschen zu sein und von solchen auf den ersten Blick nicht mehr zu unterscheiden sind.

Jetzt haben über Hundert bekannte deutsche Künstler eine Petition gestartet, um DeepFakes von echten Personen sowie manipulative Social Bots zu verbieten. Die Petition ist überparteilich und sieht die Demokratie durch DeepFakes und Bots gefährdet, da diese grundlegendes Vertrauen untergraben, wenn Wirklichkeit nicht mehr von Fakes unterscheidbar ist.

Die Initiative zielt nicht darauf ab, politische Inhalte irgendeiner Art einzuschränken, sondern darauf, diese neue Form von Fälschung generell zu verbieten und macht keinen Unterschied, ob Politiker so unterschiedlicher Art wie etwa Friedrich Merz, Alice Weidel, Lars Klingbeil, Katharina Dröge oder Heidi Reichinnek oder irgendwelche unbekannten Personen betroffen sind. Die neue Regierung wird aufgefordert, über die bloße Kennzeichnungspflicht für KI-generierte Inhalte, wie aktuell von der EU vorgesehen, hinauszugehen und diese zu verbieten.

Dieses Verbot soll, um Wirkung zu entfalten, allgemein und absolut sein und auch zu Satirezwecken produzierte DeepFakes umfassen, weil gefürchtet wird, dass sich sonst damit herausgeredet wird, dass DeepFakes doch "nur Satire" seien.

Gefordert wird, dass die Hersteller generativer KIs entsprechende Maßnahmen einführen, um solche DeepFakes, die ohne Einwilligung der dargestellten Person angefertigt werden, zu verhindern und dass die vorsätzliche Verbreitung von DeepFakes strafrechtliche Konsequenzen hat. Bisher sind DeepFakes nur strafbar, wenn sie Beleidigung, üble Nachrede, Verleumdung oder Ähnliches darstellen, allerdings liegt die Beweislast bei den Geschädigten und die großen Social-Media-Plattformen reagieren oft verspätet oder ungenügend, sodass sich viele Fakes lange ungehindert verbreiten können.

Vielleicht wichtig für Filemmacher: Nicht betroffen wären DeepFakes im Kontext der Filmproduktion, solange Schauspieler gegen Entgelt einwilligen, wie zum Beispiel kürzlich erst vom Bundesverband Schauspiel e. V. (BFFS) und ver.di mit der Produktionsallianz vereinbart wurde.

Die zweite Forderung betrifft das Verbot von manipulativen Social-Bots, die sich als echte Menschen ausgeben. Befürchtet wird, dass Debatten online sonst in einer Flut von KI-generierten Beiträgen aus Trollfabriken ertrinken. Zitiert wird der bekannte Historiker Yuval Noah Harari: "Bots genießen keine Redefreiheit. Menschen von einer öffentlichen Plattform zu verbannen, ist ein heikler Schritt, und Demokratien sollten mit solcherlei Zensurmaßnahmen sehr vorsichtig sein. Bei einem Verbot von Bots ist es jedoch ganz einfach: Es verletzt die Rechte von niemandem, weil Bots keine Rechte haben."

Dank KI können Bots inzwischen so agieren, dass sie in Online-Diskussionen von echten Menschen nicht mehr zu unterscheiden sind. Wer genügend Geld und somit Mittel hat, kann so zehntausendfach "gefälschte Menschen" erschaffen, die online die gewünschte Propaganda verbreiten und die Diskussionen echter Menschen einfach durch ihre Masse ersticken und so die Grundlage der Meinungsbildung einer Demokratie zerstören.

Zu den Unterzeichnenden gehören unter anderem Marc-Uwe Kling, Sarah Bosetti, Michael „Bully“ Herbig, Karoline Herfurth, Oliver Kalkofe, Bjarne Mädel, Walter Moers, Ruth Bastian Pastewka, Rocko Schamoni, Saša Stanišić, Eckart von Hirschhausen und Bodo Wartke. Die Petition ist online und kann von jedermann unterschrieben werden.

Eine große Frage wird natürlich auch bei Gelingen der Petition die Durchsetzbarkeit sein - werden sich die großen amerikanischen oder chinesischen Plattformen einem solchen Gesetz beugen und DeepFakes schnell löschen und Social Bots bannen?