Frage von ruessel:Moin,
habe heute einen Spot der Allianzversicherung im TV gesehen, anscheinend komplett mit KI generiert. Er bestand aus mehreren Szenen und ganz klein unten links im Bild waren die Szenen mit "AI" gekennzeichnet. Ist das freiwillig oder gibt es da schon eine Pflicht, evtl. schon EU weit? Das wäre ja echt schnell eingeführt, EU und schnell ist eigentlich ein Gegensatz.
Stand 6.9.2024:
Inzwischen gibt es tausende realistisch wirkende Fotos und Videos im Netz. Selbst für Experten wird es immer schwieriger, KI-Inhalte von menschengemachten Inhalten zu unterscheiden. Die Lösung für dieses Problem kann eine Kennzeichnungspflicht sein.
Die am 1. August 2024 in Kraft getretene KI-Verordnung der EU ist das weltweit erste KI-Gesetz und setzt genau an dieser Stelle an. KI-generierte Audio-, Bild-, Video- oder Textinhalte müssen nach Artikel 50 KI-Verordnung vom Anbieter des KI-Systems im maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt erkennbar sein.
Als Nutzer von KI-Systemen sind Sie also nicht direkt in der Pflicht, jene KI-generierten Inhalte als solche zu kennzeichnen. Aktuell ist jedoch noch nicht klar, inwieweit Sie eine vorhandene Kennzeichnung von KI-Inhalten übernehmen müssen oder ob Sie diese löschen dürfen. Kennzeichnungen könnten beispielsweise sein: Wasserzeichen, Disclaimer oder Hinweise in den Metadaten.
https://www.e-recht24.de/ki/13336-ki-ke ... ehmer.html#
Antwort von Frank Glencairn:
Kommt immer drauf an - bei den letzten beiden Arte Produktionen mußten wir am Anfang einen albernen Disclaimer einblenden.
Antwort von ruessel:
mußten wir
gesetzlich oder freiwillig von ARTE?
Antwort von Frank Glencairn:
Hat arte so entschieden, auf Basis von was - keine Ahnung.
Aber (Spekulation) ich nehme mal an wegen dem Shitstorm den sie kurz vorher für diese Papsttochter Doku abbekommen haben.
Deshalb muß jetzt auch - bei historischen AI Shots - jeder Clip einzeln von einem Historiker geprüft und abgesegnet werden.
Da die AI überhaupt keine Ahnung hat, was sie da tut, kannst du das jetzt quasi knicken.
Wir mußten deswegen schon einige Shots raus nehmen.
Blöderweise also gerade bei historische Sachen, wo kein anderes Material existiert, das man verwenden könnte.
Also genau da, wo ein wirklich sinnvoller Einsatz möglich wäre.
Antwort von Frank Glencairn:
ruessel hat geschrieben:
Aktuell ist jedoch noch nicht klar, inwieweit Sie eine vorhandene Kennzeichnung von KI-Inhalten übernehmen müssen oder ob Sie diese löschen dürfen. Kennzeichnungen könnten beispielsweise sein: Wasserzeichen, Disclaimer oder Hinweise in den Metadaten.
Ich frag mich, wie die sich das vorstellen (wahrscheinlich - mangels Kompetenz - gar nicht).
Dann dürfte ich einen AI Clip auch nicht in ein Schnittprogramm holen (was natürlich idiotisch ist) weil die Metadaten dann futsch wären.
Antwort von ruessel:
Noch wären die Metadaten futsch...... vielleicht wird Resolve in Zukunft auch mal EU konform gemacht.
Zum Glück keine amerikanische Softwareschmiede die unverhohlen aus der Ferne plötzlich Funktionen ein und ausschalten gerade wie die Stimmungslage ist. ;-)
Antwort von Frank Glencairn:
Mir persönlich sind die Metadaten egal, ich hab da ja kein Pferd im Rennen, auf der anderen Seite sind Metadaten halt auch leicht zu ändern oder zu entfernen, wenn da jemand Wert drauf legt. Ich halte das ganze deshalb für einen Papiertiger.
Antwort von MrMeeseeks:
Ja sollte man besser für die Dusselköpfe kennzeichen. Siehe iasi, der fällt da auch ständig darauf rein und kann KI Videos von echten nicht mehr unterscheiden.
