Neue Richtline Wie Generative KI-Tools bei Netflix-Produktionen genutzt werden dürfen

Generative KI wird bereits bei vielen Filmproduktionen genutzt - vielleicht nicht so sehr, um fertige Bilder zu erstellen, die Teil eines Films oder einer Serie werden sollen, durchaus jedoch für die Pre-Visualisierung und andere begleitende oder vorbereitende Aufgaben. Mit jeder neuen Generation werden Bild- und Videomodelle allerdings besser und die Versuchung nimmt stets weiter zu, ihren Output auch direkt zu verwenden, etwa für Hintergründe, Effekte, kurze Schnittbilder oder ähnliches. So hatte Netflix im Juli bekanntgegeben, erstmals KI-generierte Effekt-Footage bei einer Szene zu zeigen.

Allerdings sind die juristischen Fragen rund um die Nutzung noch keineswegs geklärt. Ist das Training der Bildmodelle mit unlizenziertem Material zulässig oder nicht? Wer haftet für mögliche Rechteverstöße? Auch ist Hollywood an Verträge mit Gewerkschaften gebunden, die die Verwendung von KI stark einschränken.

Netflix hat nun Richtlinien veröffentlicht, in denen detailliert festgelegt ist, was bei der Nutzung von generativer KI zu beachten ist, wenn für den Streaming-Dienst produziert wird. Dabei geht es einerseits darum, die eigene "IP" zu schützen, also das Material, an dem Netflix selbst die Rechte hält, andererseits auch darum, auszuschließen, dass geschütztes Material von Dritten reproduziert wird.

Was unbedenklich ist

Solange folgende Punkte eingehalten werden, reicht es aus, seinen Netflix-Kontakt lediglich zu informieren, wenn generative KI-Tools zum Einsatz kommen:

- Die Ergebnisse replizieren oder reproduzieren keine identifizierbaren Merkmale von nicht im Besitz befindlichem oder urheberrechtlich geschütztem Material und verletzen keine urheberrechtlich geschützten Werke.

- Die verwendeten generativen Tools speichern keine der ein- oder ausgegebenen Produktionsdaten, um diese wiederzuverwenden oder damit zu trainieren.

- Soweit möglich, werden generative Tools in einer unternehmensgesicherten Umgebung verwendet, um die Eingaben zu schützen.

- Das generierte Material ist vorläufig und nicht Teil der endgültigen Ergebnisse.

- GenAI wird nicht verwendet, um ohne Zustimmung Darbietungen von Talenten oder gewerkschaftlich organisierte Arbeiten zu ersetzen oder neu zu generieren.

Was genehmigt werden muss

Eine ausdrückliche, schriftliche Erlaubnis wird dagegen benötigt, wenn geschützte oder personenbezogene Daten verwendet werden: Es dürfen keine Materialien, die Eigentum von Netflix sind (z. B. unveröffentlichte Assets, Drehbücher, Produktionsbilder), oder personenbezogene Daten (z. B. Angaben zu Darstellern oder Crewmitgliedern) in Tools eingegeben werden, es sei denn, dies wurde ausdrücklich genehmigt.

Ferner dürfen Modelle nicht mit Material von Künstlern, Darstellern oder anderen Rechteinhabern trainiert oder optimiert werden, es sei denn, die entsprechenden rechtlichen Genehmigungen liegen vor.

Ähnliches gilt bei der Erstellung wichtiger kreativer Elemente: GenAI sollte nicht ohne schriftliche Genehmigung zur Erstellung von Hauptfiguren, wichtigen visuellen Elementen oder fiktiven Schauplätzen verwendet werden, die für die Geschichte von zentraler Bedeutung sind.

Auch dürfen Prompts, Referenzbilder u.ä. nicht auf urheberrechtlich geschütztes Material oder Abbildungen von Personen des öffentlichen Lebens oder verstorbenen Personen verweisen, außer die entsprechenden Genehmigungen liegen vor. Beispielsweise sind Prompts wie die folgenden nicht erlaubt: "Erstelle ein Bild, das von McCurrys Afghan Girl inspiriert ist", oder "Erstelle eine Figur mit Meryl Streeps Nase".

Heikel wird es vor allem auch, wenn es um Schauspieler-Performances geht. Soll etwa eine aufgezeichnete Darbietung optimiert oder ein digitales Abbild erstellt werden, liegt die Schwelle für eine Einwilligung hoch:

Synthetische oder digitale Nachbildungen von Darstellern, Stimmen etc. sind nur mit ausdrücklicher und dokumentierter Einwilligung und unter Einhaltung der Anforderungen der Berufsverbände (sofern zutreffend) zulässig. Äußerste Vorsicht gilt, wenn wesentliche digitale Änderungen an Darbietungen vorgenommen werden sollen, die den emotionalen Ton, die Darbietung oder die Absicht einer Darbietung beeinflussen, da selbst subtile Bearbeitungen rechtliche oder rufschädigende Auswirkungen haben können (z.B. visuelle ADR, also eine Änderung der Lippensynchronisation oder der Mimik, um sie an neue, nicht im Drehbuch vorgesehene Dialoge anzupassen).

Neben einem respektvollen Umgang mit Künstlern verlangt Netflix auch einen grundsätzlich ethischen Ansatz beim Einsatz von KI-generierten Bildern, da diese die Grenze zwischen Fiktion und Realität verwischen oder Zuschauer unbeabsichtigt in die Irre führen können. Das Publikum sollte aber dem, was es auf dem Bildschirm sieht und hört, vertrauen können, weshalb irreführende oder falsche Darstellungen zu vermeiden sind. Inhalte, die mit realen Ereignissen, Personen oder Aussagen verwechselt werden könnten, obwohl sie nie tatsächlich stattgefunden haben (z. B. gefälschte Aufnahmen, Dialoge oder Szenen, die als authentisch dargestellt werden) sind daher unerwünscht.

Zu guter Letzt darf die Nutzung von GenAI (ohne entsprechende Genehmigungen oder Vereinbarungen) keine Arbeiten ersetzen oder wesentlich beeinflussen, die normalerweise von gewerkschaftlich vertretenen Personen, darunter Schauspieler, Autoren oder Crewmitglieder, ausgeführt werden.

Noch ausführlichere Informationen sind der Richtlinie zu entnehmen.