Freiwillige Selbstkontrolle bei der KI-Entwicklung? Wasserzeichen für KI-Content im Gespräch

[slashCAM]

Im Mai hatte Google auf seiner Entwicklerkonferenz angekündigt, sowohl einen Authentizitäts-Check sowie eine Kennzeichnung von KI-generierten Bildern einführen zu wollen...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
Freiwillige Selbstkontrolle bei der KI-Entwicklung? Wasserzeichen für KI-Content im Gespräch

[Frank Glencairn]

Der Geist ist schon lange aus der Flasche. Bestenfalls wird das noch irgendwelche Online Bildgeneratoren betreffen.
Aber solche Symbolik reicht ja auch um die hysterischen Massen zu beruhigen.

Nächster Schritt: AI die AI Wasserzeichen beseitigt.

[cantsin]

Nächster Schritt: AI die AI Wasserzeichen beseitigt.

Gibt's schon:
https://www.watermarkremover.io/

[Skeptiker]

Der Geist ist schon lange aus der Flasche. Bestenfalls wird das noch irgendwelche Online Bildgeneratoren betreffen.
Aber solche Symbolik reicht ja auch um die hysterischen Massen zu beruhigen.

Nächster Schritt: AI die AI Wasserzeichen beseitigt.

Besser spät als nie (auch wenn die (AI?-)Gegenwehr kommen wird).
Es geht grundsätzlich um die Möglichkeit, von einer Wirkung auf eine Ursache zurückschliessen zu können.
Wenn das künftig nicht mehr möglich ist, sehe ich tatsächlich Probleme kommen.

Und nein, das sollte (online bzw. digital) kein sichtbares "Wasserzeichen" sein, sondern ein unsichtbares - bzw. durch ein sichtbares ersetzt, wenn die Herkunft klar ist und es wichtig ist in dem entsprechenden Zusammenhang (nicht rein künstlerisch).

[stip]

"Freiwillige Selbstkontrolle" hat schon immer super funktioniert....

[Frank Glencairn]

Und nein, das sollte (online bzw. digital) kein sichtbares "Wasserzeichen" sein, sondern ein unsichtbares - bzw. durch ein sichtbares ersetzt, wenn die Herkunft klar ist und es wichtig ist in dem entsprechenden Zusammenhang (nicht rein künstlerisch).

Metadaten is ja noch einfacher zu entfernen.

[Skeptiker]

Und nein, das sollte (online bzw. digital) kein sichtbares "Wasserzeichen" sein, sondern ein unsichtbares - bzw. durch ein sichtbares ersetzt, wenn die Herkunft klar ist und es wichtig ist in dem entsprechenden Zusammenhang (nicht rein künstlerisch).

Metadaten is ja noch einfacher zu entfernen.

War nicht das Fraunhofer Institut auf dem Gebiet mal am forschen? Die sind doch recht erfinderisch!

Prinzipiell: Wir alle sind hier von morgens früh bis abends spät dabei, unsere Argumente und Gedanken mit irgendwelchen Weblinks zu unterfüttern (-mauern). Manche sehr spontan und oft, andere eher vereinzelt und gezielt - je nach Typ und Laune Aber wir verlassen uns dabei auf die Echtheit des Verlinkten. Obwohl dazu schon jetzt kein Grund mehr besteht - das ist klar. Aber das Vertrauen darauf, Echt von Fake noch unterscheiden zu können (und sei es nur intuitiv), ist noch da. Wenn das irgendwann aufgrund allgegenwärtiger ML- und AI-Präsenz komplett wegbrechen sollte und ich nicht einmal mehr nachprüfen kann, ob mein Thread- (Threat??) & Chat-Gegenüber noch aus Fleisch&Blut (und Hirn) ist, dann kann man das Internet zumindest als verlässlichen, virtuellen Spiel- und 'Chat'grund und als unerschöpfliche Informations- und Lernquelle langsam vergessen, weil zu unzuverlässig!
Und dann liefern sich die entfesselten AI-Bots vielleicht Informations"kriege", in die wir uns als Bio-Zuschauer kaum noch einzumischen wagen oder wollen.

Dystopische Gedanken. Hoffentlich liege ich damit falsch, und die unverbesserlichen Optimisten und Bedenken-Verspotter behalten recht! ;-)

PS:
Die neuste Nachricht war ja, dass Open AI Gründer Sam Altman eine neue Kryptowährung auf die Welt loslassen will - AI-Teilnahme (jetzt, wo's draufankommt) ausdrücklich nicht gestattet (aber die so gewonnen Daten inkl. erforderlicher Iris-Scan zur sicheren Identifikation vielleicht fürs Open AI-Training doch erlaubt ??).

[Frank Glencairn]

War nicht das Fraunhofer Institut auf dem Gebiet mal am forschen? Die sind doch recht erfinderisch!

Erinnerst du dich noch an die vollmundigen Sprüche über die Sicherheit des Kopierschutzes von DVDs/Blurays?

Prinzipiell: Wir alle sind hier von morgens früh bis abends spät dabei, unsere Argumente und Gedanken mit irgendwelchen Weblinks zu unterfüttern (-mauern).

Ja, aber auch nur weil jedem - speziell in der aktuellen Web-Diskussionskultur - der anderer Meinung oder Ansicht ist, erst mal pauschal unterstellt wird er sei wahlweise ein Lügner oder ein Vollpfosten. Erst dadurch ist ja dieser Aufruf einer vermeintlichen Autorität erst Usus geworden, was natürlich dann sofort mit Abqualifizierung dieser Quelle von der anderen Seite wieder abgewertet wird.

Maximaler Kindergarten wird's dann wenn es auf den eigentlichen Inhalt gar nicht mehr ankommt, sondern nur noch ob er auf einer genehmen Seite publiziert wurde.

Aber das Vertrauen darauf, Echt von Fake noch unterscheiden zu können (und sei es nur intuitiv), ist noch da.

Ja, ich fürchte von dem bequemen Vollkasko Gedanken - es gäbe die eine Wahrheit(TM) und die würde auf der Webseite XYZ stehen und damit ist das Leben schön einfach - wirst du dich verabschieden müssen.

In Zukunft (eigentlich schon länger) bist du selbst gefragt und verantwortlich, und wirst hauptsächlich deinen eigenen Menschenverstand und Erfahrung als Maßstab für dein Weltbild nehmen müssen.

Ein guter Anfang dabei ist die Erkenntnis daß es die eine "Wahrheit" meistens gar nicht gibt, sondern zunächst mal jede Menge verschiedene "Wahrheiten", was nicht heißt daß es die eine Realität die sich darunter versteckt nicht gibt.

[Skeptiker]

Aber das Vertrauen darauf, Echt von Fake noch unterscheiden zu können (und sei es nur intuitiv), ist noch da.

Ja, ich fürchte von dem bequemen Vollkasko Gedanken - es gäbe die eine Wahrheit(TM) und die würde auf der Webseite XYZ stehen und damit ist das Leben schön einfach - wirst du dich verabschieden müssen.

In Zukunft (eigentlich schon länger) bist du selbst gefragt und verantwortlich, und wirst hauptsächlich deinen eigenen Menschenverstand und Erfahrung als Maßstab für dein Weltbild nehmen müssen.

Du weisst ja mittlerweile, wie ich so in etwa "ticke" (auch aufgrund meines Forumsnamens). Also stell mich nicht in eine Ecke, in die ich nicht gehöre. Mit Deinen zitierten Weisheiten drückst Du bei mir offene Türen ein.

Es geht nicht um die "Wahrheit", Es geht um die Zuverlässigkeit von Quellen und um die künftige Verfikations-Möglicheit, dass sie zuverlässig sind. Und als jemand, der hier rege tagein und tagaus Belege und Links postet, die Deine Meinung bestätigen, müsstest Du auch daran interessiert sein, dass dieses Vertrauen in Quellen nicht wegbricht. Das passiert nicht sofort, aber vielleicht allmählich. Du kannst das als Hysterie abtun, aber im Prinzip verlässt Du Dich auch darauf, dass die Quellen halten, was sie vorgeben - wenn nicht explizit, dann implizit.
Und ich stelle diese mögliche Fehl-Entwicklung nüchtern fest, ganz ohne Panikmache, und sage dazu: Ich hoffe, dass es anders kommt.

Ich wünsche mir jedenfalls keine Web-Welt, in der Virtuelles (aufgrund von "Big Data"-Statistiken und Wahrscheinlichkeiten Generiertes) und irgendwie noch gedanklich in Hirnen Erdachtes und Kreiertes so untrennbar und unerkennbar zusammengemixt werden, dass am Ende ein Datensumpf dabei herauskommt.