KI-generierte Bilder: Google will Authentizitäts-Check und Kennzeichnung einführen

[09:32 So,14.Mai 2023 [e] von blip]

Bei der Entwicklerkonferenz von Google drehte sich sehr vieles um KI - es wurden neben dem neuen Sprachmodell PaLM 2 auch jede Menge KI-gestützte Tools vorgestellt, die künftig bei verschiedenen Aufgaben assistieren können sollen - beim Mailen und Texte schreiben, Programmieren, Fotos editieren, Musik erstellen, Spielen, Suchen, Übersetzen...

Google scheint sich dabei jedoch durchaus seiner Verantwortung bewußt zu sein und die Risiken, die mit generativen KIs einhergehen, einigermaßen im Blick zu behalten (während Microsoft eher unbedacht vorzupreschen scheint und Stability AI in Form des quelloffenen Stable Diffusion jede Verantwortung abgegeben hat). Bereits jetzt kursieren beispielsweise manipulierte oder mit einschlägigen KI-Tools völlig neu generierte Fotos im Internet, welche bei flüchtiger Betrachtung echt zu sein scheinen. Dies ist jedoch nur der Anfang: es wird zunehmend schwieriger werden, gefälschte Fotos (und Videos) als solche zu erkennen. Die gesellschaftlichen Folgen sind gravierend, denn mit solchen Fälschungen lassen sich Meinungen und Stimmungen leicht manipulieren, Gegner diskreditieren usw.

About this image

Zusätzliche Informationen zu Bildern

Damit Fake-Bilder leichter identifiziert werden können, wird Google ein neues Feature in der Bildsuche einführen - über "About this image" können Zusatzinformationen abgerufen werden, die es erleichtern sollen, den Authentizitätsgrad eines Bildes einzuschätzen. Wann ein Bild erstmals von Google indiziert wurde und auf welcher Seite, und wo es außerdem aufgetaucht ist, soll man dort nachsehen können. Wenn ein Foto beispielsweise von anerkannten Newsseiten als gefälscht entlarvt wurde, wird diese Information idealerweise hier auftauchen - für alle, die sich die Mühe machen, dort nachzusehen.

Kennzeichnung für KI-generierte Bilder

Außerdem verpflichtet sich Google, alle Bilder, die mit ihren neuen generativen Tools erstellt werden, mit einer Kennung in den Metadaten zu versehen, die auf

ITPC-Standards basieren wird. Wird eine Bilddatei anderswo genutzt, soll dem Bild so zu entnehmen sein, dass es per KI-generiert wurde. Wer als Webseitenbetreiber KI-generierte Bilder veröffentlicht, soll das Metadaten-Tag wie es scheint händisch hinzufügen. Auch andere Dienste wie Midjourney oder Shutterstock sollen in Zukunft laut Google diese Kennzeichnung einführen. Ein Bildbeispiel zeigt, wie diese Kennung in der Google Bildsuche einfließen soll: als Texthinweis unterhalb des Bildes.

Beispielhafte Kennzeichnung bei der Google Image-Suche

In dieser Form klingt eine Kennzeichnung von KI-generiertem Bildmaterial leider eher zahnlos - selbst wenn sie von großen Diensten automatisch hinzugefügt wird, ist es nicht schwierig, sie aus den Metadaten wieder zu entfernen und das Bild ohne Hinweis ins Internet zu speisen. Auch ist es ja möglich, sich den Open Source-Generator Stable Diffusion zu installieren und auf diesem Weg einer Kennzeichnung zu entgehen. Besser, aber auch schwieriger wäre es gewesen, sie über ein Wasserzeichen im Bild unterzubringen.

Content Authenticity Initiative - digitale Herkunftsgarantie

Übrigens gibt es in Punkto Bildauthentizität ja auch einen Versuch aus der anderen Richtung, nämlich über eine

Herkunftsgarantie digital aufgenommener Fotos. Über 1000 Mitglieder zählt mittlerweile die von Adobe angestoßene Content Authenticity Initiative (CAI), welche von der Aufnahme bis zur Veröffentlichung jede Änderung an einem Bild per kryptografisch erstelltem Hashwert nachvollziehbar machen möchte. Neben Nikon und Leica hat sich unlängst auch Canon angeschlossen, konkrete Implementierungen stehen unseres Wissens jedoch noch aus. Sind diese einmal am Start, soll sich etwa bei Pressefotos idealerweise nachweisen lassen, wann, wo und von wem sie aufgenommen wurden.

Bleibt zu hoffen, dass durch eine dieser Vorgehensweisen - oder weiteren Ideen - möglichst bald zuverlässige Lösungen zur Verfügung stehen werden, um künstlich generierte oder manipulierte Bilder von authentischen Aufnahmen unterscheiden zu können.

mehr Informationen bei blog.google

[7 Leserkommentare] [Kommentar schreiben] Letzte Kommentare:


balkanesel 12:07 am 15.5.2023

eigentlich: Es ist nicht die künstliche Intelligenz die mir Sorgen macht, sondern die natürliche Dummheit.


Bluboy 19:52 am 14.5.2023


Frank Glencairn 15:50 am 14.5.2023

Nicht nur das, wir brauchen dringend wieder mal ne Mischung aus Renaissance und Aufklärung. Was zur Folge haben wird, daß genau die selbe Sorte Leute, die schon auf das Bild...weiterlesen

[ Alle Kommentare ganz lesen]