Schutz vor KI-Manipulation Fake oder nicht? Image Whisperer - neues kostenloses Profi-Tool erkennt KI-Bilder

Wie schon lange vorhergesagt nimmt die Flut von KI-generierten Fake-Bildern und -Videos immer weiter zu und vernebelt gerade bei aktuellen Ereignissen wie etwa dem Iran-Konflikt die Lage enorm und stiftet entsprechend viel Verwirrung. Daher sind Tools gefragt, die solche Fakes zuverlässig erkennen können - ein neues und ziemlich avanciertes System ist Image Whisperer, das noch dazu kostenlos ist.

Image Whisperer prüft Bilder anhand vieler umfangreicher unterschiedlicher Tests, ob sie per KI erzeugt wurden. Diese versuchen unter anderem, anhand visueller Anomalien wie zum Beispiel der typischen gemorphten Gesichter, inkonsistenter Beleuchtung oder ähnlicher Fehler sherauszufinden, ob ein Bild per KI generiert wurde.

Abgleich mit Datenbanken von bekannten KI-Fakes

Doch die Fähigkeiten von Image Whisperer gehen darüber noch hinaus: wie ein menschlicher Journalist, der die Echtheit eines Bildes prüft, sucht es erstmal danach, ob das Bild schon von jemand irgendwo im Netz als Fake oder als echt erkannt wurde. Dazu durchsucht es eine kuratierte Datenbank bekannter Fakes nach dem Prinzip eines visuellen Fingerabdrucks, der Bilder auch erkennt, wenn sie anders zugeschnitten, komprimiert oder in den Farben geändert wurden. Die Datenbank wird laufend aus Quellen wie PolitiFact, Snopes und Google Fact Check aktualisiert. Zusätzlich wird das Bild im Netz gesucht: wann und wo ist es zum ersten Mal aufgetaucht, was ist die allererste Quelle?

So ist Image Whisperer besonders dafür geeignet, Fakes zu erkennen, die über Social Media schnell große Verbreitung erfahren, und kann von Journalisten ebenso wie von normalen Anwendern genutzt werden, um Bilder zu checken und so KI-Fakes nicht mitzuverbreiten.

Paraller KI-Check: Wo wurde das Foto aufgenommen?

Nach dieser Startprüfung laufen parallel mehrere KI-gestützte Erkennungsverfahren, die unter anderem versuchen, anhand von Wahrzeichen, Architektur, Vegetation und Straßenbild festzustellen, wo ein Foto aufgenommen wurde, um die behauptete Ortsangabe des Fotos entweder zu widerlegen oder zu bestätigen. Zudem prüfen zwei unabhängige Systeme das Bild gleichzeitig: ein kommerzielles Tool zur Erkennung bestimmter Generatoren wie DALL-E, Midjourney oder Stable Diffusion sowie ein akademisches Modell der Universität Neapel.

Stimmen beide überein, gilt das Ergebnis als besonders belastbar. Bei Widersprüchen wird das Bild für eine menschliche Prüfung markiert. Zusätzlich wird gecheckt, ob das Bild das unsichtbare SynthID-Wasserzeichen von Googles generativen KIs wie Gemini oder Imagen enthält.

Forensischer Check

Eine weitere Prüfung erfolgt forensisch auf verräterische visuelle Unstimmigkeiten wie fehlerhafte Schatten, Perspektive, Reflexionen, Texturen, Kanten, Lichtkonsistenz, Gesichtssymmetrie, Augendetails, Hintergrundtiefe sowie Kompressionsartefakte. Ein besonderer Augenmerk wird in einem weiteren Schritt auf eine fehlerhafte Darstellung von Menschen und besonders Gesichtern gelegt, wie zum Beispiel die Anzahl der Finger oder verlaufene Gesichter oder unlogische Schattenwürfe.

Die verschiedenen Analyseschritte eines Bildes werden alle transparent dargestellt, damit man selbst nachvollziehen kann, auf welchen unterschiedlichen Teilbewertungen der verschiedenen Methoden das letztendliche farbcodierte Urteil fußt. Dieses unterscheidet 4 Stufen: entweder wird ein Bild als sicher per KI generiert eingestuft oder als unklar, wahrscheinlich echt oder das Urteil bedarf noch menschlicher Verifikation.

Zwar garantiert auch dieses komplexe Verfahren von Image Whisperer keinen absoluten Schutz vor KI-Fakes, aber es bietet ein extrem umfangreiches State-of-the-Art Toolset zur Erkennung von Bild-Fakes - gerade auch für Profis wie Journalisten, die checken müssen, ob ein Bild aus dem Netz echt ist oder nicht. Schön wäre angesichts der jetzt ziemlich perfekt aussehenden KI-Clips natürlich auch eine Version für Videos aka Video Whisperer.

Wissenschsaftliche Grundlage

Henk van Ess, der Schöpfer von Image Whisperer und Spezialist auf dem Gebiet der Open Source Verifikation von Quellen, betont die wissenschaftliche Grundlage der verschiedenen Prüfungsmethoden, die alle auf veröffentlichter Forschung aus den Bereichen digitale Forensik, Mehrmodell-Erkennung, Kanten- und Lichtanalyse, Diffusionsbild-Erkennung sowie Deepfake- und Gesichtsartefakt-Analyse aufbauen.

Übrigens, Image Whisperer ist zwar kostenlos - man kann das Projekt aber freiwillig unterstützen.