OpenAIs Sam Altman findet, fake ist echt und echt ist fake - und eh egal?

[slashCAM]

Immer mehr Menschen fallen auf KI-generierte Videoclips und Bilder herein, die viral durchs Internet jagen – zuletzt etwa wurden Trampolin-hüpfende Kaninchen, scheinbar v...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
OpenAIs Sam Altman findet, fake ist echt und echt ist fake - und eh egal

[stip]

Altman ist ein Arsc**och und Menschen wie er sind gefährlich.

Ich trompete das hier ja seit Jahren herunter, es geht nicht nur darum, dass man etwas Falsches für echt hält sondern auch darum, dass man letztendlich auch Echtes nicht mehr als solches identifizieren werden kann. Das ist eine Qualität und Quantität die die Grundfesten des Vertrauens in Realität erschüttern werden wie nichts vergleichbares vorher.

Altman's absolut dämliches Argument, es wäre ja sowieso schon alles fake, höre ich in der Diskussion leider öfter.

[DKPost]

Altmans Ansichten muss / sollte / darf(?) man nicht mehr ernst nehmen. Der lebt vollkommen entkoppelt von der Realität und driftet immer weiter ins esoterische ab. Wer sich das reinziehen will sollte mal seinen Blog besuchen.
Er ist nicht ganz so extrem und offensichtlich und vor allem in eine andere Richtung abgedriftet als Space Karen, die Ähnlichkeiten der entzaubernten Tech-Genies sind auf jeden Fall da.

[cantsin]

When I think of OpenAI, I often think of WeWork: charismatic founder, immense valuation, questionable business plan, and the possibility of similar immense deflation in their valuation, if confidence wavers.

But sometimes I have heard others compare OpenAI to Theranos, which was basically a fraud. Another charismatic founder, another ridiculous valuation, and another collapse. It’s not a crazy suggestion, but I’ve generally avoided making that analogy, since OpenAI has consistently shipped products. Those products have not by a longshot lived up to everyone’s expectations, but they do actually ship, and customers can try those products out and decide for themselves. It’s hard to call that smoke and mirrors.

But then again, their products have always been served with large side order of bullshit, like when Sam said, apparently jokingly, that “AGI has been achieved internally”. None of the robot stuff they promised in the Rubik’s cube campaign ever shipped.

Der Rest des Artikels ist lesenswert:
https://garymarcus.substack.com/p/is-op ... r-theranos

[Blackbox]

Ich weiss ja, dass es in 'social media' und insofern auch in Foren immer etwas problematisch ist 'politische' Kommentare zu schreiben, aber dennnoch werfe ich mal ein, dass der Widerstand gegen eine Wahrnehmung von 'Welt' durch die Brille der 'Ki-Oligarchen' und er 'IT-Oligarchen' wohl eher gering ausfallen dürfte.
Schon jetzt ist eine sehr große Trennung zwischen medialer Vermittlung von Welt (traditionelle Massenmedien) und gelebter Realität der Menschen vorhanden. Die Folge ist u.a. das Auseinanderklaffen von eigener Interessenlage und politischer Wahlentscheidung.
Vieles ist nicht oder nur mühselig nachrecherchierbar, die früher eher seltenen Fälle von Vermischung von Meinung und Nachrichten werden mehr und mehr zum Standard, Bilder werden mehr und mehr irgendwie (Praktikanten?) zusammengesucht als 'Bebilderung' von Beitrags/Doku Inhalten (die Tage sah ich in der ZDF-Mediathek als Beleg von Ant(!)arktischer Klimaproblematik eine 'Bebilderung' mit polarer Schneelandschaft incl. Eisbären ...), etc., und wir müssen uns wohl oder übel von der Idee verabschieden , dass durch fotografische Abbilder in den Ketten der medialen Vermittlung sowas wie realistische und angemessene Weltwahrnehmung transportiert wird.
'Bild' als Propaganda ist natürlich nicht neu, aber Ausmaß und Relevanz des manipulativen Einsatzes sind derart angewachsen, dass - in Berücksichtigung unserer Spezies spezifischen Wahrnehmung (Priorität des Bildes vor Text/Sprache) - es im Sinne demokratischer Meinungsbildung fast besser wäre bei Nachrichten und Weltwahrnehmungs-Inhalten auf Bebilderung zu verzichten?

Radio?
Bücher?
Eigener Kontakt mit der 'realen Welt' und ihren realen Menschen?

Für diejenigen, die ein Interesse daran haben 'was wirklich läuft', sicherlich der bessere Weg, als sich aus Bequemlichkeit der verstärkt manipulativen Bilderflut zu übereignen und in Kauf zu nehmen, dass das eigene Gehirn, die eigene Meinungsbildung von 'dem ganzen Scheiss' nach und nach, und für uns selbst unmerklich, infiziert wird.
Es wird für an Ethik orientierte 'Bildarbeiter:innen' schwer bis unmöglich sein Bilder aus der Falle von 'Bild ist nichts als Propagandamittel' wieder herauszubekommen?
Vielleicht ist aber gerade diese Konsequenz (Aufgabe des verlässlich dokumentarischen Gehalts von Bildern) auch eine Chance klar zu realisieren, dass die bunte und allgegenwärtige Welt der medialen 'Bilder' allenfalls am Rande was mit der Realität zu tun hat, und der Konsum von Bildmedien eher aus dem Aspekt 'was soll mir da jetzt untergejubelt werden' erfolgt?

p.s.:
das in Deutschland wohl bekannteste Desinformationsmedium heisst nicht umsonst:
BILD

[pillepalle]

Die gleiche Diskussion gab es auch zu Beginn der Digitalfotografie mit dem Aufkommen von Photoshop. Wir wissen alle das Fotos wenig mit der Realität zu tun haben und trotzdem 'glauben' wir ihnen oft. In praktisch allen Bereichen ist es ja auch allgemein akzeptiert und relativ egal, gerade in der Werbung, in der Kunst, in der Politik, im privaten Bereich. usw. Wer wundert sich darüber, daß der Burger auf dem Foto anders aussieht, als der den man an der Theke in die Hand gedrückt bekommt?

Die einzige wikliche Ausnahme ist der Journalismus. Da gab es schon immer einen Ehrencodex das Bilder nicht manipuliert werden sollen, was für Journalisten zu den publizistischen Grundsätzen zählt. Da geht es vor allem um die eigene Glaubwürdigkeit. Warum sollte dieser Grundsatz im KI-Zeitalter nicht mehr gelten? Und wenn sich Journalisten und Fotografen weiterhin daran halten, dann wird sich in dem Bereich auch wenig ändern. Aber auch da gibt es Grenzbereiche, zwischen Information und Illustration. Und 'schwarze Schafe' gab es auch schon immer.

Wir verbringen heute eben viel Zeit im Internet. Da kann jeder etwas publizieren, bzw. veröffentlichen. Nicht nur Journalisten. Da ist die Unterscheidung von seriöser und unseriöser Quelle nicht mehr so einfach. Und da gehen Bilder und Videos viral, bei denen viele eben nicht unterscheiden können, ob es echt oder unecht ist, seriös oder unseriös. Medienkompetenz haben viele nie vermittelt bekommen. Die Bilder- und Informationsflut, von der auch Blackbox spricht, überfordert viele. Kritisch zu sein ist vielleicht kein schlechter Ansatz. Aber es macht Mühe, wenn man Dinge selber recherchieren und überprüfen muss. Die kann einem aber niemand abnehmen.

VG

[Axel]

Es gibt keine harmlosen Bilder. Wir hier auf slashCAM sollten das wissen. Jedes Bild ist auch eine Illustration eines Narrativs (=unseres Welt-Bildes). Junge Medienkonsumierende haben bereits ein zynischeres Verständnis von der manipulativen Kraft von Bildern. Sie begreifen sie, bewusst oder intuitiv, als faktenfreie visuelle Kommunikation. Was nicht als Meme taugt, taugt nicht. Was das heißen soll? Komplex aussagekräftige Bilder. Komplex heißt, die von einem Ersteller unbewusst und fahrlässig benutzten Schnitt- und Archivbilder werden sofort durchschaut (das haben sie Älteren voraus. Wir mit unserer Überzeugung vom dokumentarischen Wert einer Aufnahme lassen sie passieren). Erst wenn eine manipulative Absicht erkennbar oder spürbar wird, wird eine Auseinandersetzung - mit unterschiedlichem Grad an kritischer Distanz freilich - getriggert. Kaninchen auf einem Trampolin? Gorilla gibt Zoobesucherin ihr Baby zurück? Was soll denn da die Aussage sein? Falsche Frage. Das Medium ist die Botschaft. Bilder bilden nicht ab, Bilder sollen erzählen, was am Ende der Gleichung heißt: lügen.

[tom]

Ein Zitat des KI Experten François Chollet zum Thema:

GenAI isn't just a technology; it's an informational pollutant—a pervasive cognitive smog that touches and corrupts every aspect of the Internet. It's not just a productivity tool; it's a kind of digital acid rain, silently eroding the value of all information.

Every image is no longer a glimpse of reality, but a potential vector for synthetic deception. Every article is no longer a unique voice, but a soulless permutation of data, a hollow echo in the digital chamber. This isn't just content creation; it's the flattening of the entire vibrant ecosystem of human expression, transforming a rich tapestry of ideas into a uniform, gray slurry of derivative, algorithmically optimized outputs.

This isn't just innovation; it's the systematic contamination of our data streams, a semantic sludge that clogs the channels of genuine communication and cheapens the value of human thought—leaving us to sift through a digital landfill for a single original idea.

https://x.com/fchollet/status/1955603320212684834

[stip]

Danke Tom.

Ich denke es ist wichtig zu vermitteln dass KI eine andere Auswirkung haben wird als bisherige Desiformationsmöglichkeiten. Den Infornationskrieg gab es immer. Was neu ist ist dass bald jeder, ohne jegliche Vorkenntnisse, in Sekundenschnelle "Belege" erstellen kann, die nicht mehr als Fälschung erkannte werden können. Das gab es niemals vorher. Es geht nicht mehr um wenige fähige Leute die Photoshop gut genug beherrschen - ob Foto, Video, Audio oder Dokument, alles wird täglich millionenfach erstellt werden.

Das ist nicht vergleichbar mit traditioneller Desinformation weil es dafür sorgen wird, dass das Vertrauen selbst in die unmittelbare Realität grundsätzlich verloren geht.

Sei es ein Video auf dem dich deine Freundin betrügt oder einfach nur der beste Kumpel einen Kickflip steht - alles wird grundsätzlich in Frage gestellt werden, das ist ein Stress den die Menschheit bisher nicht kennt, wir sind weder vorbereitet damit umzugehen, noch was wir dagegen tun können.

[Jott]

Schon bedenklich. Dass Desinformation via Social Media bei Millionen verfängt, hat die Corona-Zeit bewiesen.

Und Trump zum Beispiel kann Despot spielen, weil er die öffentliche Wahrnehmung über seine eigene Plattform „Truth Social“ bestimmt. Also selbst Wahrheit erzeugt. Funktioniert leider bestens.

[Rick SSon]

Das haben wir nun schon vermehrt diskutiert.

Was hochwahrscheinlich passieren wird, ist eine Umkehr der Beweislast. Während bisher Bildmaterial als wahr angenommen wurde wird es bald prinzipiell als unwahr gelten. Wenn derdiedas Ausspielende also wert auf Echtheit legt, dann wird diese explizit bewiesen werden müssen.

Ich würde sagen, inwiefern sich das auf den Kosum von Medien auswirkt bleibt unklar. Ebenso wo der Kipppunkt ist. Die Geschichte hat aber gezeigt, dass wir Menschen den Kipppunkt immer solange ignorieren, bis er einfach da ist - und er kam bisher immer ;-)

[berlin123]

Die Geschichte hat aber gezeigt, dass wir Menschen den Kipppunkt immer solange ignorieren, bis er einfach da ist - und er kam bisher immer ;-)

Hast du mal ein paar Beispiele?

[Rick SSon]

Die Geschichte hat aber gezeigt, dass wir Menschen den Kipppunkt immer solange ignorieren, bis er einfach da ist - und er kam bisher immer ;-)

Hast du mal ein paar Beispiele?

reicht Dir Klimawandel nicht? Natürlich ist die Realisation an der Stelle nicht global synchron, weil nicht alle dieselben Auswirkungen spüren.

Jede Finanzkrise läuft so ab. Jahrelang wird gewarnt, dann machts knack.

Krieg in der Ukraine: Jahrelang wird gewarnt, dann macht Putin zack.

Rauchverbot in deutschen Kneipen: Erst als die finanzielle Belastung fürs Gesundheitssystem höher ist als das Steuereinkommen über den Tabak reagiert der Staat.

[pillepalle]

Bilder bilden nicht ab, Bilder sollen erzählen, was am Ende der Gleichung heißt: lügen.

Das denke ich nicht. Um zu 'lügen' müssten sie ja erstmal behaupten die Wirklichkeit darzustellen. Das tun sie in der Regel aber nicht. Niemand geht in einen Film und erwartet dort die Wirklichkeit zu sehen. Ich glaube es war der Fotograf David LaChapelle der mal auf die Frage eines Interviewers, der ihn fragte warum seine Bilder so surreal/unwirklich seien, antwortete: " Wenn du die Wirklichkeit sehen möchtest, dann setz' dich in eien Bus." Mit anderen Worten, dafür braucht es keine Fotokunst.

Das es immer einfacher wird Bilder zu manipulieren, bzw. jetzt komplett zu generieren, macht das eigentliche Problem was wir schon lange haben nur noch deutlicher. Wir konsumieren schnell und unreflektiert. Unterhaltung und Information sind im Netz oft nicht mehr voneinander getrennt und wir sind damit manchmal überfordert. Einerseits feiern wir die neue Freiheit im Netz, andererseits beschweren wir uns über die Konsequenzen. Natürlich braucht es Regeln, aber man muss deshalb nicht alles regeln. Viele 'KI-Probleme' werden sich mit der Zeit von alleine lösen, denn irgendwann kräht kein Hahn mehr nach trampolin-springenden Kaninchen.

VG

[antonknoblach]

Ich trompete das hier ja seit Jahren herunter, es geht nicht nur darum, dass man etwas Falsches für echt hält sondern auch darum, dass man letztendlich auch Echtes nicht mehr als solches identifizieren werden kann. Das ist eine Qualität und Quantität die die Grundfesten des Vertrauens in Realität erschüttern werden wie nichts vergleichbares vorher.

Die "Content Credentials" der Content Authenticity Initiative sind zumindest ein technisches Mittel, die Echtheit eines Fotos zu beweisen. Aber das geht nur, wenn die Metadaten schon beim Aufnehmen mitgegeben werden – das wird noch nicht von vielen Kameras unterstützt.

[Jott]

Ich hab in letzter Zeit auf Amazon Prime einen Serienmarathon geguckt. Mit kurzen Werbeblöcken.

Viele Spots von großen Marken, die da aufpoppen, weichen deutlich von den sonst geschalteten ab. Entweder frecher und nicht so extrem Bedenkenträger-weichgespült, aber auch mit auffallend vielen KI-Elementen, manche Spots sind komplett generiert. Der Billigweg wird ausgetestet.

Ich habe zum Glück nicht viel mit B-to-C-Werbung zu tun …

Wer auch gerade nach Luft schnappt, sind Tonstudios, die vor allem Sprachaufnahmen machen. KI-Stimmen werden fast täglich besser.

Es wird heftige Umbrüche geben.

[Blackbox]

In praktisch allen Bereichen ist es ja auch allgemein akzeptiert und relativ egal, gerade in der Werbung, in der Kunst, in der Politik, im privaten Bereich. usw. Wer wundert sich darüber, daß der Burger auf dem Foto anders aussieht, als der den man an der Theke in die Hand gedrückt bekommt?

Die einzige wikliche Ausnahme ist der Journalismus. Da gab es schon immer einen Ehrencodex das Bilder nicht manipuliert werden sollen, was für Journalisten zu den publizistischen Grundsätzen zählt. Da geht es vor allem um die eigene Glaubwürdigkeit. Warum sollte dieser Grundsatz im KI-Zeitalter nicht mehr gelten? Und wenn sich Journalisten und Fotografen weiterhin daran halten, dann wird sich in dem Bereich auch wenig ändern. Aber auch da gibt es Grenzbereiche, zwischen Information und Illustration. Und 'schwarze Schafe' gab es auch schon immer.

Kann ich nachvollziehen, aber ich sehe das nicht so unproblematisch. Auch das Bild eines saftig/umamigen Burgers beeinflusst uns, und zwar vollkommen unabhängig davon ob wir die Strategie der Werbung durchschauen, ob wir uns bewußt darüber sind, dass das Lug und Trug ist. Der große nicht kognitive Teil des Gehirns kriegt Hunger auf Burger.
Und im Journalismus ist evtl. langsam aber sicher eine neue Qualität eingezogen, die vor Jahrzehnten (von 'Gleichschaltungs regimes abgesehen) nicht in dem Umfang wirksam war:
die Integration von Journalismus in NATO-Strategien (hybrid warfare, ...). Das wird ja durchaus offen kommuniziert bzw. ist in Teilen öffentlich zugänglich.
Interessant wäre mal ne quantitative und qualitative Auswertung der Bebilderung von Mariupol versus Gaza, oder ähnliches unter Berücksichtigung was in welchem 'Block' wie bebildert wird (also NATO-Block vs. China/Rus-Block oder so.
Seit die systematische Vermischung von Meinung und Nachricht auch in den Öffentlich-Rechtlichen Usus geworden ist (vorher eher nur bei Springer, Bertelsmann und Co.) höhlen sich die ehemaligen journalistischen Standards doch immer mehr aus, und es wird im Schwerpunkt eine staatstragende und NATO-kompatible Weltsicht transportiert.
Innerhalb dieser Bedingungen werden die neuen Möglichkeiten der Manipulation via 'Bild' zusätzliches Gewicht und zusätzliche Relevanz bekommen.
Demokratie hat dabei einen sehr schweren Stand, also wenn erst fundamentale journalistische Prinzipien über Bord geworfen worden sind, was m.E. zunehmend der Fall ist.
Auch wenn die Ki-Bilderflut da nichts fundamental Neues bringt (Evolution statt Revolution) braut sich m.E. nach und nach was sehr Beunruhigendes zusammen.
Die Möglichkeit des Habermas'schen 'Herrschaftsfreien Diskurs'es ist ferner denn je.

p.s.:
Jaaa, Wikipedia ist keine Quelle, aber ich stell das trotzdem mal hier ein, um zu verdeutlichen was ich meine:

Bildschirmfoto 2025-08-14 um 16.13.45.png

Es lohnt sich gerade auch den letzten Satz ein paar mal durchzulesen und zu realisieren was das in Konsequenz eigentlich bedeutet.
Interessant auch wie wenig solche Strategien in der Öffentlichkeit bekannt sind. Trotz zugänglicher Quellenlage.

[Darth Schneider]

@Pille
Mein absoluter Lieblings Fotograf.;)
https://www.davidlachapelle.com/
Und Nein, das kriegt so keine AI hin..
Gruss Boris

[Axel]

Bilder bilden nicht ab, Bilder sollen erzählen, was am Ende der Gleichung heißt: lügen.

Das denke ich nicht. Um zu 'lügen' müssten sie ja erstmal behaupten die Wirklichkeit darzustellen.

Wenn ein Bild behauptet, die Wirklichkeit darzustellen, dann ist es bereits nicht mehr ganz unschuldig. Eigentlich ist es dann ein ärgerer Fake als ein offenkundig unwirkliches Bild. Den Grundsatz „man kann nicht nicht kommunizieren“ kann man auch auf Bilder anwenden. Besonders auf Bilder.

Deswegen sehe ich das Problem etwas gelassener. Perplexity (zumindest sprachlich gewandter als ChatGPT) sagt, dass jedes Bild ein Artefakt ist, auch eine zufällige Dashcam-Aufnahme. Wir können nicht nicht eine Bedeutung unterstellen, und ein A.I.-Bild ist unter diesem Aspekt nichts anderes als ein „von Menschenhand“ geschaffenes Werk.

[Blackbox]

Wobei diese 'Menschenhand' dann keineswegs Erna und Heinz Mustermann, sondern große Konzerne von irgendwelchen (meist US) Oligarchen sind, die verfügen können welche Bilder generiert werden können, welche nicht, welcher 'Spin' bei welchen Themen hineingerendert werden soll.
Promt Varianten sind ja nur innerhalb der nicht demokratisch, sondern oligarchisch gesetzten Grenzen möglich.

[Darth Schneider]

Ja und ?
Ist ja nicht so das die Demokratie (die ja eh keine richtige Demokratie ist, weil dabei aus politischer Sicht, nur mehr Macht und das Geld die Hauptrollen spielen ) der einzige Weg ist….

Fakt ist, die allermeisten Menschen auf der Erde Leben in gar keiner Demokratie, haben viel weniger wie wir..
Und sehr wahrscheinlich,
viel mehr Leute als wir hier glauben sind deswegen auch nicht unglücklicher als wir.