Neue Technologie erfordert neue Sprache. KI-Chatbots wie ChatGPT umschreiben wir mangels besserer Alternativen mit Begriffen wie Intelligenz oder gar Bewusstsein. Wenn Software aber erfundene Fakten präsentiert, nennen wir das eine Halluzination. Tech-Firmen wie Meta und Google haben diese Bezeichnung während des KI-Booms der vergangenen Jahre popularisiert.
Ein kürzlich erschienenes Paper warnt nun vor dieser Begrifflichkeit und ihren Implikationen. Sie schaffe ein falsches Bild der Kompetenzen von KI-Chatbots. Die Rede vom Halluzinieren suggeriere, dass sie Fakten wahrnehmen würden, diese aber falsch interpretierten. Doch die Maschinen nehmen nicht wahr. Sie simulieren, ohne Bezug zur außersprachlichen Wirklichkeit, das menschliche Sprechen. So ist ihr Ziel vielmehr, überzeugend zu klingen, als präzise zu sein. Darum postulieren die Forschenden: ChatGPT ist Bullshit.
ChatGPT ist noch keine zwei Jahre alt und arbeitet ganz erfolgreich. Dem Menschen ist Bullshit halt oft gut genug.
Studie im Anhang als PDF
Gruss vom Ruessel
Du hast keine ausreichende Berechtigung, um die Dateianhänge dieses Beitrags anzusehen.
Diese Simulation von Wissen und Intelligenz wird oft mit der allwissenden Müllhalde verwechselt.
AI hat hat in Wirklichkeit nicht mal Ahnung um was es geht, es ist alles nur Statistik, auch wenn die Illusion manchmal verblüffend ist.
Bei Bildern/Clips und Musik ist das noch deutlicher zu sehen.
Das wurde doch vom ersten Tag an genau so kommuniziert. ChatGPT ist ein Sprachmodell, das menschliche Sprache verstehen und simulieren soll. Richtig oder falsch spielt (oder spielte zumindest anfangs) wenn überhaupt eine untergeordnete Rolle.
ChatGPT ist (für mich) wie ein Assistent für eine erfolgreiche Google-Suche. Manchmal muss man nachhelfen, nachfragen, präzisieren. Wieso wendet ein Doppelklick den Powergrade nur für den gerade aktiven Node Stack Layer an? Sture Antwort dreimal hintereinander, immer wortreicher: ein Powergrade speichert alle Nodes, ein Doppelklick wendet sie an. Copy & Paste aus (hauptsächlich) dem Resolve Manual. Beim vierten Mal, fast kleinlaut: „Ich“ habe etwas im BlackMagic Forum gefunden. Ein Rechtsklick „Apply Grade“ wendet alle Layer an. Dann, großkotzig als wär‘s von mir: „Neue Software-Versionen sind häufig nicht vollständig dokumentiert, und es kann nützlich sein, die User-Communities zu Rate zu ziehen. Vielen Dank für die interessante Frage!“
Interessant? Versucht ChatGPT, den Turing-Test zu bestehen?
Na und? Im Fernsehen wird ja auch alles wiederholt ...
Gutes Paper. Das Argument ist sehr einfach, aber bestechend: Dass "Halluzination" eine Marketing-Vokabel ist, die die eigentliche Simulanten-Aufschneiderei der Bots verschleiert, und dass "Bullshit" die korrektere Bezeichnung ist, wobei sich die Autoren auf das klassische Buch "On Bullshit" des amerikanischen analytischen Philosophen Harry Frankfurt beziehen (das trotz seines lustig klingenden Titels übrigens knochentrocken ist und darüber geht, wahre von unwahrer Rede zu unterscheiden).
"Wieso eigentlich überhaupt was drehen? Warum nicht jahrelang nur darüber philosophieren?" -stip
Wenn es soweit ist, dass die ersten ihre selbstgebauten Fahrzeuge mit selbstentwickelten KI-basierten Autopiloten ausstatten, dann wirds lustig. Ich bin dann erstmal weg. Also so in 2,3 Jahren wahrscheinlich ;)
Frank Glencairn hat geschrieben: ↑Mi 10 Jul, 2024 18:40
Diese Simulation von Wissen und Intelligenz wird oft mit der allwissenden Müllhalde verwechselt.
AI hat hat in Wirklichkeit nicht mal Ahnung um was es geht, es ist alles nur Statistik, auch wenn die Illusion manchmal verblüffend ist.
Bei Bildern/Clips und Musik ist das noch deutlicher zu sehen.
Das erste Jahr hat das ganz gut funktioniert. Aber ich hab nun schon mehrfach erlebt, daß Firefly von Adobe grandiosen Müll produziert. Bei einer Set Extension für einen Heinz Spot (die Ketchup Firma) der 16:9 gedreht und nun für 9:16 adaptiert werden sollte, sollte das Bild zweier Personen am Esstisch oben und unten erweitert werden. Oben lieferte er mir das Bild eines halbnackten Mannes, der auf der Seite liegt, komplett mit einem schmierigen Gesichtsausdruck. Anstatt mir laut Prompt für den unteren Teil einfach den Tisch zu erweitern, trugen laut Firefly beide Frauen Röcke, unter den man blicken konnte. Mein Bruder erhielt statt der Reparatur eines Risses im Bild stattdessen einen noch größeren Riß in dem "Fler" stand. Und was ChatGPT da abliefert reicht zum befüllen ganzer Bibliotheken. Ich habe den Eindruck, daß diese KI`s irgendwie wie die Autokorrektur meines Smartphones funktionieren: Ist die Datenbank zu groß um das richtige Wort zu finden, pickt es einfach irgendwas heraus, daher bekomme ich statt "haben" nur noch "Haßberge" vorgeschlagen...
macaw hat geschrieben: ↑Mi 10 Jul, 2024 20:18
Ich habe den Eindruck, daß diese KI`s irgendwie wie die Autokorrektur meines Smartphones funktionieren
Da triffst Du sogar ziemlich den Punkt. Die Autokorrektur arbeitet auf dem Prinzip sog. Markov-Ketten, die gewissermaßen die einfacheren Vorläufer der neuralen Netze der KI sind und im Fall der Autokorrektur Wörter auf der Basis von Übergangswahrscheinlichkeiten vervollständigen. Vom Prinzip her machen neurale Netze bzw. die auf ihnen basierten großen Sprachmodelle, auf denen wiederum generative KI basiert, nichts anderes.
Mein Studenten erkläre ich generative KI immer mit Tag-Clouds wie diesen:
Im Prinzip macht generative KI nichts anderes, als aus Datenmaterial solche Tag-Clouds zu erstellen (in KI-Terminologie: "weights", bzw. gewichtete Daten) und dann daraus geschriebene Sätze (oder Bilder) zu bauen. Und der Bullshit bzw. die Halluzinationen entstehen dadurch, dass sie Dinge miteinander verbinden, die in den Tag-Clouds (aus statistischen Gründen) fett nebeneinander stehen, auch wenn es zwischen ihnen keinen kausalen Zusammenhang gibt.
"Wieso eigentlich überhaupt was drehen? Warum nicht jahrelang nur darüber philosophieren?" -stip
Vielleicht hilft es dem Verständnis auch noch, dass diese Tag-Cloud nicht zweidimensional ist, sondern sich über sehr sehr sehr viele Dimensionen erstreckt. Und was letztlich rauskommt, ist auch stark abhängig, "wo" man sich gerade mit seinen Parametern in diesen übrigen Dimensionen gerade "aufhält". Drum kann das Ergebnis auch komplett anders ausfallen, wenn man nur einen dieser unspezifischen Parameter verändert. (und das kann wiederum schon durch eine minimale Änderung im Prompt passieren).
Aber ich merke grade, das ist wohl eher verwirrend, als erklärend. Ich lass es jetzt mal trotzdem hier stehen.
rudi hat geschrieben: ↑Do 11 Jul, 2024 10:57
Vielleicht hilft es dem Verständnis auch noch, dass diese Tag-Cloud nicht zweidimensional ist, sondern sich über sehr sehr sehr viele Dimensionen erstreckt. Und was letztlich rauskommt, ist auch stark abhängig, "wo" man sich gerade mit seinen Parametern in diesen übrigen Dimensionen gerade "aufhält". Drum kann das Ergebnis auch komplett anders ausfallen, wenn man nur einen dieser unspezifischen Parameter verändert. (und das kann wiederum schon durch eine minimale Änderung im Prompt passieren).
Aber ich merke grade, das ist wohl eher verwirrend, als erklärend.
Nee, nehme ich gerne für meine Studenten beim nächsten Mal mit!
"Wieso eigentlich überhaupt was drehen? Warum nicht jahrelang nur darüber philosophieren?" -stip
Rechtliche Notiz: Wir übernehmen keine Verantwortung für den Inhalt der Beiträge
und behalten uns das Recht vor, Beiträge mit rechtswidrigem oder anstößigem Inhalt zu löschen.
