Gemischt Forum



Künstliche Intelligenz erzählt Quatsch



Der Joker unter den Foren -- für alles, was mehrere Kategorien gleichzeitig betrifft, oder in keine paßt
Antworten
ruessel
Beiträge: 9831

Künstliche Intelligenz erzählt Quatsch

Beitrag von ruessel »

Neue Technologie erfordert neue Sprache. KI-Chatbots wie ChatGPT umschreiben wir mangels besserer Alternativen mit Begriffen wie Intelligenz oder gar Bewusstsein. Wenn Software aber erfundene Fakten präsentiert, nennen wir das eine Halluzination. Tech-Firmen wie Meta und Google haben diese Bezeichnung während des KI-Booms der vergangenen Jahre popularisiert.

Ein kürzlich erschienenes Paper warnt nun vor dieser Begrifflichkeit und ihren Implikationen. Sie schaffe ein falsches Bild der Kompetenzen von KI-Chatbots. Die Rede vom Halluzinieren suggeriere, dass sie Fakten wahrnehmen würden, diese aber falsch interpretierten. Doch die Maschinen nehmen nicht wahr. Sie simulieren, ohne Bezug zur außersprachlichen Wirklichkeit, das menschliche Sprechen. So ist ihr Ziel vielmehr, überzeugend zu klingen, als präzise zu sein. Darum postulieren die Forschenden: ChatGPT ist Bullshit.

ChatGPT ist noch keine zwei Jahre alt und arbeitet ganz erfolgreich. Dem Menschen ist Bullshit halt oft gut genug.

Studie im Anhang als PDF
Gruss vom Ruessel
Du hast keine ausreichende Berechtigung, um die Dateianhänge dieses Beitrags anzusehen.



Frank Glencairn
Beiträge: 24086

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von Frank Glencairn »

Diese Simulation von Wissen und Intelligenz wird oft mit der allwissenden Müllhalde verwechselt.

AI hat hat in Wirklichkeit nicht mal Ahnung um was es geht, es ist alles nur Statistik, auch wenn die Illusion manchmal verblüffend ist.
Bei Bildern/Clips und Musik ist das noch deutlicher zu sehen.
Sapere aude - de omnibus dubitandum



DKPost
Beiträge: 989

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von DKPost »

Das wurde doch vom ersten Tag an genau so kommuniziert. ChatGPT ist ein Sprachmodell, das menschliche Sprache verstehen und simulieren soll. Richtig oder falsch spielt (oder spielte zumindest anfangs) wenn überhaupt eine untergeordnete Rolle.



Axel
Beiträge: 16421

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von Axel »

ChatGPT ist (für mich) wie ein Assistent für eine erfolgreiche Google-Suche. Manchmal muss man nachhelfen, nachfragen, präzisieren. Wieso wendet ein Doppelklick den Powergrade nur für den gerade aktiven Node Stack Layer an? Sture Antwort dreimal hintereinander, immer wortreicher: ein Powergrade speichert alle Nodes, ein Doppelklick wendet sie an. Copy & Paste aus (hauptsächlich) dem Resolve Manual. Beim vierten Mal, fast kleinlaut: „Ich“ habe etwas im BlackMagic Forum gefunden. Ein Rechtsklick „Apply Grade“ wendet alle Layer an. Dann, großkotzig als wär‘s von mir: „Neue Software-Versionen sind häufig nicht vollständig dokumentiert, und es kann nützlich sein, die User-Communities zu Rate zu ziehen. Vielen Dank für die interessante Frage!“
Interessant? Versucht ChatGPT, den Turing-Test zu bestehen?
Na und? Im Fernsehen wird ja auch alles wiederholt ...



cantsin
Beiträge: 14904

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von cantsin »

Gutes Paper. Das Argument ist sehr einfach, aber bestechend: Dass "Halluzination" eine Marketing-Vokabel ist, die die eigentliche Simulanten-Aufschneiderei der Bots verschleiert, und dass "Bullshit" die korrektere Bezeichnung ist, wobei sich die Autoren auf das klassische Buch "On Bullshit" des amerikanischen analytischen Philosophen Harry Frankfurt beziehen (das trotz seines lustig klingenden Titels übrigens knochentrocken ist und darüber geht, wahre von unwahrer Rede zu unterscheiden).



dienstag_01
Beiträge: 13750

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von dienstag_01 »

Wenn es soweit ist, dass die ersten ihre selbstgebauten Fahrzeuge mit selbstentwickelten KI-basierten Autopiloten ausstatten, dann wirds lustig. Ich bin dann erstmal weg. Also so in 2,3 Jahren wahrscheinlich ;)



Jörg
Beiträge: 10411

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von Jörg »

Künstliche Intelligenz erzählt Quatsch
wieso sollte sich denn künstliche Intelligenz von der real existierenden unterscheiden??



macaw
Beiträge: 1471

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von macaw »

Frank Glencairn hat geschrieben: Mi 10 Jul, 2024 18:40 Diese Simulation von Wissen und Intelligenz wird oft mit der allwissenden Müllhalde verwechselt.

AI hat hat in Wirklichkeit nicht mal Ahnung um was es geht, es ist alles nur Statistik, auch wenn die Illusion manchmal verblüffend ist.
Bei Bildern/Clips und Musik ist das noch deutlicher zu sehen.
Das erste Jahr hat das ganz gut funktioniert. Aber ich hab nun schon mehrfach erlebt, daß Firefly von Adobe grandiosen Müll produziert. Bei einer Set Extension für einen Heinz Spot (die Ketchup Firma) der 16:9 gedreht und nun für 9:16 adaptiert werden sollte, sollte das Bild zweier Personen am Esstisch oben und unten erweitert werden. Oben lieferte er mir das Bild eines halbnackten Mannes, der auf der Seite liegt, komplett mit einem schmierigen Gesichtsausdruck. Anstatt mir laut Prompt für den unteren Teil einfach den Tisch zu erweitern, trugen laut Firefly beide Frauen Röcke, unter den man blicken konnte. Mein Bruder erhielt statt der Reparatur eines Risses im Bild stattdessen einen noch größeren Riß in dem "Fler" stand. Und was ChatGPT da abliefert reicht zum befüllen ganzer Bibliotheken. Ich habe den Eindruck, daß diese KI`s irgendwie wie die Autokorrektur meines Smartphones funktionieren: Ist die Datenbank zu groß um das richtige Wort zu finden, pickt es einfach irgendwas heraus, daher bekomme ich statt "haben" nur noch "Haßberge" vorgeschlagen...



cantsin
Beiträge: 14904

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von cantsin »

macaw hat geschrieben: Mi 10 Jul, 2024 20:18 Ich habe den Eindruck, daß diese KI`s irgendwie wie die Autokorrektur meines Smartphones funktionieren
Da triffst Du sogar ziemlich den Punkt. Die Autokorrektur arbeitet auf dem Prinzip sog. Markov-Ketten, die gewissermaßen die einfacheren Vorläufer der neuralen Netze der KI sind und im Fall der Autokorrektur Wörter auf der Basis von Übergangswahrscheinlichkeiten vervollständigen. Vom Prinzip her machen neurale Netze bzw. die auf ihnen basierten großen Sprachmodelle, auf denen wiederum generative KI basiert, nichts anderes.

Mein Studenten erkläre ich generative KI immer mit Tag-Clouds wie diesen:

Bild

Im Prinzip macht generative KI nichts anderes, als aus Datenmaterial solche Tag-Clouds zu erstellen (in KI-Terminologie: "weights", bzw. gewichtete Daten) und dann daraus geschriebene Sätze (oder Bilder) zu bauen. Und der Bullshit bzw. die Halluzinationen entstehen dadurch, dass sie Dinge miteinander verbinden, die in den Tag-Clouds (aus statistischen Gründen) fett nebeneinander stehen, auch wenn es zwischen ihnen keinen kausalen Zusammenhang gibt.



macaw
Beiträge: 1471

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von macaw »

Sehr interessant - danke für die Erklärung!



rudi
Administrator
Administrator
Beiträge: 1506

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von rudi »

Vielleicht hilft es dem Verständnis auch noch, dass diese Tag-Cloud nicht zweidimensional ist, sondern sich über sehr sehr sehr viele Dimensionen erstreckt. Und was letztlich rauskommt, ist auch stark abhängig, "wo" man sich gerade mit seinen Parametern in diesen übrigen Dimensionen gerade "aufhält". Drum kann das Ergebnis auch komplett anders ausfallen, wenn man nur einen dieser unspezifischen Parameter verändert. (und das kann wiederum schon durch eine minimale Änderung im Prompt passieren).
Aber ich merke grade, das ist wohl eher verwirrend, als erklärend. Ich lass es jetzt mal trotzdem hier stehen.



cantsin
Beiträge: 14904

Re: Künstliche Intelligenz erzählt Quatsch

Beitrag von cantsin »

rudi hat geschrieben: Do 11 Jul, 2024 10:57 Vielleicht hilft es dem Verständnis auch noch, dass diese Tag-Cloud nicht zweidimensional ist, sondern sich über sehr sehr sehr viele Dimensionen erstreckt. Und was letztlich rauskommt, ist auch stark abhängig, "wo" man sich gerade mit seinen Parametern in diesen übrigen Dimensionen gerade "aufhält". Drum kann das Ergebnis auch komplett anders ausfallen, wenn man nur einen dieser unspezifischen Parameter verändert. (und das kann wiederum schon durch eine minimale Änderung im Prompt passieren).
Aber ich merke grade, das ist wohl eher verwirrend, als erklärend.
Nee, nehme ich gerne für meine Studenten beim nächsten Mal mit!



 Aktuelle Beiträge [alle Foren]
 
» Drehort Problem
von klusterdegenerierung - Mo 0:42
» Was schaust Du gerade?
von klusterdegenerierung - Mo 0:34
» Nach 7 Jahren mit der OG BMPCC finde ich das Bild noch immer schön.
von roki100 - So 22:18
» Panasonic GH7 - Sensor-Bildqualität, Rolling Shutter, Dynamik - V-Log oder LogC?
von Darth Schneider - So 21:24
» KURZFILME, STUDENTENOSCAR & CO. Über den Einstieg in die Filmbranche
von Mantas - So 21:07
» After Effects Clone ohne Installer - Online Motiondesign- und Video-Editor Pikimov
von medienonkel - So 21:00
» -SONY FX- Erfahrungsaustausch
von roki100 - So 19:55
» Shortverse - Internetportal zeigt mittlerweile über 12.000 Kurzfilme
von moowy_mäkka - So 18:25
» Nikon Z6 III - Sensor-Bildqualität, Rolling Shutter, Dynamik - Günstige Z8 für Filmer?
von roki100 - So 17:56
» Nikon Imaging Cloud für Z6 III bietet Firmware-Updates und Bildtransfer
von slashCAM - So 16:54
» Vom Panasonic Camcorder HC-X909 full HD zu SONY DSLM a6400 4k, ist das sinnvoll?
von Doc Brown - So 12:12
» Topaz Labs Video AI Pro bietet Multi-GPU Upscaling bis 24K
von blindcat - So 11:59
» Tragischer Unfall am Set trotz Filmwaffe: Kamerafrau stirbt nach Schuß von Alec Baldwin
von Jörg - So 11:35
» Aktuelle rechtliche Situation für AI generierte Inhalte
von Frank Glencairn - So 9:37
» Proxy Verlinkungsstress!
von Jörg - Sa 23:58
» Easy Beginner Guide
von klusterdegenerierung - Sa 22:16
» Linsen (Vintage, Anamorphic & Co.)
von roki100 - Sa 15:44
» DJI Osmo Mobile 6 Gimbal zu verkaufen
von Sunbank - Sa 14:21
» Kompakte Sony ZV-E10 II mit 10bit 4K 60p und Kinolook-Funktionen angekündigt
von Bruno Peter - Sa 10:43
» Eingangs und Ausgans Auflösung 4K -> FullHD
von dienstag_01 - Sa 10:33
» Odyssey ml - "Hollywood Grade" AI
von Frank Glencairn - Sa 10:22
» Filmen Firmenevent mit Livestream
von pillepalle - Sa 4:00
» Ist shooten mit wenig Kontrast oder Sättigung eine Universal-Regel, die immer gilt?
von nicecam - Fr 21:28
» Was hörst Du gerade?
von klusterdegenerierung - Fr 21:09
» Longlegs - Nicolas Cage als Serienkiller
von 7River - Fr 20:12
» Davinci Untertitel zusammenfügen
von dienstag_01 - Fr 20:03
» Panasonic G9 M2 - Beste Einstellung für Lowlight
von Skeptiker - Fr 19:37
» Videoausrüstung mit einer Alpha 7cii
von poki1000 - Fr 19:08
» DJI Osmo Pocket 3 vorgestellt - Gimbal-Kamera mit größerem Display
von Jörg - Fr 18:51
» Kling AI generiert 10s-Sequenzen mit gewünschter Kamerabewegung
von slashCAM - Fr 11:00
» Apple Vision Pro: Verkaufsstart (USA) ab Februar für 3.499,- Dollar + neuer Werbeclip
von NurlLeser - Fr 10:56
» komische DJI Weiterleitung
von berlin123 - Fr 10:42
» Alien: Romulus - Teaser Trailer online - produziert von Ridley Scott, gedreht auf Alexa 35
von 7River - Fr 10:36
» Blackmagic Pocket Cinema Camera 6K Pro - Erweiterte Ausstattung, Rolling Shutter und Debayering
von Mantas - Fr 8:34
» DJI Proxies in Resolve oder BM Proxy Generator?
von Axel - Fr 4:45