News-Kommentare Forum 
Ein konventioneller Algorithmus ist eine strukturierte Handlungsanweisung - im Prinzip wie ein Kochrezept -, während LLMs eigentlich nur Wahrscheinlichkeitstabellen bzw. Heuristiken auf der Basis von Trainingsdaten sind.Da_Michl hat geschrieben: ↑Sa 27 Jul, 2024 11:01 @blockbox:
Pauschal kann (muss?) man wohl sagen, das die meisten KI-Anwender weit davon entfernt sind, (auch nur annähernd) zu verstehen, was ML Systeme und LLMs von konventionellen software-Algorithmen unterscheidet.
Ich nehme mich da persönlich auch nicht heraus (Hab zumindest den schritt geschafft, dass ich weiß, dass es fundamentale unterschiede gibt. :-) )
.. oder auch nur zu verstehen was eine Pizza überhaupt ist - könnte jetzt auch ne Fußmatte sein.
Dein (a) und (b) unterscheiden sich doch nur durch die Anzahl der Pizzabäcker, die du beobachtest.cantsin hat geschrieben: ↑Sa 27 Jul, 2024 11:49Ein konventioneller Algorithmus ist eine strukturierte Handlungsanweisung - im Prinzip wie ein Kochrezept -, während LLMs eigentlich nur Wahrscheinlichkeitstabellen bzw. Heuristiken auf der Basis von Trainingsdaten sind.Da_Michl hat geschrieben: ↑Sa 27 Jul, 2024 11:01 @blockbox:
Pauschal kann (muss?) man wohl sagen, das die meisten KI-Anwender weit davon entfernt sind, (auch nur annähernd) zu verstehen, was ML Systeme und LLMs von konventionellen software-Algorithmen unterscheidet.
Ich nehme mich da persönlich auch nicht heraus (Hab zumindest den schritt geschafft, dass ich weiß, dass es fundamentale unterschiede gibt. :-) )
Der Unterschied ist der, als wenn (a) jemand z.B. einem Pizzabäcker bei der Arbeit zusieht, dessen Arbeitsschritte analysiert und zu verstehen versucht und auf Basis dieser Analyse ein genaues Rezept aufschreibt, (b) jemand hundert Pizzabäcker beobachtet, Gemeinsamkeiten bzw. Wahrscheinlichkeiten/Grundmuster ihres Vorgehens notiert, ohne wirklich zu verstehen, was sie machen, und auf Basis dieser Muster ein ungefähres Rezept mit diversen Variationsmöglichkeiten aufschreibt.
Nein, beim ersten Beispiel ist es eine strukturierte Beobachtung und Analyse, beim zweiten Beispiel ist es nur Abspicken bzw. Rate-Heuristik auf Grund sich wiederholender Handlungsmuster.
Deine Analyse funktioniert bei dir ebenso, wie bei einer KI. Du schätzt die Ergebnismenge ab.cantsin hat geschrieben: ↑Sa 27 Jul, 2024 12:14 Du kannst den Algorithmus - also das strukturiert-analytisch abgeleitete Rezept - auch aus der systematischen Beobachtung und Analyse von 100 Bäckern entwickeln.
Die Heuristik lässt sich automatisieren, die Analyse nicht. Bei der Heuristik kannst Du daher im Handumdrehen einen Pizzaautomaten bauen und dafür Riesen-Datenmengen auswerten, die kein menschlicher Programmierer bewältigen bzw. analysieren kann - aber immer mit dem Risiko, dass der KI-/ML-Pizzabäcker Dir z.B. die Tomatensauce mit Hefe anrührt - genauso, wie Du beim ML-Bildgenerator das Risiko hast, dass Dir Hände mit sechs Fingern generiert werden.
Q.e.d.?!
Ich gebe Dir mal ein Zitat von Aleksander Madry, KI-Forscher am MIT, über den Unterschied zwischen Analyse und heuristischer Datenauswertung. Madry nennt letztere "faul" ("lazy"):iasi hat geschrieben: ↑Sa 27 Jul, 2024 13:27
Deine Analyse funktioniert bei dir ebenso, wie bei einer KI. Du schätzt die Ergebnismenge ab.
Du kennst das Ziegenproblem?
Die intuitive Lösung ist hier nicht die richtige.
Deine Analyse beruht immer auch auf Daten, die du gesammelt hast und auswertest.
Und nicht immer ist diese Auswertung dann auch richtig.
https://news.mit.edu/2022/promise-pitfa ... dxmit-0111"Faul in dem Sinne wie ein gewitzter Student, der nicht wirklich für eine Prüfung lernen will. Stattdessen studiert er einfach alle Prüfungen der vergangenen Jahre und sucht nach Mustern. Anstatt zu versuchen, wirklich zu lernen, versucht er nur, die Prüfung zu bestehen. Und das ist genau die gleiche Art und Weise, in der die heutige KI faul ist."
Oder eine Frau :DFrank Glencairn hat geschrieben: ↑Sa 27 Jul, 2024 12:02.. oder auch nur zu verstehen was eine Pizza überhaupt ist - könnte jetzt auch ne Fußmatte sein.
Zitate mit Quellenangabe sind erlaubt. Wer das "vergisst", hat schon jetzt eine Grenze überschritten, was u.a. immer wieder zum Nichtbestehen von Prüfungen führt, teils auch nachträglicher Aberkennung von Prüfungsleistungen.
Ja genau, da die aktuellen Systeme durch das Training kein echtes Verständnis erlangen (nach unserm Sinne), schreiben wir "verstehen" in Anführungszeichen - es ging hier darum, dass das KI-Modell lernt, Bildinhalte mit deren Bezeichnungen zu verknüpfen, damit über die Prompts entsprechende Bildausgaben erzielt werden.Blackbox hat geschrieben: ↑Fr 26 Jul, 2024 19:05 "eine Voraussetzung dafür ist ja auch, dass es "versteht", was jeweils errechnet werden soll."
Ob es da wirklich ein 'Verstehen' gibt wage ich zu bezweifeln.
Es ist wohl eher ein 'Zuordnen' in ein jeweiliges Schubladensystem?
Das Dilemma des grundlegenden Nicht-Verstehens zeigt sich ja auch bei den Ergebnissen von Ki-Inzucht ohne ausreichenden menschlich kreativen Zustrom:
https://www.scinexx.de/news/technik/kue ... n-kollaps/
Wie Nvidia, Apple, Anthropic, Open AI/Sora und wahrscheinlich alle anderen auch.Wie das Magazin 404 nun recherchiert hat, wurde die neueste Gen-3 des mit Sora konkurrierenden Videomodells Runway offensichtlich u.a. mit speziell ausgesuchten, hochqualitativen YouTube-Videos trainiert.
