Wer schreibt hier: Mensch oder Maschine?

[nicecam]

Erkennungssoftware für ChatGPT

Man arbeitet daran, den Geist wieder in die Flasche zu bekommen:

Die Macher der Software ChatGPT versuchen nun, die Folgen ihrer Erfindung in den Griff zu bekommen. Die Entwicklerfirma OpenAI veröffentlichte ein Programm, das unterscheiden soll, ob ein Text von einem Menschen oder einem Computer geschrieben wurde. Das teilte das Unternehmen in einem Blogpost mit.

[Axel]

Kam auch gestern als Thema in der Tagesschau:


Ich stimme Frau Weßels zu, wenn sie sagt, dass man sehr vorsichtig damit sein muss, wenn eine KI behauptet, das generierte Zeug seien Fakten, denn KI lügt gerne. Wie kann das sein? Ist doch eine Maschine, kann doch nicht lügen, oder?

Wer von euch erinnert sich noch an die "Wertanlage" Großer Brockhaus, in 24 Bänden mit Goldschnitt, jährlich durch Updatebände ergänzt, zusammen locker zwei Zentner?

Das waren mindestens so viele Halbwahrheiten und weltanschaulich gefärbte Beiträge drin wie man sie heute auf Wikipedia findet, was wegen der fehlenden wissenschaftlichen Sicherung der Beiträge bekanntlich in akademischen Arbeiten nicht zitiert werden darf. Eher mehr.

Die rote Pille, die Frau Weßels in diesem Kurzinterview nicht verabreicht, ist, dass KI das Produkt von Lernen auf Steroiden ist. Menschliches Lernen funktioniert, indem der Schüler innerlich den Stoff neu strukturiert. Eine eigenständige Geistesleistung. Bloßes Faktenlernen führt nicht zu Kompetenz, es wird heute "Bulimielernen" genannt. Eine Datenbank mit einem fremden Wissenssystem, das von der lernenden Person nachgeplappert werden kann, aber nichts mit ihr zu tun hat und so auch nicht angewendet werden kann. Es sei denn, zur formalen Erreichung eines Lernziels, der gestellten Aufgabe, die als objektiv richtig, als Fakt gesetzt wird. Der Erwartungshorizont des Lehrers, gestützt durch das Curriculum, ist das Ziel. Nicht Wissen. Eher Glauben, eher Vorurteile, eher grummelnde Anpassung, geistiger Gehorsam.

Das klingt wie Haarspalterei, aber es handelt sich tatsächlich um einen fundamentalen Unterschied.

Dem Bias kann nicht nur keiner entrinnen, er ist der Schlüssel zu erfolgreichem Lernen. Eine Ahnung von etwas zu haben ist besser als Gewissheit, denn diese ist der eigentliche Bias. So gesehen ist es gut, dass KI keine Fakten liefert. Sie liefert, wie Frau Weßels sagt, Tools. Man könnte auch sagen Toys.

Indem das maschinelle Lernen selbst Schulstoff wird, lernen die Schüler an dem Modell den Bias. Das macht manchen Lehrern vielleicht Angst. Es kann eine Chance sein.

[cantsin]

Die rote Pille, die Frau Weßels in diesem Kurzinterview nicht verabreicht, ist, dass KI das Produkt von Lernen auf Steroiden ist.

Ich wäre da härter in meinem Urteil:

1.) KI ≠ machine learning. Was wir heute leichtfertig bzw. umgangssprachlich "KI" nennen, ist tatsächlich nur machine learning (im Prinzip das, was Markov-Ketten schon seit mehr als 100 Jahren leisten, nur durch mehr Rechentiefe und komplexere Algorithmen verbessert). Einige KI-Wissenschaftler finden sogar, dass man machine learning-System nicht "KI" nennen sollte, weil ihnen dazu entscheidende Intelligenz fehlt.

2.) machine learning = Remix-Papagei. Jedes machine learning-basierte System plappert nach, was ihm reingestopft wurde, und remixt den ursprünglichen Input in seinem Output. Wie man ja auch bei ChatGPT, Dall-E & Co. gut lesen und sehen kann.

Auch mit diesen Einschränkungen ist immer noch wahnsinnig viel mit der Technologie möglich, das noch nicht ausgeschöpft wurde. In unserem Bereich vor allem das Hochrechnen von Billigkamera-Bildern zu Kinoqualität, inkl. völlig neuer und radikal verbesserter Möglichkeiten von Bildentrauschung, -hochskalierung, nachträglicher Verbesserung der Farbtiefe etc.etc.

Bin mir ziemlich sicher, dass zukünftige Kameras (vor allem, aber nicht nur im Smartphone-Bereich) ihre Optiken und Sensoren nur noch als Datenlieferanten für machine learning-basierte Bilderzeugungsalgorithmen verwenden werden, bzw. dass die eigentlich erfassten Bilddaten in der Zukunft nur noch visuelle prompts für synthetisch erzeugte Bilder sind.

[Darth Schneider]

@Cantsin
Wir Menschen plappern doch schlussendlich aber auch einfach nach was irgendwann in uns reingestopft wurde…
Ich denke dieses Argument ist somit nicht wirklich relevant.
Und Dinge hinterfragen beziehungsweise vergleichen kann die KI auch, einfach Millionen mal schneller als wir..;)

Ich denke in 10 Jahren hat uns die KI längst überholt, in sehr vielen Bereichen.

Und hey, in China gibt es schon die ersten digitalen Ärzte….Zumindest ansatzweise.
Das funktioniert, Diagnosen werden von der KI gemacht….

Gruss Boris

[Axel]

Wieso hat in dem Tagesschau-Interview die Fernsehfrau eigentlich nicht gefragt, ob man der KI nicht abfordern kann, selbst die Nachweise zu erbringen?

Die Antwort gibt vielleicht die Frage, die dem Evangelisten Johannes zufolge der römische Präfekt Pontius Pilatus stellte auf Jesu Aussage, er sei hier, um die Wahrheit zu verkünden: "Was ist Wahrheit?"

Wir wissen nicht, was der freundliche Religionsstifter antwortete, vielleicht verschlug es ihm die Sprache. Vermutlich ging ihm durch den Kopf, meine Wahrheit ist nicht von dieser Welt. Oder 42.

Das erste Tutorial zu Midjourney, das ich sah, war von einem Typen, der unterschiedliche AI-Module - Thema entwickeln, Text schreiben, Bilder generieren, Off-Erzählstimme, Videoschnitt - einsetzte, um einen Kurzfilm generieren zu lassen. Der prompt: Die Welt wird schon lange im Geheimen von künstlicher Intelligenz regiert. Die Ergebnisse waren inhaltlich interessant. Immer wieder sabotierte die KI die Schlüssigkeit der Verschwörungstheorie, indem sie sagte: Viele Menschen glauben, dass sie fremdbestimmt sind. ... oder: Die rasante Entwicklung der künstlichen Intelligenz bringt viele dazu, an ein Komplott zu glauben.
Die Bilder waren eine Mischung aus den Filmen Matrix, I, Robot und - ohne prompt - H.R. Giger, Archetypen der technik-verschreckten Paranoia.

Thema verfehlt, hätte es in der Schule geheißen. Die Kategorie war Fiktion, nicht Analyse.

Menschen haben Fakten nicht als Antrieb, sondern nur als Werkzeug, um sich gegen andere Menschen zu behaupten. Das Wesen des Menschen braucht alternative Fakten wie die Luft zum Atmen. Eine streng rationale künstliche Intelligenz verhielte sich zu menschlicher Intelligenz wie ein Telefonbuch zu Goethes Faust. Wer versucht, das zu leugnen oder es mit der Wurzel auszureißen, kann nie etwas zum Positiven verändern. Wir müssen erstmal akzeptieren, dass wir geborene Lügner sind. Erst dann können wir unsere Positionen relativieren.