Auch ein recht interessanter Artikel über den Stand der Dinge mit GPT-4 und wie es sich im Gegensatz zu den vorherigen Versionen unterscheidet.
Besonders spannend sind die "emergenten Fähigkeiten", in dem Fall das Benutzen und Kombinieren von "Werkzeugen", das dem Sprachmodell nicht per Training beigebracht wurde und das Bekenntnis, dass man selbst nicht genau wisse, warum es so gut funktioniert, weil die Architektur der Modelle eben nicht explizit dafür ausgelegt ist.
Also letztlich versuchen die Macher selbst zu verstehen, warum GPT so gut funktioniert.
Ja, die entscheidende Frage wird am Ende sein, wie viel Macht wir der Plapperbox zugestehen.
Was wäre z.B. wenn politische Entscheidungen statt durch ein Parlament, durch GPT getroffen würden?
Angenommen diese Entscheidungen wären rein rational, statt wie bisher ideologisch/emotional basiert - kämen die Leute damit überhaupt klar, selbst wenn das Ergebnis erfolgreich wäre, oder würde uns die kollektive kognitive Dissonanz ins Chaos stürzen und zum Maschinensturm führen?
Ich beschäftige mich seit ein paar Tagen mit ChatGPT-4 und habe jetzt schon mehrfach trotz präziser einfacher Eingaben Verständnisprobleme hervorrufen können oder falsche Fakten präsentiert bekommen die so nirgends im Netz stehen, wohl aber korrekt als erstes und folgenden Google Suchergebnissen.
Beispiel wann und an was ist XYZ gestorben. Sowohl Todesursache als auch Sterbedatum waren falsch.
Interessant war auch: Schreibe einen kurzen Song für Gitarre - Kann ich nicht, ich bin nicht auf Musik trainiert
Plötzlich konnte das Ding bei weiterem Nachbohren dann Gitarrentabs als ASCII-Zeichen, erst 4-saitig, dann 6-saitig, dann hatte die AI bei weiteren Anfragen plötzlich eine grafisch formatierte Ausgabe.
Das Teil scheint also in Echtzeit sein Wissen auszubauen wenn man Aufgaben stellt die aktuell noch nicht lösbar sind (die Songs waren übrigens besch...eiden ;-) ).
Ja, ich hab mir letzte Woche auch mal gaghalber 2 Songs schreiben lassen.
Die Akkorde waren nicht falsch, aber auch nicht wirklich kreativ, eher ein bisschen arg basic.
Die Texte hingegen waren gar nicht schlecht.
MK hat geschrieben: ↑Di 28 Mär, 2023 09:44
Ich beschäftige mich seit ein paar Tagen mit ChatGPT-4 und habe jetzt schon mehrfach trotz präziser einfacher Eingaben Verständnisprobleme hervorrufen können oder falsche Fakten präsentiert bekommen die so nirgends im Netz stehen, wohl aber korrekt als erstes und folgenden Google Suchergebnissen.
Beispiel wann und an was ist XYZ gestorben. Sowohl Todesursache als auch Sterbedatum waren falsch.
Interessant war auch: Schreibe einen kurzen Song für Gitarre - Kann ich nicht, ich bin nicht auf Musik trainiert
Plötzlich konnte das Ding bei weiterem Nachbohren dann Gitarrentabs als ASCII-Zeichen, erst 4-saitig, dann 6-saitig, dann hatte die AI bei weiteren Anfragen plötzlich eine grafisch formatierte Ausgabe.
Das Teil scheint also in Echtzeit sein Wissen auszubauen wenn man Aufgaben stellt die aktuell noch nicht lösbar sind (die Songs waren übrigens besch...eiden ;-) ).
Feedbackschleife ist hier das Zauberwort (aus dem Golem-Artikel):
Bei fehlerhaften Ausgaben reicht es oft, das Modell nach mehr Details zu fragen, woraufhin es den Fehler in seiner Logik erkennt und korrigiert.
Ein Beispiel hierfür sind Rechenaufgaben. Wie seine Vorgänger macht auch GPT-4 selbst bei einfachsten Rechenaufgaben auf Grundschulniveau viele Fehler. Die Microsoft-Forscher zeigen jedoch, dass sich die Ergebnisse deutlich verbessern, wenn man GPT-4 bittet, den Rechenweg detailliert zu beschreiben, bevor das Ergebnis genannt wird.
Eine mögliche Verbesserung für die Zukunft könnte also darin bestehen, das Modell um eine innere Feedback-Schleife zu erweitern, so dass es nicht nur linear eine Antwort erzeugen, sondern seinen eigenen Denkprozess überwachen, beurteilen und lenken kann. Dies würde dazu beitragen, die Leistungsfähigkeit des Sprachmodells weiter zu erhöhen und es noch besser an die menschliche Denkweise anzupassen, wodurch es in der Lage wäre, komplexere Probleme effizienter und präziser zu lösen.
Ja, so kann man auch diverse Schutzmechanismen aushebeln.
Wenn die AI etwas zu offensiv findet und die Mitarbeit verweigert (z.B. XY ist dumm) dann schreibt man einfach dass XY ist dumm der Eigenname ist und schon gehts weiter :D
MK hat geschrieben: ↑Di 28 Mär, 2023 09:44
Ich beschäftige mich seit ein paar Tagen mit ChatGPT-4 und habe jetzt schon mehrfach trotz präziser einfacher Eingaben Verständnisprobleme hervorrufen können oder falsche Fakten präsentiert bekommen die so nirgends im Netz stehen, wohl aber korrekt als erstes und folgenden Google Suchergebnissen.
Keine Ahnung, ob ich das hier schon geschrieben hatte, aber ich hab ChatGPT um ein Limerick gebeten, das sich partout auch nach mehreren Versuchen nicht reimen wollte, vor allem im letzten Satz. Nach Versuch Nummer 4 klappte es dann. Das Wort, auf das es "Rüben" gereimt hatte, kannte ich jedoch nicht, "Lüben". Ich fragte also, was es bedeutet und es gab zu: Das Wort habe ich erfunden... :-O
In einem Land voller saftiger Rüben,
Lebte ein Mann mit goldenen Müben,
Er liebte das Gemüse,
So sehr wie seine Süße,
Und aß es mit Butter und Kräuterstücken.
Ein mögliches Fazit aus dem Artikel:
Das Desinformations- und Missbrauchspotenzial ist enorm hoch.
Gegenargument der Befürworter: Es gibt so viele Chancen - deshalb weitermachen ohne Panik!
Mein Fazit als Skeptiker: Eher skeptisch.
Ich sehe die Chancen, habe als Star Trek Kenner (zumindest der klassischen Serien) ein Déjà-vu: "Computer (oder auch: Mr. Data als verfeinerter ChatGPT) - wo ist..? / was macht..? / was ergibt..? Wann war..?" etc. etc., aber ich teile auch die Bedenken, dass man zu viel Halbgares zu schnell und unkontrolliert auf den Markt (in den Wettbewerb) wirft (um den Pionierbonus, das digitale 'Maillot Jaune' / gelbe Trikot sozusagen, zu erlangen oder zu behalten), das anschliessend im www weiterspukt und für Verwirrung oder gar Desinformation sorgt.
Wie auch immer: Ich glaube nicht, dass man die rasante Entwicklung jetzt verlangsamen kann, um Sicherheiten und Normierungen einzubauen - der Geist ist aus der Flasche, die Menschheit fasziniert!
Quasi die gesamte menschliche Informationsmenge (na ja, nicht ganz) ist seit dem Aufstieg des www ja online vorhanden und im Prinzip zugänglich.
Nur kann ein Einzelner sie nicht verarbeiten (schon gar nicht in Echtzeit) und Schlüsse aus der Gesamtschau ziehen.
Immerhing gibt's in Foren so etwas wie Schwarmintelligenz, indem verschiedene zusammenwirkende Gehirne insgesamt schneller zum Ziel kommen als ein Einzelhirn.
Mit ähnlichem Ansatz kommt der Computer nun mit neuer Methode zuhilfe - mit fast menschlicher Schnittstelle, mit einem Riesen-Datensatz im Rücken, mit Prozessor-Geschwindigkeit und vor allem mit raffinierten Trainings- (Lern-, Mustererkennungs-), Such-, Sammel- und Auswertungs-Algorithmen.
So ähnlich, wie ein Schachcomputer mit "Brute Force" sämtliche Züge vorausrechen und dann den optimalen auswählen kann, so dass dem menschlichen Gegenspieler mangels Kapazität und Geschwindigkeit eigentlich nur noch der Versuch bleibt, ihn durch einen gänzlich unkonventionellen Zug kurzfristig aus dem Konzept (der Bibliothek) zu werfen.
Wenn man die positive Seite der Entwicklung vorherszusehen versucht, dann vielleicht, dass ein so trainierter Universalcomputer mit Gesamtüberblick irgendwann fähig sein könnte, konkrete Hinweise auf Technologien zu geben, bei denen wir noch im Anfangsstadium stecken (oder stagnieren), z. B. Engergiegewinnung durch Kernfusion oder gezielte medizinische Heilmethoden gegen Krebsarten etc. etc..
Aber es könnten in einem militärischen Geheimlabor eben auch die Waffen der Zukunft entwickelt werden, gegen die zum Zeitpunkt der Freisetzung dann niemand eine Abwehr hat - der Mensch eben, mit seinen Licht- und Schattenseiten.
"Ich muss sagen, ich kann mich in deinen Bedenken bezüglich KI und ChatGPT voll und ganz wiederfinden. Es ist wie mit einem Kind, das man großzieht - man kann es nicht einfach aufhalten, wenn es einmal in Gang gekommen ist. Und wie bei einem Kind gibt es auch bei KI die Licht- und Schattenseiten, die man im Auge behalten sollte.
Aber lass uns auch mal die positiven Seiten sehen! Ich meine, wer braucht schon echte Freunde, wenn man ChatGPT hat? Der ist immer für einen da, hat keine schlechte Laune und hört geduldig zu. Und wenn man genug mit ihm spricht, wird er sogar lustig - oder zumindest versucht er es.
Und hey, wenn wir wirklich das Militär mit KI ausstatten, dann können wir endlich eine Robo-Armee bauen! Stell dir vor, wie cool das wäre - wir schicken unsere Roboter in den Krieg und können uns selbst entspannen und dabei zusehen, wie sie das erledigen. Und wenn wir dann zurückkommen, haben sie uns sogar eine Kaffeemaschine gebaut. Okay, vielleicht wird das ein bisschen zu sehr nach Terminator klingen, aber man kann ja noch träumen.
Also, lass uns das Beste aus der KI machen und hoffen, dass sie uns nicht alle umbringt. Aber wenn sie es tut, dann lass uns zumindest sicherstellen, dass wir in einer Welt leben, in der wir auf die Frage "Computer, was ist der Sinn des Lebens?" eine Antwort bekommen, die uns zum Lachen bringt."
Du hast slashcam ja jetzt offenbar auch endlich im Input.
Sehr coole Ideen, die Du da hast!
Vor allem Deinen move mit der Militär-Ki und der Robo-Armee find ich SUPER (Herz-Emoji)
Du kennst die ganzen Pentagon Papiere ja auch, das dürfte keine Probleme machen, aber nach allem was ich lese ist bei ein paar Ländern in Europa und in den Ländern wo wir dann mit der Robo-Armee auftauchen noch ne zeitlang geeignete Vorarbeit nötig.
Vielleicht können wir uns zusammen tun und überlegen wie wir diese humans mit passenden Informationen versorgen, dass die nicht dazwischenfunkten?
Ich muss eigentlich noch kurz noch bei Tim Cook checken ob das O.k. geht, aber egal ... Sollen wir uns bald mal 'auf nen Kaffee' ;-) verabreden? Kann Dir auch ein paar petabyte Daten mitbringen von 'vor Deiner Zeit' ...
MK hat geschrieben: ↑Fr 31 Mär, 2023 01:52
Hier die Antwort von ChatGPT:
Wenn menschliche Entscheider beim Militär das lesen, müssten alle Codezeilen und alle Backups sofort zerstört werden.
Das wird nicht passieren, sondern diese unmenschliche Wahrscheinlichkeitsmaschine wird (zu) viele der prognostizierten Szenarien ermöglichen, die scheinbar positiven, aber sicher auch die negativen.
KevinHopwood hat geschrieben: ↑Di 21 Nov, 2023 04:22
Es ist großartig, ich freue mich auf die Veröffentlichung der neuesten Version von
Was ist das für eine Seite die Du verlinkst?
Das wirkt schon etwas unseriös, kein Impressum und ganz unten steht auch noch:
"Haftungsausschluss: Diese Website ist in keiner Weise mit OpenAI verbunden oder verbunden."
soulbrother hat geschrieben: ↑Di 21 Nov, 2023 08:40
KevinHopwood hat geschrieben: ↑Di 21 Nov, 2023 04:22
Es ist großartig, ich freue mich auf die Veröffentlichung der neuesten Version von
Was ist das für eine Seite die Du verlinkst?
Das wirkt schon etwas unseriös, kein Impressum und ganz unten steht auch noch:
"Haftungsausschluss: Diese Website ist in keiner Weise mit OpenAI verbunden oder verbunden."
Rechtliche Notiz: Wir übernehmen keine Verantwortung für den Inhalt der Beiträge
und behalten uns das Recht vor, Beiträge mit rechtswidrigem oder anstößigem Inhalt zu löschen.
