Ethische Überlegungen zu KI im Newsroom

[ruessel]

Von der Recherche über die Überprüfung von Informationen, die Produktion und den Vertrieb bis hin zur Buchhaltung und der Planung von Arbeitsabläufen – KI unterstützt Routineaufgaben entlang der journalistischen Wertschöpfungskette.

Nehmen wir zum Beispiel an, dass sich in einem Nachrichtenbericht ein Fehler bezüglich des Alters oder der Nationalität einer wichtigen Persönlichkeit eingeschlichen hat. Auch wenn er unbedeutend erscheinen mag, kann er den Ruf eines Nachrichtenunternehmens schädigen, das sich auf eine genaue Berichterstattung beruft. Und wir müssen uns fragen, wer für diesen Fehler verantwortlich ist.

Ist es der Programmierer, der den ursprünglichen Code geschrieben hat? Ist es der Trainer, der das Programm mit dem Datensatz trainiert hat? Ist es der Journalist, der die Eingabeaufforderung geschrieben hat, die die falschen Informationen lieferte? Ist es die KI selbst? KI neigt zu so genannten »Halluzinationen«, bei denen sie Fakten erfindet, um den in der Eingabeaufforderung enthaltenen Auftrag zu erfüllen.

https://www.film-tv-video.de/business/2 ... -newsroom/

[Alex]

Und wir müssen uns fragen, wer für diesen Fehler verantwortlich ist.

Immer der, der auf "Veröffentlichen" klickt, hat den Hut auf und muss sicherstellen, dass seine "Zulieferer" richtige Daten liefert. Wird ein Fehler entdeckt, muss der Veröffentlicher den "Schuldigen" finden und zukünftige Konsequenzen entwickeln, um diese zu vermeiden, z.B. die Fakten dieses Zulieferers immer genau checken.
Die KI ist von Menschen geschrieben und man muss immer davon ausgehen, dass menschliche Fehler passieren.

[MK]

hat den Hut auf

Hat da einer gestern Wer wird Millionär geschaut? :D

[Frank Glencairn]

Die KI ist von Menschen geschrieben und man muss immer davon ausgehen, dass menschliche Fehler passieren.

So funktioniert KI allerdings nicht.

[Alex]

Die KI ist von Menschen geschrieben und man muss immer davon ausgehen, dass menschliche Fehler passieren.

So funktioniert KI allerdings nicht.

..weil mittlerweile keiner mehr genau weiß, warum die KI "dies" oder "das" anstelle von dem, was man eigentlich erwartet hätte, macht :D

Joa, da kann man bestimmt drüber diskutieren, aber die KI ist trotzdem immer noch zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat. Wenn sie nicht genau das tut, ging dabei das Verständnis bzw. die Kontrolle verloren.

Dass der Code mittlerweile so komplex ist, dass die Menschen ihn gar nicht mehr allumfassend verstehen, ist letztlich ein "Programmierfehler". Oder andersrum, der Mensch ist einfach nicht mehr in der Lage, die Auswirkungen seiner eigenen Anweisungen abzusehen...Aber auch das ist letztlich ein menschlicher "Fehler"

Die ich rief die Geister...^^

[Darth Schneider]

@Alex
Menschgemacht, ist relativ.

Die Natur verstehen wir Menschen fast gar nicht und versuchen diese trotzdem ständig zu ändern.
Unter anderem versuchen wir den Klimawandel den wir gar nicht verursacht sondern nur beschleunigt haben inzwischen ganz selbstbewusst aufzuhalten.:)

Wird bei der KI auch nicht anders enden.
Menschgemacht hin oder her.
Die Kontrolle darüber war gar nie zu mehr als 20% da und diese wenigen Prozente gehen wegen Fehlentscheidungen unkontrolliert verloren…;))
Gruss Boris

[Frank Glencairn]

Joa, da kann man bestimmt drüber diskutieren, aber die KI ist trotzdem immer noch zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat.

Das ist ungefähr so als ob ich sagen würde, die Maschine welche die Lotto-Bällchen auswirft ist zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat.

Nein - tut sie natürlich nicht.

Im Gegenteil, sie wurde so konstruiert daß sie garantiert nicht macht, sonst könnte Lotto längst einpacken.

Genau so ist da auch mit Large Language Modellen - das ganze ist ne Blackbox die auschließlich den statistischen Wahrscheinlichkeiten ihrer Trainigsmodelle folgt.

Jetzt kann man natürlich sagen:
Ahaaa! Da haben wir es doch - und wer macht die Trainigsmodelle? Ein Mensch!

Was natürlich stimmt, aber wer würde - um bei dem Eingangsbeispiel zu bleiben - falsche Geburtsdaten oder Nationalitäten irgendwelche Prominenter trainieren? Da schneidet er sich ja ins eigene Fleisch.

Wie bei der Lottomaschine auch, kann eine AI mit schlechtem Training, die nur Blödsinn auswirft ganz schnell einpacken.

[Darth Schneider]

Wartet mal ab bis dann die KIs im grossen Stil mit der Hilfe von Quanten Computern erst richtig lernen zu laufen.
Dann lernt die KI alles noch Mio, mal schneller.
Zu schnell um da irgendwas zu kontrollieren…
Gruss Boris

[Frank Glencairn]

Is mir egal, bis dahin bin ich längst tot.

Im Mai 2023 stellte der Physiker Wissenschaftsjournalist Michael Brooks in der Fachzeitschrift Nature die Frage: „Quantencomputer: Wozu sind sie gut?“. In dem Artikel zitiert er Winfried K. Hensinger, der fünf Quantencomputer betreibt, mit den Worten: „Sie sind alle schrecklich. Sie können nichts Nützliches tun.“ Der zum Zeitpunkt der Veröffentlichung an der Anzahl der Qubits weltweit größte Quantencomputer, Osprey von IBM, hat 433 Qubits. Selbst mit 2 Millionen Qubits könnten einige Berechnungen in der Quantenchemie ein Jahrhundert dauern, wie ein Preprint[91] zeige. Um die aktuell modernste Kryptografie (2048 Bit RSA) in acht Stunden zu entschlüsseln wären 20 Millionen Qubits erforderlich.[92] Insgesamt sei es noch ein weiter und langer Weg, um mit Quantencomputern über das hinauszugehen, was mit klassischen Computern möglich ist. Auch der Start-up-Szene und ihren Investoren sei klar, dass „es noch viele Jahre dauern wird, bis der Zahltag kommt“. Der kurzfristige Hype sei aber ein bisschen hoch.[93] Im Jahr 2021 zeigte eine Untersuchung, dass klassische (sogar exakte) Algorithmen dem D-Wave 2000Q Quantencomputer (mit 2000 Qbits) überlegen sind, selbst bei Problemen, die genau auf die Architektur des Quantencomputers zugeschnitten sind und ließ Zweifel an der Überlegenheit aufkommen.[94]

Ein weiterer Kritikpunkt bei Quantencomputern ist die ihre hohe Anfälligkeit. Aktuelle Fehlerraten (2021) sind für 1-Qubit-Gatter Größenordnungen von: 0,1 % bzw. 1 Fehler je 1000. Schaltung und für 2-Qubit-Gatter 1 % bzw. 1:100.

[pillepalle]

Das ist ja genau das Problem... die Daten mit denen sie gefüttert wird. Manche Modelle funktionieren mit vielen Daten besonders gut, aber die Daten die sich die KI aus dem Internet fischt sind dann eben auch oft Mist. Und die Schwierigkeit besteht darin den Mist herauszusieben, bzw. Mechanismen einzubauen die verläßliche und vorhersehbare Ergebnisse bringen. Wer erinnert sich nicht an die mehr oder weniger frei erfundenen Aussagen die die KI/Chat GTP ausgibt, wenn man sie zu sich selber (aka relativ unbekannten Leuten) befragt.

VG

[Frank Glencairn]

Der Fehler den viele machen, ist irgendein LLM als sowas wie die Allwissende Müllhalde oder das Orakel von Delphi zu begreifen.

Das ist wie Wikipedia - kann man schon nutzen, aber man darf sich dabei halt nicht einbilden irgendeinen Anspruch auf absolute Wahrheiten zu haben.

Selbst Denken und notfalls Recherchieren (auch wenn das vielen heute schwer fällt) bleibt weiterhin angesagt.

[pillepalle]

@ Frank

Das sowieso :) Ich hatte ja letztes Jahr ja ein Interview mit einer Preisträgerin in Sachen KI-Forschung und deren Mitarbeiter. Und da ging es genau um solche Themen und das die Forschung eben selber vieles noch nicht versteht. Die mathematischen Modelle dahinter sollen 'relativ' simpel sein, aber durch die Größe der Strukturen wird das im manchen Fällen dann eben doch enorm komplex.

VG

[Alex]

Joa, da kann man bestimmt drüber diskutieren, aber die KI ist trotzdem immer noch zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat.

Najaaaaaa....Ich weiß, worauf du rauswillst, und ich bin viel zu wenig in der Materie von KI Programmierung (obwohl ich eine Zeit lang als Programmierer Geld verdient habe und privat in gewissem Rahmen immer programmiere).

Aber der Unterschied ist, dass beim Lotto durch die physikalischen Kräfte ein (für Mensch oder Computer) nicht reproduzierbarer Zufall entsteht (da gibts bestimmt Fachbegriffe für).
In Computersystemen, die mit 0 und 1 operieren, ist jeder Schritt, der ausgeführt wird, auf ein Ereignis zurückzuführen, welches auch ausgelesen und reproduziert werden kann. Damit kann man jedes Ereignis analysieren. Nur die Komplexität und die Abhängigkeit von anderen Ereignissen ist dermaßen komplex, dass der Mensch da nicht mehr mitkommt, wo was überhaupt herkommt, das liegt aber an der Größe des Systems. Verkleinert man dieses, wirds wieder einfach(er). Für dieses Problem/Verhalten (über-)komplexer Systeme ist der Mensch verantwortlich, nicht der Computer. Treiber ist wie so oft Gier und das mangelnde Reflektieren über Konsequenzen, wie mit allem, was der Mensch so gern exzessiv betreibt und sich letztlich selbst ins Knie fickt ;-)

Quantencomputer stehen auf einem völlig anderen Blatt und haben meines Wissens nichts mit der KI von der wir (heute) reden zu tun.

Aber nochmal auf den Ursprung des Threads zurückzukommen:
Natürlich kann man keinem Redakteur vorhalten, er solle die KI anders programmieren, um sicherzustellen, dass sie keine fehlerhaften Ergebnisse ausspuckt. Aber er ist dafür verantwortlich, wenn er einen Beitrag veröffentlicht, der mithilfe einer KI erstellt wurde, die fehlerhaften Daten produziert, wer denn sonst? KI ist ein Werkzeug. Wer es nutzt, sollte sich deren Vor- und Nachteile bewusst sein, oder zumindest mit einem Disclaimer warnen.

[Frank Glencairn]

Aber nochmal auf den Ursprung des Threads zurückzukommen:
Natürlich kann man keinem Redakteur vorhalten, er solle die KI anders programmieren, um sicherzustellen, dass sie keine fehlerhaften Ergebnisse ausspuckt. Aber er ist dafür verantwortlich, wenn er einen Beitrag veröffentlicht, der mithilfe einer KI erstellt wurde, die fehlerhaften Daten produziert, wer denn sonst? KI ist ein Werkzeug. Wer es nutzt, sollte sich deren Vor- und Nachteile bewusst sein, oder zumindest mit einem Disclaimer warnen.

Au ja, unter jedem Artikel so ein Warnhinweis wie auf den Verpackungen.

ACHTUNG!
Dieser Artikel wurde maschinell erstellt und kann völligem Blödsinn enthalten, weil wir das nicht nachprüfen.
Glauben auf eigene Gefahr - die Redaktion übernimmt keine Haftung.

[Alex]

Au ja, unter jedem Artikel so ein Warnhinweis wie auf den Verpackungen.

ACHTUNG!
Dieser Artikel wurde maschinell erstellt und kann völligem Blödsinn enthalten, weil wir das nicht nachprüfen.
Glauben auf eigene Gefahr - die Redaktion übernimmt keine Haftung.

Da KI ja auf jeden Fall eingesetzt wird, würde ich es zwar anders formulieren, aber einen Hinweis fände ich schon angebracht, oder haste ne bessere Idee?

[Frank Glencairn]

.. oder haste ne bessere Idee?

Nein, wie schon gesagt fände ich das wirklich gut.

[dienstag_01]

@ Frank

Das sowieso :) Ich hatte ja letztes Jahr ja ein Interview mit einer Preisträgerin in Sachen KI-Forschung und deren Mitarbeiter. Und da ging es genau um solche Themen und das die Forschung eben selber vieles noch nicht versteht. Die mathematischen Modelle dahinter sollen 'relativ' simpel sein, aber durch die Größe der Strukturen wird das im manchen Fällen dann eben doch enorm komplex.

VG

Hast du die Fragen gestellt?

[pillepalle]

@ dienstag

Nee. Ich hatte schon genug mit Kamera, Licht und Ton zu tun :) Aber ich habe sie auch geschnitten und wir hatten viel Zeit mit denen zu Quatschen, waren mit denen Essen, B-Roll aufzunehmen usw. Im Serverraum vom KI-Zentrum Schrankreihen voller Server... höllenlaut. Da versteht man sein eigenes Wort kaum. Hatte spaßeshalber auch mal gefragt ob die HDDs oder SSDs nutzen und die Antwort war ca. 50/50... weiß nicht mehr wieviele Petabyte.

VG