Gemischt Forum



Ethische Überlegungen zu KI im Newsroom



Der Joker unter den Foren -- für alles, was mehrere Kategorien gleichzeitig betrifft, oder in keine paßt
Antworten
ruessel
Beiträge: 9955

Ethische Überlegungen zu KI im Newsroom

Beitrag von ruessel »

Von der Recherche über die Überprüfung von Informationen, die Produktion und den Vertrieb bis hin zur Buchhaltung und der Planung von Arbeitsabläufen – KI unterstützt Routineaufgaben entlang der journalistischen Wertschöpfungskette.

Nehmen wir zum Beispiel an, dass sich in einem Nachrichtenbericht ein Fehler bezüglich des Alters oder der Nationalität einer wichtigen Persönlichkeit eingeschlichen hat. Auch wenn er unbedeutend erscheinen mag, kann er den Ruf eines Nachrichtenunternehmens schädigen, das sich auf eine genaue Berichterstattung beruft. Und wir müssen uns fragen, wer für diesen Fehler verantwortlich ist.

Ist es der Programmierer, der den ursprünglichen Code geschrieben hat? Ist es der Trainer, der das Programm mit dem Datensatz trainiert hat? Ist es der Journalist, der die Eingabeaufforderung geschrieben hat, die die falschen Informationen lieferte? Ist es die KI selbst? KI neigt zu so genannten »Halluzinationen«, bei denen sie Fakten erfindet, um den in der Eingabeaufforderung enthaltenen Auftrag zu erfüllen.
https://www.film-tv-video.de/business/2 ... -newsroom/
Gruss vom Ruessel



Alex
Beiträge: 1743

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Alex »

Und wir müssen uns fragen, wer für diesen Fehler verantwortlich ist.
Immer der, der auf "Veröffentlichen" klickt, hat den Hut auf und muss sicherstellen, dass seine "Zulieferer" richtige Daten liefert. Wird ein Fehler entdeckt, muss der Veröffentlicher den "Schuldigen" finden und zukünftige Konsequenzen entwickeln, um diese zu vermeiden, z.B. die Fakten dieses Zulieferers immer genau checken.
Die KI ist von Menschen geschrieben und man muss immer davon ausgehen, dass menschliche Fehler passieren.



MK
Beiträge: 4426

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von MK »

Alex hat geschrieben: Fr 05 Jan, 2024 09:17 hat den Hut auf
Hat da einer gestern Wer wird Millionär geschaut? :D



Frank Glencairn
Beiträge: 25017

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Frank Glencairn »

Alex hat geschrieben: Fr 05 Jan, 2024 09:17
Die KI ist von Menschen geschrieben und man muss immer davon ausgehen, dass menschliche Fehler passieren.
So funktioniert KI allerdings nicht.
Sapere aude - de omnibus dubitandum



Alex
Beiträge: 1743

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Alex »

Frank Glencairn hat geschrieben: Fr 05 Jan, 2024 09:33
Alex hat geschrieben: Fr 05 Jan, 2024 09:17
Die KI ist von Menschen geschrieben und man muss immer davon ausgehen, dass menschliche Fehler passieren.
So funktioniert KI allerdings nicht.
..weil mittlerweile keiner mehr genau weiß, warum die KI "dies" oder "das" anstelle von dem, was man eigentlich erwartet hätte, macht :D

Joa, da kann man bestimmt drüber diskutieren, aber die KI ist trotzdem immer noch zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat. Wenn sie nicht genau das tut, ging dabei das Verständnis bzw. die Kontrolle verloren.

Dass der Code mittlerweile so komplex ist, dass die Menschen ihn gar nicht mehr allumfassend verstehen, ist letztlich ein "Programmierfehler". Oder andersrum, der Mensch ist einfach nicht mehr in der Lage, die Auswirkungen seiner eigenen Anweisungen abzusehen...Aber auch das ist letztlich ein menschlicher "Fehler"

Die ich rief die Geister...^^



Darth Schneider
Beiträge: 21381

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Darth Schneider »

@Alex
Menschgemacht, ist relativ.

Die Natur verstehen wir Menschen fast gar nicht und versuchen diese trotzdem ständig zu ändern.
Unter anderem versuchen wir den Klimawandel den wir gar nicht verursacht sondern nur beschleunigt haben inzwischen ganz selbstbewusst aufzuhalten.:)

Wird bei der KI auch nicht anders enden.
Menschgemacht hin oder her.
Die Kontrolle darüber war gar nie zu mehr als 20% da und diese wenigen Prozente gehen wegen Fehlentscheidungen unkontrolliert verloren…;))
Gruss Boris



Frank Glencairn
Beiträge: 25017

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Frank Glencairn »

Alex hat geschrieben: Fr 05 Jan, 2024 13:58
Joa, da kann man bestimmt drüber diskutieren, aber die KI ist trotzdem immer noch zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat.
Das ist ungefähr so als ob ich sagen würde, die Maschine welche die Lotto-Bällchen auswirft ist zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat.

Nein - tut sie natürlich nicht.

Im Gegenteil, sie wurde so konstruiert daß sie garantiert nicht macht, sonst könnte Lotto längst einpacken.

Genau so ist da auch mit Large Language Modellen - das ganze ist ne Blackbox die auschließlich den statistischen Wahrscheinlichkeiten ihrer Trainigsmodelle folgt.

Jetzt kann man natürlich sagen:
Ahaaa! Da haben wir es doch - und wer macht die Trainigsmodelle? Ein Mensch!

Was natürlich stimmt, aber wer würde - um bei dem Eingangsbeispiel zu bleiben - falsche Geburtsdaten oder Nationalitäten irgendwelche Prominenter trainieren? Da schneidet er sich ja ins eigene Fleisch.

Wie bei der Lottomaschine auch, kann eine AI mit schlechtem Training, die nur Blödsinn auswirft ganz schnell einpacken.
Sapere aude - de omnibus dubitandum



Darth Schneider
Beiträge: 21381

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Darth Schneider »

Wartet mal ab bis dann die KIs im grossen Stil mit der Hilfe von Quanten Computern erst richtig lernen zu laufen.
Dann lernt die KI alles noch Mio, mal schneller.
Zu schnell um da irgendwas zu kontrollieren…
Gruss Boris



Frank Glencairn
Beiträge: 25017

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Frank Glencairn »

Is mir egal, bis dahin bin ich längst tot.
Im Mai 2023 stellte der Physiker Wissenschaftsjournalist Michael Brooks in der Fachzeitschrift Nature die Frage: „Quantencomputer: Wozu sind sie gut?“. In dem Artikel zitiert er Winfried K. Hensinger, der fünf Quantencomputer betreibt, mit den Worten: „Sie sind alle schrecklich. Sie können nichts Nützliches tun.“ Der zum Zeitpunkt der Veröffentlichung an der Anzahl der Qubits weltweit größte Quantencomputer, Osprey von IBM, hat 433 Qubits. Selbst mit 2 Millionen Qubits könnten einige Berechnungen in der Quantenchemie ein Jahrhundert dauern, wie ein Preprint[91] zeige. Um die aktuell modernste Kryptografie (2048 Bit RSA) in acht Stunden zu entschlüsseln wären 20 Millionen Qubits erforderlich.[92] Insgesamt sei es noch ein weiter und langer Weg, um mit Quantencomputern über das hinauszugehen, was mit klassischen Computern möglich ist. Auch der Start-up-Szene und ihren Investoren sei klar, dass „es noch viele Jahre dauern wird, bis der Zahltag kommt“. Der kurzfristige Hype sei aber ein bisschen hoch.[93] Im Jahr 2021 zeigte eine Untersuchung, dass klassische (sogar exakte) Algorithmen dem D-Wave 2000Q Quantencomputer (mit 2000 Qbits) überlegen sind, selbst bei Problemen, die genau auf die Architektur des Quantencomputers zugeschnitten sind und ließ Zweifel an der Überlegenheit aufkommen.[94]

Ein weiterer Kritikpunkt bei Quantencomputern ist die ihre hohe Anfälligkeit. Aktuelle Fehlerraten (2021) sind für 1-Qubit-Gatter Größenordnungen von: 0,1 % bzw. 1 Fehler je 1000. Schaltung und für 2-Qubit-Gatter 1 % bzw. 1:100.
Sapere aude - de omnibus dubitandum



pillepalle
Beiträge: 9471

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von pillepalle »

Das ist ja genau das Problem... die Daten mit denen sie gefüttert wird. Manche Modelle funktionieren mit vielen Daten besonders gut, aber die Daten die sich die KI aus dem Internet fischt sind dann eben auch oft Mist. Und die Schwierigkeit besteht darin den Mist herauszusieben, bzw. Mechanismen einzubauen die verläßliche und vorhersehbare Ergebnisse bringen. Wer erinnert sich nicht an die mehr oder weniger frei erfundenen Aussagen die die KI/Chat GTP ausgibt, wenn man sie zu sich selber (aka relativ unbekannten Leuten) befragt.

VG
Das am häufigsten überschätzte Tool am Set ist die Kamera.



Frank Glencairn
Beiträge: 25017

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Frank Glencairn »

Der Fehler den viele machen, ist irgendein LLM als sowas wie die Allwissende Müllhalde oder das Orakel von Delphi zu begreifen.

Das ist wie Wikipedia - kann man schon nutzen, aber man darf sich dabei halt nicht einbilden irgendeinen Anspruch auf absolute Wahrheiten zu haben.

Selbst Denken und notfalls Recherchieren (auch wenn das vielen heute schwer fällt) bleibt weiterhin angesagt.
Sapere aude - de omnibus dubitandum



pillepalle
Beiträge: 9471

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von pillepalle »

@ Frank

Das sowieso :) Ich hatte ja letztes Jahr ja ein Interview mit einer Preisträgerin in Sachen KI-Forschung und deren Mitarbeiter. Und da ging es genau um solche Themen und das die Forschung eben selber vieles noch nicht versteht. Die mathematischen Modelle dahinter sollen 'relativ' simpel sein, aber durch die Größe der Strukturen wird das im manchen Fällen dann eben doch enorm komplex.

VG
Das am häufigsten überschätzte Tool am Set ist die Kamera.



Alex
Beiträge: 1743

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Alex »

Frank Glencairn hat geschrieben: Fr 05 Jan, 2024 14:24 Joa, da kann man bestimmt drüber diskutieren, aber die KI ist trotzdem immer noch zu 100 % menschengemacht und damit tut sie genau(!) das, was der Mensch ihr vorgegeben hat.
Najaaaaaa....Ich weiß, worauf du rauswillst, und ich bin viel zu wenig in der Materie von KI Programmierung (obwohl ich eine Zeit lang als Programmierer Geld verdient habe und privat in gewissem Rahmen immer programmiere).

Aber der Unterschied ist, dass beim Lotto durch die physikalischen Kräfte ein (für Mensch oder Computer) nicht reproduzierbarer Zufall entsteht (da gibts bestimmt Fachbegriffe für).
In Computersystemen, die mit 0 und 1 operieren, ist jeder Schritt, der ausgeführt wird, auf ein Ereignis zurückzuführen, welches auch ausgelesen und reproduziert werden kann. Damit kann man jedes Ereignis analysieren. Nur die Komplexität und die Abhängigkeit von anderen Ereignissen ist dermaßen komplex, dass der Mensch da nicht mehr mitkommt, wo was überhaupt herkommt, das liegt aber an der Größe des Systems. Verkleinert man dieses, wirds wieder einfach(er). Für dieses Problem/Verhalten (über-)komplexer Systeme ist der Mensch verantwortlich, nicht der Computer. Treiber ist wie so oft Gier und das mangelnde Reflektieren über Konsequenzen, wie mit allem, was der Mensch so gern exzessiv betreibt und sich letztlich selbst ins Knie fickt ;-)

Quantencomputer stehen auf einem völlig anderen Blatt und haben meines Wissens nichts mit der KI von der wir (heute) reden zu tun.

Aber nochmal auf den Ursprung des Threads zurückzukommen:
Natürlich kann man keinem Redakteur vorhalten, er solle die KI anders programmieren, um sicherzustellen, dass sie keine fehlerhaften Ergebnisse ausspuckt. Aber er ist dafür verantwortlich, wenn er einen Beitrag veröffentlicht, der mithilfe einer KI erstellt wurde, die fehlerhaften Daten produziert, wer denn sonst? KI ist ein Werkzeug. Wer es nutzt, sollte sich deren Vor- und Nachteile bewusst sein, oder zumindest mit einem Disclaimer warnen.



Frank Glencairn
Beiträge: 25017

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Frank Glencairn »

Alex hat geschrieben: Fr 05 Jan, 2024 14:58
Aber nochmal auf den Ursprung des Threads zurückzukommen:
Natürlich kann man keinem Redakteur vorhalten, er solle die KI anders programmieren, um sicherzustellen, dass sie keine fehlerhaften Ergebnisse ausspuckt. Aber er ist dafür verantwortlich, wenn er einen Beitrag veröffentlicht, der mithilfe einer KI erstellt wurde, die fehlerhaften Daten produziert, wer denn sonst? KI ist ein Werkzeug. Wer es nutzt, sollte sich deren Vor- und Nachteile bewusst sein, oder zumindest mit einem Disclaimer warnen.
Au ja, unter jedem Artikel so ein Warnhinweis wie auf den Verpackungen.

ACHTUNG!
Dieser Artikel wurde maschinell erstellt und kann völligem Blödsinn enthalten, weil wir das nicht nachprüfen.
Glauben auf eigene Gefahr - die Redaktion übernimmt keine Haftung.
Sapere aude - de omnibus dubitandum



Alex
Beiträge: 1743

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Alex »

Frank Glencairn hat geschrieben: Fr 05 Jan, 2024 15:04 Au ja, unter jedem Artikel so ein Warnhinweis wie auf den Verpackungen.

ACHTUNG!
Dieser Artikel wurde maschinell erstellt und kann völligem Blödsinn enthalten, weil wir das nicht nachprüfen.
Glauben auf eigene Gefahr - die Redaktion übernimmt keine Haftung.
Da KI ja auf jeden Fall eingesetzt wird, würde ich es zwar anders formulieren, aber einen Hinweis fände ich schon angebracht, oder haste ne bessere Idee?



Frank Glencairn
Beiträge: 25017

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von Frank Glencairn »

Alex hat geschrieben: Fr 05 Jan, 2024 15:58 .. oder haste ne bessere Idee?
Nein, wie schon gesagt fände ich das wirklich gut.
Sapere aude - de omnibus dubitandum



dienstag_01
Beiträge: 13877

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von dienstag_01 »

pillepalle hat geschrieben: Fr 05 Jan, 2024 14:57 @ Frank

Das sowieso :) Ich hatte ja letztes Jahr ja ein Interview mit einer Preisträgerin in Sachen KI-Forschung und deren Mitarbeiter. Und da ging es genau um solche Themen und das die Forschung eben selber vieles noch nicht versteht. Die mathematischen Modelle dahinter sollen 'relativ' simpel sein, aber durch die Größe der Strukturen wird das im manchen Fällen dann eben doch enorm komplex.

VG
Hast du die Fragen gestellt?



pillepalle
Beiträge: 9471

Re: Ethische Überlegungen zu KI im Newsroom

Beitrag von pillepalle »

@ dienstag

Nee. Ich hatte schon genug mit Kamera, Licht und Ton zu tun :) Aber ich habe sie auch geschnitten und wir hatten viel Zeit mit denen zu Quatschen, waren mit denen Essen, B-Roll aufzunehmen usw. Im Serverraum vom KI-Zentrum Schrankreihen voller Server... höllenlaut. Da versteht man sein eigenes Wort kaum. Hatte spaßeshalber auch mal gefragt ob die HDDs oder SSDs nutzen und die Antwort war ca. 50/50... weiß nicht mehr wieviele Petabyte.

VG
Das am häufigsten überschätzte Tool am Set ist die Kamera.



 Aktuelle Beiträge [alle Foren]
 
» ARRI ALEXA 35 Sensor-Bildqualität, Rolling Shutter, Dynamik - Die neue Referenz?
von iasi - Fr 0:50
» Was hörst Du gerade?
von roki100 - Do 23:13
» Canon stellt Hybrid-Objektive RF 70-200mm F2.8, 50mm F1.4 und 24mm F1.4 vor
von BildTon - Do 21:31
» Blackmagic PYXIS 6K - Sensortest - Rolling Shutter und Dynamik
von Darth Schneider - Do 21:00
» Panasonic kündigt 4K-Camcorder HC-VX3 und Full-HD 2K-Camcorder HC-V900 an
von Skeptiker - Do 19:59
» Abschalttermin der TV Stationen bekannt - 1.1.2033
von DKPost - Do 19:02
» Was schaust Du gerade?
von Darth Schneider - Do 18:26
» Neue Apple MacBook Pros mit M4 und bis zu 128 GB Arbeitsspeicher und 8 TB SSD
von Rick SSon - Do 18:08
» UWE BOLL - Filme machen ohne Kompromisse
von Nigma1313 - Do 14:42
» Sennheiser Profile Wireless - kompaktes Mikrofonsystem vorgestellt
von j.t.jefferson - Do 13:50
» Nikon kündigt Entwicklung von Powerzoom Nikkor 28-135mm f/4 PZ für Video an
von GaToR-BN - Do 12:49
» Neuer Mac mini mit M4-Chip: Kleiner, aber ab 699 Euro nicht günstiger
von vaio - Do 12:45
» DCP Format 1998 x 1080 mit 24 Frames
von vaio - Do 12:06
» Probleme mit Media Encoder aus After Effects
von maiurb - Do 11:15
» Video Trends 2024: Ergebnisse kompakt
von Frank Glencairn - Do 10:04
» Förderung Filmerbe an 86 Projekte vergeben
von ruessel - Do 9:12
» Frage zu Mini-DV-Camcordern Panasonic NV-DX100 und JVC GR-VF10
von Jörg - Mi 22:28
» Günstiger Production Monitor
von Jörg - Mi 22:04
» FCP 11
von R S K - Mi 20:33
» Einzelbild Import Problem in Premiere Pro
von dienstag_01 - Mi 18:05
» Macbook's mit M4 bereits ebenfalls vorbestellbar?
von rush - Mi 16:53
» iMac mit M4-Chip: Jetzt minimal 16 GB RAM, schneller und zugleich günstiger
von Bildlauf - Mi 14:17
» Untertitel zeigt Umlaute und Sonderzeichen falsch an...
von Bluboy - Mi 11:02
» DJI O4 Air Unit kommt im November mit besserer Kamera
von rush - Mi 10:56
» Neue DJI Googles N3 für FPV-Drohnenflug sollen nur 269 Euro kosten
von rush - Mi 10:55
» Neues Nikkor Z 28-135mm f/4 PZ angekündigt
von pillepalle - Mi 6:54
» Linsen (Vintage, Anamorphic & Co.)
von pillepalle - Mi 3:13
» Hi8 / Digital8
von Bruno Peter - Di 19:04
» Fragen wegen Analoge Video Digitalusierung
von Rusco - Di 17:49
» Erfahrungen mit Trailerhaus als Arbeitgeber
von Chanti-Andy_76 - Di 17:43
» Sony veröffentlicht neue Version des Remote-Toolkits samt Camera Remote Command
von slashCAM - Di 12:39
» Über 28.500 Künstler unterschreiben Statement gegen ungeregeltes KI-Training
von -paleface- - Di 12:38
» Vermeide Final Cut, wenn dir dein Audio wichtig ist
von pixelschubser2006 - Di 9:44
» Neue Fujifilm X-M5 filmt in 6.2K, kostet ab 899 Euro
von roki100 - Mo 20:46
» Serie: Zu Fuß über die Alpen
von manfred52 - Mo 19:37