slashCAM
Administrator
Administrator
Beiträge: 11262

KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von slashCAM »


Das vor kurzem veröffentlichte Statement on AI Risk vom Center for AI Study hat für viel Diskussion gesorgt – auch im mittlerweile 254 Kommentare fassenden slashCAM AI-...
Bild
Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation



sixxteen
Beiträge: 2

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von sixxteen »

Skynet lässt grüßen ...



-paleface-
Beiträge: 4253

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von -paleface- »

Da gibt es extra die 3 Roboter Gesetzte....aber die bringen natürlich nichts wenn das Ding dafür da ist Menschen zu töten.
www.mse-film.de | Kurzfilme & Videoclips

www.daszeichen.de | Filmproduktion & Postproduktion



macaw
Beiträge: 857

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von macaw »

-paleface- hat geschrieben: Fr 02 Jun, 2023 13:39 Da gibt es extra die 3 Roboter Gesetzte....aber die bringen natürlich nichts wenn das Ding dafür da ist Menschen zu töten.
Es ist ohnehin schwierig wie das z.B. mit GPT mal losging. Da wurden ja mal rassistische Tendenzen sichtbar, weil es auf Material trainiert wurde, wo diese Strömungen vermehrt mit dabei waren. Allerdings ist insgesamt die Frage, ab wann eine KI überhaupt noch sinnvoll nutzbar ist, wenn es immer mehr Ausnahmen, Limitierungen und widersprüchliche Anweisungen im System gibt - am schlimmsten, wie von Dir gesagt, wenn es jemanden töten soll, aber unter anderen Umständen auch nicht bzw. nur dann, wenn bestimmte Voraussetzungen bestehen. Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.



markusG
Beiträge: 3830

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von markusG »

macaw hat geschrieben: Fr 02 Jun, 2023 14:03 Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.
Ist das denn bei rein menschlichen Entscheidungsträgern anders?



macaw
Beiträge: 857

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von macaw »

markusG hat geschrieben: Fr 02 Jun, 2023 14:19
macaw hat geschrieben: Fr 02 Jun, 2023 14:03 Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.
Ist das denn bei rein menschlichen Entscheidungsträgern anders?
Ich hoffe doch.
Aber ich spreche auch aus Erfahrung, z.B. habe ich erlebt, daß sich ChatGPT bspw. Worte ausgedacht hatte, um einen Reim zu bilden - das ist ja erstmal amüsant, dann las ich, daß ein Anwalt via GPT ähnliche Urteile zu seinem aktuellen Fall gesucht hatte und dann fiktive Fälle erhielt, inkl. Aktenzeichen. In beiden Fällen würde ein normaler Mensch i.d.R. sagen: Sorry, ich passe. Ein Computer müsste das doch erst recht können, vor allem dann, wenn da immer lang und breit erklärt wird, was GPT alles nicht tut und tun kann. Und bei solchen Maschinen wäre es doch der Super GAU wenn die Maschine nicht nur einfach macht was sie will um das Ziel zu erreichen, sondern bei Fehlen von Daten einfach völlig zufällige Aktionen durchführt.



Darth Schneider
Beiträge: 16708

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von Darth Schneider »

So viele, egoistische, machtgeile Idioten sind sehr erfolgreiche Politiker.
Womöglich wäre es Besser und friedlicher auf unserer Welt wenn diese in Zukunft durch eine KI ersetzt werden würden..
Gruss Boris



abartfilms
Beiträge: 4

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von abartfilms »

Die Geschichte scheint wohl so nie passiert zu sein.

https://www.heise.de/news/Simulation-KI ... 62641.html

"Nach einer großen Zahl von Medienberichten hat die Royal Aeronautical Society inzwischen eine Klarstellung veröffentlicht und zitiert Hamilton mit dem Eingeständnis, sich "falsch ausgedrückt" zu haben. Bei der "Simulation einer außer Kontrolle geratenen KI-Drohne" habe es sich lediglich um ein "hypothetisches Gedankenexperiment" gehandelt, das von außerhalb der Basis stammte. Das habe aber auf "plausiblen Szenarien" und "wahrscheinlichen Resultaten" beruht: "Wir haben das Experiment nicht durchgeführt und müssten es auch nicht, um zum Schluss zu kommen, dass es plausibel ist", meint Hamilton demnach. Die US-Luftwaffe habe solch eine bewaffnete KI weder in der Realität noch in einer Simulation getestet. Trotzdem habe er darauf bestanden, dass das hypothetische Beispiele reale Gefahren aufzeige. Der Anfang der Meldung wurde entsprechend korrigiert, der Rest weitgehend beibehalten."



 Aktuelle Beiträge [alle Foren]
 
» Erfahrungen mit Spammern
von Bildlauf - Mi 12:26
» Panasonic S5II und S5IIX Firmware-Updates mit verbesserter V-Log Qualität, Upgrade Key u.a. verfügbar
von Bildlauf - Mi 11:34
» Nikon stellt mit Nikkor Z 135 mm f/1.8 S Plena das „perfekte Bokeh-Objektiv“ vor
von slashCAM - Mi 11:03
» Blackmagic Cinema Camera 6K mit Vollformat und L-Mount vorgestellt für 2.805 Euro
von Skeptiker - Mi 10:51
» Empfehlung Software zur Datenübertragung Firewire?
von Skeptiker - Mi 10:48
» Blokbuster auf FX3 gedreht?
von iasi - Mi 9:07
» Hollywood steht still: Schauspieler streiken - auch aus Angst vor KIs
von Alex - Mi 8:51
» AI-Diskussionsthread - Pro/Kontra?
von Frank Glencairn - Mi 7:55
» Berlin
von Bildlauf - Di 23:23
» Last Call - Endspurt! Der Nikon RAW Grading Wettbewerb endet am 27. September 2023 um 21h!
von iasi - Di 22:57
» Google Pixel 8 (Pro) - Neue Stufe der "computational" Videografie durch KI?
von iasi - Di 22:30
» Wie viel bringt S-Cinetone ggü. sLog3 und Rec709 8 Bit?
von Axel - Di 22:21
» Air3 - Einmal Vollgas bitte!
von Frank Glencairn - Di 21:40
» Was schaust Du gerade?
von Frank Glencairn - Di 20:51
» MYST kommt als Neuauflage!
von klusterdegenerierung - Di 20:29
» DJI Mini 4 Pro im Praxistest: 4K 10 Bit 50p, D-Log M und Active Track - Einstieg auch für Pros?
von klusterdegenerierung - Di 20:28
» Kompaktkamera vs iPhone (12)
von cantsin - Di 20:26
» DJI Mini 4 Pro vorgestellt mit 4K 10bit, 100fps, OcuSync 4.0 und mehr
von Darth Schneider - Di 16:54
» Blackmagic: Neue DeckLink 8K Pro Mini und Video Assist Update für Fujifilm GFX100 II
von MrMeeseeks - Di 15:29
» Videoclip: AJA Kona X High Performance I/O Board + HDR Image Analyzer erklärt
von slashCAM - Di 14:15
» Premiere Pro, After Effects und Frame.io - Mehr KI, 3D-Workspace und AWS-Cloud
von MK - Di 12:57
» Adobe Media Encoder - Color/Gamma-Shift
von Alex - Di 12:33
» Final Cut Pro für iPad in der Praxis: Der beste Videoeditor für Tablet?
von Axel - Di 12:09
» Was hast Du zuletzt gekauft?
von Alex - Di 8:49
» Deity Theos Funkstrecke mit 32Bit Float Backup-Recording vorgestellt
von pillepalle - Di 5:17
» Motor Smart: Intelligenter AutoFocus-Motor von PDMovie nutzt LiDAR und KI
von roki100 - Mo 18:35
» DJI Air3 - lohnt der Wechsel?
von klusterdegenerierung - Mo 17:36
» Apple stellt Flaggschiff iPhone 15 Pro Lineup mit 3 nm CPU, ACES, externem ProRes Recording, neuem LOG uvm. vor
von Frank Glencairn - Mo 12:24
» Asus ProArt Display PA32UCXR - Kolorimeter eingebaut
von markusG - Mo 11:54
» Accsoon CineView Nano - drahtlose Vorschau/Aufnahme auf Smartphones/Tablets
von roki100 - Mo 9:47
» Linsen (Vintage, Anamorphic & Co.)
von roki100 - Mo 8:09
» Tempelhof
von klusterdegenerierung - Mo 8:02
» Was hörst Du gerade?
von Funless - So 21:12
» Sony FX3 und FX30: Neue Firmware bringt DCI 4K, echtes 24p und mehr
von Frank Glencairn - So 19:05
» slashCAM präsentiert: Nikon RAW Grading-Wettbewerb - Nikon Z 8 zu gewinnen!
von Darth Schneider - So 17:07
 
neuester Artikel
 
DJI Mini 4 Pro im Praxistest

Mit der neuen Mini 4 Pro rückt DJI seine kompakte und führerscheinfreie Drohne ein ganzes Stück weiter Richtung Pro: Mit 4K 10 Bit 50/60p Aufnahme, D-Log M, ActiveTrack und jetzt auch omnidirektionaler Hinderniserkennung hat DJI an vielen Schrauben gedreht, die für hochwertigere Drohnenaufnahmen als Voraussetzung gelten. Wieviel Pro steckt also in der neuen DJI Mini 4 Pro? Hier unsere ersten Eindrücke und Testaufnahmen weiterlesen>>