slashCAM
Administrator
Administrator
Beiträge: 11262

KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von slashCAM »


Das vor kurzem veröffentlichte Statement on AI Risk vom Center for AI Study hat für viel Diskussion gesorgt – auch im mittlerweile 254 Kommentare fassenden slashCAM AI-...
Bild
Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation



sixxteen
Beiträge: 2

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von sixxteen »

Skynet lässt grüßen ...



-paleface-
Beiträge: 4396

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von -paleface- »

Da gibt es extra die 3 Roboter Gesetzte....aber die bringen natürlich nichts wenn das Ding dafür da ist Menschen zu töten.
www.mse-film.de | Kurzfilme & Videoclips

www.daszeichen.de | Filmproduktion & Postproduktion



macaw
Beiträge: 1076

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von macaw »

-paleface- hat geschrieben: Fr 02 Jun, 2023 13:39 Da gibt es extra die 3 Roboter Gesetzte....aber die bringen natürlich nichts wenn das Ding dafür da ist Menschen zu töten.
Es ist ohnehin schwierig wie das z.B. mit GPT mal losging. Da wurden ja mal rassistische Tendenzen sichtbar, weil es auf Material trainiert wurde, wo diese Strömungen vermehrt mit dabei waren. Allerdings ist insgesamt die Frage, ab wann eine KI überhaupt noch sinnvoll nutzbar ist, wenn es immer mehr Ausnahmen, Limitierungen und widersprüchliche Anweisungen im System gibt - am schlimmsten, wie von Dir gesagt, wenn es jemanden töten soll, aber unter anderen Umständen auch nicht bzw. nur dann, wenn bestimmte Voraussetzungen bestehen. Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.



markusG
Beiträge: 4265

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von markusG »

macaw hat geschrieben: Fr 02 Jun, 2023 14:03 Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.
Ist das denn bei rein menschlichen Entscheidungsträgern anders?



macaw
Beiträge: 1076

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von macaw »

markusG hat geschrieben: Fr 02 Jun, 2023 14:19
macaw hat geschrieben: Fr 02 Jun, 2023 14:03 Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.
Ist das denn bei rein menschlichen Entscheidungsträgern anders?
Ich hoffe doch.
Aber ich spreche auch aus Erfahrung, z.B. habe ich erlebt, daß sich ChatGPT bspw. Worte ausgedacht hatte, um einen Reim zu bilden - das ist ja erstmal amüsant, dann las ich, daß ein Anwalt via GPT ähnliche Urteile zu seinem aktuellen Fall gesucht hatte und dann fiktive Fälle erhielt, inkl. Aktenzeichen. In beiden Fällen würde ein normaler Mensch i.d.R. sagen: Sorry, ich passe. Ein Computer müsste das doch erst recht können, vor allem dann, wenn da immer lang und breit erklärt wird, was GPT alles nicht tut und tun kann. Und bei solchen Maschinen wäre es doch der Super GAU wenn die Maschine nicht nur einfach macht was sie will um das Ziel zu erreichen, sondern bei Fehlen von Daten einfach völlig zufällige Aktionen durchführt.



Darth Schneider
Beiträge: 18783

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von Darth Schneider »

So viele, egoistische, machtgeile Idioten sind sehr erfolgreiche Politiker.
Womöglich wäre es Besser und friedlicher auf unserer Welt wenn diese in Zukunft durch eine KI ersetzt werden würden..
Gruss Boris



abartfilms
Beiträge: 4

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von abartfilms »

Die Geschichte scheint wohl so nie passiert zu sein.

https://www.heise.de/news/Simulation-KI ... 62641.html

"Nach einer großen Zahl von Medienberichten hat die Royal Aeronautical Society inzwischen eine Klarstellung veröffentlicht und zitiert Hamilton mit dem Eingeständnis, sich "falsch ausgedrückt" zu haben. Bei der "Simulation einer außer Kontrolle geratenen KI-Drohne" habe es sich lediglich um ein "hypothetisches Gedankenexperiment" gehandelt, das von außerhalb der Basis stammte. Das habe aber auf "plausiblen Szenarien" und "wahrscheinlichen Resultaten" beruht: "Wir haben das Experiment nicht durchgeführt und müssten es auch nicht, um zum Schluss zu kommen, dass es plausibel ist", meint Hamilton demnach. Die US-Luftwaffe habe solch eine bewaffnete KI weder in der Realität noch in einer Simulation getestet. Trotzdem habe er darauf bestanden, dass das hypothetische Beispiele reale Gefahren aufzeige. Der Anfang der Meldung wurde entsprechend korrigiert, der Rest weitgehend beibehalten."



 Aktuelle Beiträge [alle Foren]
 
» DUNE !
von iasi - So 23:57
» Laowa: Nanomorph Zoom auf Indiegogo - erste erschwingliche, anamorphotische Zooms?
von Funless - So 23:18
» Zu verkaufen Viltrox 56mm 1.4 Viltrox 85mm 1.8 MKII Fuji X mount
von Jörg - So 22:47
» Was hörst Du gerade?
von klusterdegenerierung - So 22:39
» Was schaust Du gerade?
von klusterdegenerierung - So 21:58
» Kostenlose Motion Cam App ermöglicht erstmals CinemaDNG RAW-Videoaufnahme auf Smartphones
von cantsin - So 20:35
» LTX Studio - sieht so das KI-Filmstudio der Zukunft aus?
von Jalue - So 19:04
» Cine-Festbrennweiten 2024
von Pianist - So 15:25
» 7artisans - 24-96mm S35 CineZoom
von cantsin - So 15:25
» FPV-Racing-Drohne beschleunigt von 100 auf 300 km/h in 2s
von rush - So 12:12
» Aftermovie Basketball Pokal Halbfinals
von Christian 671 - Sa 21:10
» Canon Fish Eye Lens FD 15mm 1:2.8 (1985)
von StanleyK2 - Sa 21:01
» EasyRig Umbau für Kong Frog Karabiner
von Alex - Sa 20:21
» OpenAI Sora - das ist der KI-Video Gamechanger!
von Jalue - Sa 19:13
» Geleakte Fotos? Stellt DJI eine Cinema Kamera zur NAB 2024 vor?
von klusterdegenerierung - Sa 19:09
» Sony Burano in Berlin vorgestellt
von klusterdegenerierung - Sa 19:08
» JVC digitaler und Mini DV Camcorder GR-DVL357E Probleme SD Karte und AV-Kabel
von Bauncam - Sa 17:35
» 2,50€ practical light
von klusterdegenerierung - Sa 10:01
» Kameras und Optiken bei den Filmen der Academy Awards
von Frank Glencairn - Sa 8:14
» Intel Arc 770 Grafikkarte in der Videobearbeitung unter Davinci Resolve
von Frank Glencairn - Sa 0:15
» Geringe Schärfentiefe auch mit Camcorder möglich?
von Skeptiker - Fr 23:53
» Nach 7 Jahren mit der OG BMPCC finde ich das Bild noch immer schön.
von roki100 - Fr 22:23
» Neue 3D-DVD soll 200 TB Speicherplatz bieten
von Tscheckoff - Fr 19:50
» Fünf neue SP3 Vollformat-Cineprimes von Cooke - 25mm, 32mm, 50mm, 75mm und 100mm
von Pianist - Fr 18:13
» Adobe arbeitet an KI-Tool zum Generieren und Editieren von Musik
von slashCAM - Fr 17:21
» Licht how to:
von Frank Glencairn - Fr 16:52
» Was hast Du zuletzt gekauft?
von StanleyK2 - Fr 15:19
» FX3 Monitor Plus App und Xiaomi Handy...klappt nicht?!
von Alex - Fr 15:11
» Samsung bringt erste 256GB SD Express microSD-Karte mit SSD-Performance
von GaToR-BN - Fr 13:18
» Manfrotto Platten: Welche brauche ich für Slider und Kamera?
von beiti - Fr 9:22
» Bühnenschauspieler erhalten Inflationsausgleich 200,- mehr Gage
von ruessel - Fr 8:31
» Machtmissbrauch bei Theater und Film
von Darth Schneider - Do 20:25
» Premiere Pro 23 läuft, 24 nicht (mehr)
von DKPost - Do 19:09
» 2024 - Videolicht für Vor-Ort-Aufträge
von Darth Schneider - Do 18:44
» EMO - KI lässt Portraits sprechen und singen
von slashCAM - Do 15:06