slashCAM
Administrator
Administrator
Beiträge: 11279

KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von slashCAM »


Das vor kurzem veröffentlichte Statement on AI Risk vom Center for AI Study hat für viel Diskussion gesorgt – auch im mittlerweile 254 Kommentare fassenden slashCAM AI-...
Bild
Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation



sixxteen
Beiträge: 2

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von sixxteen »

Skynet lässt grüßen ...



-paleface-
Beiträge: 4644

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von -paleface- »

Da gibt es extra die 3 Roboter Gesetzte....aber die bringen natürlich nichts wenn das Ding dafür da ist Menschen zu töten.
www.mse-film.de | Kurzfilme & Videoclips

www.daszeichen.de | Filmproduktion & Postproduktion



macaw

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von macaw »

-paleface- hat geschrieben: Fr 02 Jun, 2023 13:39 Da gibt es extra die 3 Roboter Gesetzte....aber die bringen natürlich nichts wenn das Ding dafür da ist Menschen zu töten.
Es ist ohnehin schwierig wie das z.B. mit GPT mal losging. Da wurden ja mal rassistische Tendenzen sichtbar, weil es auf Material trainiert wurde, wo diese Strömungen vermehrt mit dabei waren. Allerdings ist insgesamt die Frage, ab wann eine KI überhaupt noch sinnvoll nutzbar ist, wenn es immer mehr Ausnahmen, Limitierungen und widersprüchliche Anweisungen im System gibt - am schlimmsten, wie von Dir gesagt, wenn es jemanden töten soll, aber unter anderen Umständen auch nicht bzw. nur dann, wenn bestimmte Voraussetzungen bestehen. Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.



markusG
Beiträge: 5225

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von markusG »

macaw hat geschrieben: Fr 02 Jun, 2023 14:03 Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.
Ist das denn bei rein menschlichen Entscheidungsträgern anders?



macaw

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von macaw »

markusG hat geschrieben: Fr 02 Jun, 2023 14:19
macaw hat geschrieben: Fr 02 Jun, 2023 14:03 Ich glaube das ist Irrsinn. Wenn GPT sich Quatsch ausdenkt wo es keine Infos besitzt, also quasi interpoliert, sind mitunter gravierende Unfälle nicht nur nicht auszuschließen, sondern sogar mit ihnen zu rechnen.
Ist das denn bei rein menschlichen Entscheidungsträgern anders?
Ich hoffe doch.
Aber ich spreche auch aus Erfahrung, z.B. habe ich erlebt, daß sich ChatGPT bspw. Worte ausgedacht hatte, um einen Reim zu bilden - das ist ja erstmal amüsant, dann las ich, daß ein Anwalt via GPT ähnliche Urteile zu seinem aktuellen Fall gesucht hatte und dann fiktive Fälle erhielt, inkl. Aktenzeichen. In beiden Fällen würde ein normaler Mensch i.d.R. sagen: Sorry, ich passe. Ein Computer müsste das doch erst recht können, vor allem dann, wenn da immer lang und breit erklärt wird, was GPT alles nicht tut und tun kann. Und bei solchen Maschinen wäre es doch der Super GAU wenn die Maschine nicht nur einfach macht was sie will um das Ziel zu erreichen, sondern bei Fehlen von Daten einfach völlig zufällige Aktionen durchführt.



Darth Schneider
Beiträge: 25747

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von Darth Schneider »

So viele, egoistische, machtgeile Idioten sind sehr erfolgreiche Politiker.
Womöglich wäre es Besser und friedlicher auf unserer Welt wenn diese in Zukunft durch eine KI ersetzt werden würden..
Gruss Boris



abartfilms
Beiträge: 4

Re: KI-Drohne des US Militärs tötet Operator, um effektiver töten zu können - in Simulation

Beitrag von abartfilms »

Die Geschichte scheint wohl so nie passiert zu sein.

https://www.heise.de/news/Simulation-KI ... 62641.html

"Nach einer großen Zahl von Medienberichten hat die Royal Aeronautical Society inzwischen eine Klarstellung veröffentlicht und zitiert Hamilton mit dem Eingeständnis, sich "falsch ausgedrückt" zu haben. Bei der "Simulation einer außer Kontrolle geratenen KI-Drohne" habe es sich lediglich um ein "hypothetisches Gedankenexperiment" gehandelt, das von außerhalb der Basis stammte. Das habe aber auf "plausiblen Szenarien" und "wahrscheinlichen Resultaten" beruht: "Wir haben das Experiment nicht durchgeführt und müssten es auch nicht, um zum Schluss zu kommen, dass es plausibel ist", meint Hamilton demnach. Die US-Luftwaffe habe solch eine bewaffnete KI weder in der Realität noch in einer Simulation getestet. Trotzdem habe er darauf bestanden, dass das hypothetische Beispiele reale Gefahren aufzeige. Der Anfang der Meldung wurde entsprechend korrigiert, der Rest weitgehend beibehalten."



 Aktuelle Beiträge [alle Foren]
 
» Audacity 4 steht in den Startlöchern - Alpha-Version ab November
von slashCAM - Mi 14:33
» Amazon Prime Deal Days - ausgewählte Schnäppchen für Video, Foto & Co.
von teichomad - Mi 13:30
» NIKKOR Z 24-70mm f/2.8 S II - leichter, schnellerer Autofokus, Innenzoom
von roki100 - Di 20:48
» Blackmagic PYXIS 6K EF aktuell unter 2.000 Euro erhältlich
von ChrisDiCesare - Di 20:30
» Blackmagic unterstützt Apple ProRes RAW - nicht nur in Resolve
von R S K - Di 12:48
» iPhone 17 Pro: ProRes RAW, Genlock, Apple Log 2 und Blackmagic ProDock für Filmer
von R S K - Di 11:48
» Der nächste Schlag für die Filmindustrie
von cantsin - Di 1:01
» Manfrotto 1005BAC Lichstativ Luftfederung Defekt/Review
von elephantastic - Mo 18:44
» Vergleich Fujinon MK 18-55 und Zeiss CZ.2 28-80
von Pianist - Mo 15:45
» Neue KI-Plugins für DaVinci Resolve sollen helfen beim Videoschnitt und HDR
von MarcusG - Mo 12:42
» Verkaufe ARRI SkyPanel S120-C – Top Zustand, wenige Gebrauchsspuren
von zeitraumfilm - Mo 11:51
» Panasonic S5 - Allgemeine Fragen, Tipps und Tricks, Zeig deine Bilder/Videos usw.
von roki100 - So 23:20
» Z CAM E2-M4 Mark II 4K Sensor-Bildqualität - Debayering, Rolling Shutter und Dynamik
von Rick SSon - So 19:26
» Es ist soweit... (Sora 2)
von Blackbox - So 17:44
» Sony CCD-TR 750 E Hi8 Kondensatoren tauschen
von AndreasPottert - So 16:28
» Italien: Mindestens 1 Jahre Gefängnis für Deepfakes ohne Einwilligung
von Roland v Strand - So 16:22
» Grundlagen: Einfach erklärt: Der CMOS-Bildwandler und seine Sensel
von Walter Schulz - So 16:06
» Zoom Instamic Pro Plus C - Ultrakompakter 32 Bit Float Audio Recorder mit Timecode
von cantsin - So 15:14
» Photoshop / Premiere unter Linux
von ruessel - So 10:01
» Canva kauft Serif (bereits im März 2024)
von cantsin - Sa 22:53
» Leben und Sterben im blutroten Storchschnabel
von Motivsucher - Sa 22:22
» Nexus G1 - Blackmagic Pocket Cinema Camera 6K im Carbon Cine-Gehäuse
von freezer - Sa 16:28
» Impressumspflicht -》aktuelle regelungen und lösungen
von walang_sinuman - Sa 12:07
» Wise Advanced bringt neue schnelle USB4-SSDs für Schnittplatz und Kamera
von slashCAM - Sa 10:24
» Neue Interviews!
von Nigma1313 - Fr 23:08
» OpenAI zeigt Sora 2: Neuer KI-Videogenerator setzt auf Ton und persönliche Avatare
von iasi - Fr 19:35
» LG UltraFine 32U990A - erster 6K Monitor mit Thunderbolt 5
von rush - Fr 16:54
» Z-Cam Firmware 1.0.6 und 1.0.7 funktionieren nicht
von Clemens Schiesko - Fr 12:44
» RIP: Renato Casaro
von ruessel - Fr 10:04
» Praxistest: DaVinci Resolve 20
von ruessel - Fr 9:46
» Slashcam Interviewsetup im Test: Sony FX2, iPhone Pro Max, Blackmagic Cloud, Nanlite PICO
von rob - Fr 8:22
» NVIDIA RTX 50 SUPER: Voraussichtliches Release erst Frühjahr 2026 – Lohnt das Warten?
von blindcat - Fr 7:26
» Alien: Romulus - Teaser Trailer online - produziert von Ridley Scott, gedreht auf Alexa 35
von iasi - Do 20:50
» Suche Unterstützung für die Bedienung von Hard- & Software ...
von Onfire - Do 15:17
» Reparaturservice für JVC HR-S9600
von 1pjladd2 - Do 14:45