KI Forum



KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen



Alles rund um KIs (DeepLearning), Algorithmen für spezielle Effekte, zur Generierung von Bildern und Videos und mehr
Antworten
slashCAM
Administrator
Administrator
Beiträge: 11279

KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von slashCAM »


Befürchtet war es ja schon länger - jetzt ist es so weit: Die ersten Telefontrickbetrüger nutzen Stimmen-KIs, um alte Menschen durch einen vorgeblichen Notfall eines ihre...
Bild
Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen



dienstag_01
Beiträge: 14522

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von dienstag_01 »

Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.



medienonkel
Beiträge: 956

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von medienonkel »

Das ist der perfide Trick der KI.
Für universelle Verunsicherung sorgen und dann den nötigen Schutz verkaufen.

Genauso, wie es Viren in der IT nur gibt, um Virensoftware zu verkaufen, die sich wiederum oft wie ein Virus aufführt.



Darth Schneider
Beiträge: 24796

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Darth Schneider »

Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris



hheditor
Beiträge: 16

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von hheditor »

dienstag_01 hat geschrieben: Do 09 Mär, 2023 13:44 Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.
Sehr lustig und sehr konsequent 😂



Sammy D
Beiträge: 2270

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Sammy D »

Darth Schneider hat geschrieben: Do 09 Mär, 2023 15:11 Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

Es geht um alte Menschen, die einfach nicht mehr die geistige Kompetenz haben, um sich gegen den enormen psychischen Druck, den die Scammer aufbauen, zu wehren.
Zudem sind unter den Opfern oft auch Menschen mit Demenz, bei denen sie leichtes Spiel haben.


Im Router meiner Eltern habe ich bereits über 100 Scam-Nummern gesperrt. Mein Vater ist dement und ein willkommenes Opfer.
Vermeintliche Anrufe von Investmentfirmen, Glücksspiele und sonstige Verkauf-Drückerkolonnen.

Er hatte bisher: eine Solaranlage gekauft, „Fonds und Aktien“, einige Abos abegschlossen und einen 5-Jahres-Vertrag für „Delicatessen“ aus Italien zum vier-fachen Marktpreis.
Zum Glück konnte ich alles rechtzeitig rückgängig machen. „Schaden“ ist nur in einigen Fällen durch die Selbstbeteiligungspauschale der Rechtsversicherung entstanden.
Die Anrufe werden mittlerweile auf mein Handy umgeleitet.

Bleiben nur noch die Drücker, die an die Haustür kommen. Meine Mutter kann es meistens verhindern, kam aber auch schon vor, dass „Bettler“ in der Haustür standen und Druck machten, Geld herauszurücken. Die Polizei kann nichts machen, solange nichts passiert. 🤷🏻‍♂️

Wenn KI irgendwann mal Bairisch kann, wirds gefährlich. 😂



berlin123
Beiträge: 1270

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von berlin123 »

Scary. Aber es gibt kein Zurück mehr. Die Enkeltrick Mafia macht ja schon länger enorme Gewinne. Das wird sicher erstmal massiv zunehmen. Wie im Artikel besprochen eröffnen sich ja ganz neue Möglichkeiten auch bei anderen Zielgruppen als Senioren.

Wir werden ein neues Bewusstsein aufbauen dass keine Stimme und kein Video mehr die Wahrheit widerspiegelt, solange es nicht glaubhaft verifizierbar ist.

Wahrscheinlich werden sich auch für Telefongespräche Mechanismen der Verifizierung etablieren wie 2 Faktor Authentifizierung. Zuerst im geschäftlichen Bereich und dann in der breiten Gesellschaft.

Bei Apple und Co sitzen wahrscheinlich schon teams daran um in 1 o. 2 Jahren "Secure Call", "Trusted Voice", oder welchen Titel immer sich das Marketing ausdenkt, als neues iPhone Feature zu präsentieren.



teichomad
Beiträge: 435

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von teichomad »

telefonbanking lol



Cinemator
Beiträge: 977

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Cinemator »

Wer bei audio-basierten Social-Network-Apps mitdiskutiert, sollte sich schon Gedanken machen...



Frank Glencairn
Beiträge: 26509

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Frank Glencairn »

Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.
Sapere aude - de omnibus dubitandum



medienonkel
Beiträge: 956

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von medienonkel »

Frank Glencairn hat geschrieben: Do 09 Mär, 2023 17:42 Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.
Gute Frage.
Ist aber gut möglich, dass das in Echtzeit funktioniert. Ist ja nur text to speech.
Denke ich mal.

Und zusätzlich kommt noch dazu, dass da einerseits ein gestresster Rezipient auf einen schwer verletzten/vor dem Schafott stehenden Sohnemann trifft.
Andererseits schaltet sich dann ganz schnell der vermittelnde Arzt/Anwalt dazwischen... Während im Hintergrund eine vertraute Stimme wimmert.
Dann noch ein hektischer Soundteppich dazu.

Och, das klappt schon.



MK
Beiträge: 4426

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von MK »

Wahrscheinlich kam in den genannten Fällen sowieso keine KI zum Einsatz.

Die Eltern wollten nicht zugeben die Stimme des Sohnes falsch erkannt zu haben, und die Bank schwafelt einfach: "Voice ID vergleicht mehr Merkmale in Ihrer Stimme, als das menschliche Ohr wahrnehmen kann" - Bei Nicht-HD Telefonie geht der Frequenzbereich auch heute noch bis etwas über 3 kHz und bei HD bis ca. 7 kHz... das Voice-ID System kann da gar nicht so pingelig sein.

Und auf den Tochter- Sohn- Enkeltrick sind die Leute schon früher reingefallen.

Wenn dann die Fake-Polizei von der 110 als Anrufernummer angerufen hat gehören sowieso die Telefonanbieter die das technisch ermöglichen in Regress genommen.

Da müsste man mal technisch ansetzen das zu unterbinden, und natürlich jedem einschärfen in solchen und anderen Fällen immer selbst bei der Polizei anzurufen.

Hatte mal in diesem Jahrtausend von einem Uralt-Festnetz ohne Rufnummernübermittlung einen Versandhandel zurückgerufen, aus irgendeinem Grund wussten die direkt wer anruft als ob die wie diverse Behörden bei jedem Anschluss die Nummer übermittelt kriegen.


Solche Anrufe pauschal abzuwürgen führte bei mir schon dazu dass ich nach dem Tod meines Opas eine harte Zeit hatte seinen kompletten Freundeskreis zu informierend da einige direkt aufgelegt haben wenn ich sagte hier ist XY... musste da dann auch anders vorgehen und direkt mit der relevanten Info eröffnen.

Einerseits gut wenn die Leute vorsichtig sind, andererseits kann es halt auch zu solchen Situationen kommen wenn sie übervorsichtig sind.



Paralkar
Beiträge: 1769

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Paralkar »

Beeindruckend,

Was ich mich bei so einer Möglichkeit frage, im Bezug auf die Medienwelt und auch Gesetze, inwieweit müssen wir definieren was Sprache rechtlich ist.

Nehmen wir an, ein Synchronsprecher verstirbt. Dann wäre es schon harausragend seine Stimme per AI weiter nutzen zu können. Ich persönlich hasse den Wechsel zu jemand anderem.

Jedoch könnte man damit letzten Endes natűlich auch den Berufsstand obsolet machen...
DIT/ digital Colorist/ Photographer



 Aktuelle Beiträge [alle Foren]
 
» C500 MKI RAW File Converter
von Andromeda - Di 17:15
» Nanlite wand - handliches Vollfarben-Licht für Filmemacher und Vlogger
von slashCAM - Di 14:24
» Runway Aleph - Hollywood-Spezialeffekte per KI für alle?
von tom - Di 12:28
» Empfehlung neues Videoschnittprogramm
von popaj - Di 1:17
» Ruckelige Bewegungen - noch was zu retten?
von Bildlauf - Mo 21:46
» Viltrox bringt 25mm/1.7 APS-C Budget-Objektiv
von rush - Mo 21:45
» Windows Laptops bald mit Apple M3 Mac auf Augenhöhe?
von markusG - Mo 20:17
» LUT me now!
von Bildlauf - Mo 19:56
» Neuer Portkeys PT5 III Kameramonitor wiegt ca. 150g und ist etwas heller als zuvor
von Bildlauf - Mo 19:43
» Olight und Linogy: Moderne AA(A)- Lade- und Akku-Technologien bei Kickstarter
von slashCAM - Mo 16:36
» BIETE: MacBook Pro 16" | M1 Max Chip | 32GB | 1TB
von benedika - Mo 16:08
» DJI Mini 5 Pro kommt in 5 Wochen - mit 50 Min Flugzeit und LiDAR
von patfish - Mo 10:49
» DJI RS4 Mini im Verbund mit Sony FX30 und Sigma 17-40mm F1.8 DC Art / Teil 2
von slashCAM - Mo 10:48
» Sony A7III Video ruckelt
von KirstenW - Mo 6:49
» SWIT Crew - Neue Profi-Videofunkstrecke mit Timecode und Metadatenübertragung
von tom - So 14:18
» Einmal Denoising und zurück - Neue Filmkorn-Simulation bei Netflix
von Axel - Sa 22:42
» BMD Production Camera 4k in 2025?
von Ziggy Tomcat - Sa 18:24
» Godox AM1600R 88K - aufblasbares Full-Color LED-Flächenlicht mit 1.600W
von slashCAM - Sa 17:12
» >Der LED Licht Thread<
von Rockcrusher - Fr 20:18
» 28 Years Later - offizieller Trailer
von 7River - Fr 20:01
» Der nächste Schlag für die Filmindustrie
von iasi - Fr 18:12
» ALEXA 35 Xtreme mit bis zu 660 fps vorgestellt - und neuer ARRICORE Codec
von TheBubble - Fr 16:46
» Photoshoppen wird einfacher - KI gleicht eingefügte Bildobjekte an
von cantsin - Fr 14:48
» Adobe Premiere Pro - erste Beta unterstützt nativ ARM unter Windows
von slashCAM - Fr 11:54
» Externe USB4 SSD als Mac Systemplatte nutzen - am Beispiel der Corsair EX400U
von rudi - Fr 10:10
» 7artisans 15mm/4.0 asph. Nikon Z OVP
von thsbln - Do 15:17
» Verkaufe Walimex pro Flex LED 1000 Bi Color *SET*
von leonlhs - Do 9:00
» Verkaufe Sirui 24mm f2.8 Anamorphic Sony E-Mount APSC Objektiv (Ungenutzt / NEU)
von leonlhs - Do 8:55
» Formate für Medien
von Bluboy - Do 3:00
» Erste 360°-Drohne kommt - automatisiert, immersiv und 8K-fähig?
von Viteq - Mi 20:19
» Wann man ein Colorimeter beim Filmen braucht (und wann nicht): Datacolor LightColor Meter im Test
von beiti - Mi 17:25
» SynthEyes 2025.5 Release nutzt Machine-Learning für automatisches Motion-Tracking
von slashCAM - Mi 15:54
» Konkurrenz für Apples Pro Display XDR - Asus ProArt Display 6K PA32QCV erscheint nächsten Monat
von slashCAM - Mi 11:51
» Avatar: Fire and Ash
von GaToR-BN - Mi 11:27
» Neue Firmware für Canon EOS C80, C400, R1, R5, R5 II und R5 C verfügbar
von roki100 - Mi 0:49