KI Forum



KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen



Alles rund um KIs (DeepLearning), Algorithmen für spezielle Effekte, zur Generierung von Bildern und Videos und mehr
Antworten
slashCAM
Administrator
Administrator
Beiträge: 11265

KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von slashCAM »


Befürchtet war es ja schon länger - jetzt ist es so weit: Die ersten Telefontrickbetrüger nutzen Stimmen-KIs, um alte Menschen durch einen vorgeblichen Notfall eines ihre...
Bild
Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen



dienstag_01
Beiträge: 13660

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von dienstag_01 »

Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.



medienonkel
Beiträge: 752

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von medienonkel »

Das ist der perfide Trick der KI.
Für universelle Verunsicherung sorgen und dann den nötigen Schutz verkaufen.

Genauso, wie es Viren in der IT nur gibt, um Virensoftware zu verkaufen, die sich wiederum oft wie ein Virus aufführt.



Darth Schneider
Beiträge: 20220

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Darth Schneider »

Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris



hheditor
Beiträge: 16

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von hheditor »

dienstag_01 hat geschrieben: Do 09 Mär, 2023 13:44 Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.
Sehr lustig und sehr konsequent 😂



Sammy D
Beiträge: 2270

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Sammy D »

Darth Schneider hat geschrieben: Do 09 Mär, 2023 15:11 Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

Es geht um alte Menschen, die einfach nicht mehr die geistige Kompetenz haben, um sich gegen den enormen psychischen Druck, den die Scammer aufbauen, zu wehren.
Zudem sind unter den Opfern oft auch Menschen mit Demenz, bei denen sie leichtes Spiel haben.


Im Router meiner Eltern habe ich bereits über 100 Scam-Nummern gesperrt. Mein Vater ist dement und ein willkommenes Opfer.
Vermeintliche Anrufe von Investmentfirmen, Glücksspiele und sonstige Verkauf-Drückerkolonnen.

Er hatte bisher: eine Solaranlage gekauft, „Fonds und Aktien“, einige Abos abegschlossen und einen 5-Jahres-Vertrag für „Delicatessen“ aus Italien zum vier-fachen Marktpreis.
Zum Glück konnte ich alles rechtzeitig rückgängig machen. „Schaden“ ist nur in einigen Fällen durch die Selbstbeteiligungspauschale der Rechtsversicherung entstanden.
Die Anrufe werden mittlerweile auf mein Handy umgeleitet.

Bleiben nur noch die Drücker, die an die Haustür kommen. Meine Mutter kann es meistens verhindern, kam aber auch schon vor, dass „Bettler“ in der Haustür standen und Druck machten, Geld herauszurücken. Die Polizei kann nichts machen, solange nichts passiert. 🤷🏻‍♂️

Wenn KI irgendwann mal Bairisch kann, wirds gefährlich. 😂



berlin123
Beiträge: 905

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von berlin123 »

Scary. Aber es gibt kein Zurück mehr. Die Enkeltrick Mafia macht ja schon länger enorme Gewinne. Das wird sicher erstmal massiv zunehmen. Wie im Artikel besprochen eröffnen sich ja ganz neue Möglichkeiten auch bei anderen Zielgruppen als Senioren.

Wir werden ein neues Bewusstsein aufbauen dass keine Stimme und kein Video mehr die Wahrheit widerspiegelt, solange es nicht glaubhaft verifizierbar ist.

Wahrscheinlich werden sich auch für Telefongespräche Mechanismen der Verifizierung etablieren wie 2 Faktor Authentifizierung. Zuerst im geschäftlichen Bereich und dann in der breiten Gesellschaft.

Bei Apple und Co sitzen wahrscheinlich schon teams daran um in 1 o. 2 Jahren "Secure Call", "Trusted Voice", oder welchen Titel immer sich das Marketing ausdenkt, als neues iPhone Feature zu präsentieren.



teichomad
Beiträge: 416

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von teichomad »

telefonbanking lol



Cinemator
Beiträge: 938

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Cinemator »

Wer bei audio-basierten Social-Network-Apps mitdiskutiert, sollte sich schon Gedanken machen...
Er: Was ist mit dir? Sie: Nichts, was du ändern könntest. (Casablanca)



Frank Glencairn
Beiträge: 23895

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Frank Glencairn »

Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.
Sapere aude - de omnibus dubitandum



medienonkel
Beiträge: 752

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von medienonkel »

Frank Glencairn hat geschrieben: Do 09 Mär, 2023 17:42 Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.
Gute Frage.
Ist aber gut möglich, dass das in Echtzeit funktioniert. Ist ja nur text to speech.
Denke ich mal.

Und zusätzlich kommt noch dazu, dass da einerseits ein gestresster Rezipient auf einen schwer verletzten/vor dem Schafott stehenden Sohnemann trifft.
Andererseits schaltet sich dann ganz schnell der vermittelnde Arzt/Anwalt dazwischen... Während im Hintergrund eine vertraute Stimme wimmert.
Dann noch ein hektischer Soundteppich dazu.

Och, das klappt schon.



MK
Beiträge: 4406

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von MK »

Wahrscheinlich kam in den genannten Fällen sowieso keine KI zum Einsatz.

Die Eltern wollten nicht zugeben die Stimme des Sohnes falsch erkannt zu haben, und die Bank schwafelt einfach: "Voice ID vergleicht mehr Merkmale in Ihrer Stimme, als das menschliche Ohr wahrnehmen kann" - Bei Nicht-HD Telefonie geht der Frequenzbereich auch heute noch bis etwas über 3 kHz und bei HD bis ca. 7 kHz... das Voice-ID System kann da gar nicht so pingelig sein.

Und auf den Tochter- Sohn- Enkeltrick sind die Leute schon früher reingefallen.

Wenn dann die Fake-Polizei von der 110 als Anrufernummer angerufen hat gehören sowieso die Telefonanbieter die das technisch ermöglichen in Regress genommen.

Da müsste man mal technisch ansetzen das zu unterbinden, und natürlich jedem einschärfen in solchen und anderen Fällen immer selbst bei der Polizei anzurufen.

Hatte mal in diesem Jahrtausend von einem Uralt-Festnetz ohne Rufnummernübermittlung einen Versandhandel zurückgerufen, aus irgendeinem Grund wussten die direkt wer anruft als ob die wie diverse Behörden bei jedem Anschluss die Nummer übermittelt kriegen.


Solche Anrufe pauschal abzuwürgen führte bei mir schon dazu dass ich nach dem Tod meines Opas eine harte Zeit hatte seinen kompletten Freundeskreis zu informierend da einige direkt aufgelegt haben wenn ich sagte hier ist XY... musste da dann auch anders vorgehen und direkt mit der relevanten Info eröffnen.

Einerseits gut wenn die Leute vorsichtig sind, andererseits kann es halt auch zu solchen Situationen kommen wenn sie übervorsichtig sind.



Paralkar
Beiträge: 1763

Re: KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

Beitrag von Paralkar »

Beeindruckend,

Was ich mich bei so einer Möglichkeit frage, im Bezug auf die Medienwelt und auch Gesetze, inwieweit müssen wir definieren was Sprache rechtlich ist.

Nehmen wir an, ein Synchronsprecher verstirbt. Dann wäre es schon harausragend seine Stimme per AI weiter nutzen zu können. Ich persönlich hasse den Wechsel zu jemand anderem.

Jedoch könnte man damit letzten Endes natűlich auch den Berufsstand obsolet machen...
DIT/ digital Colorist/ Photographer



 Aktuelle Beiträge [alle Foren]
 
» Resolve Gamma Shift auf Apple vermeiden.
von Bildlauf - Fr 13:35
» Was hörst Du gerade?
von Skeptiker - Fr 13:29
» Lumix S5II Bildzittern, Pulsieren
von Bildlauf - Fr 13:28
» Videokassette 8mm abspielen
von TomStg - Fr 12:51
» Was schaust Du gerade?
von Frank Glencairn - Fr 12:42
» Linsen (Vintage, Anamorphic & Co.)
von Bildlauf - Fr 11:23
» Erste Alpha von Runway Gen-3 vorgestellt - KI-Videogenerator mit Weltmodell
von philr - Fr 10:37
» Die neuen Adobe CC Nutzungsbedingungen mit Klartext sind da
von stip - Fr 10:30
» Erste AI Cinema kamera
von macaw - Fr 9:52
» Zhiyun Weebill 3E - Einhand-Gimbal mit längerer Akkulaufzeit
von slashCAM - Fr 9:48
» Was hast Du zuletzt gekauft?
von klusterdegenerierung - Fr 9:07
» Eckpunkte einer neuen Filmförderung: mehr Kreativität, weniger Bürokratie?
von 7River - Fr 5:14
» ARRI ALEXA Mini vs Panasonic GH7: ARRI LogC3 im ersten Praxis-Vergleich
von stip - Do 23:43
» Welches Picture Profil beim Filmen im Dunkeln ? FX3
von Axel - Do 21:57
» FCP 10.8 + "Final Cut Camera" App fürs iPhone
von 123oliver - Do 20:43
» Galaxus.de
von GaToR-BN - Do 20:09
» DVR - nützliche Kürzel für deutsche Tastaturen
von Phil999 - Do 18:21
» Look Entwicklung für Doku
von Frank Glencairn - Do 16:28
» Dehancer Pro - Filmsimulation auf höchstem Niveau
von MK - Do 14:09
» FilmLight stellt Grading-System Baselight 6 vor
von macaw - Do 13:13
» Apple Vision Pro: Verkaufsstart (USA) ab Februar für 3.499,- Dollar + neuer Werbeclip
von R S K - Do 12:39
» Professionelles Anfänger Tutos für FCP
von klusterdegenerierung - Do 9:28
» Spaceballs 2 ist offiziell in Arbeit
von Alex - Do 9:04
» Suche FX6 und / oder A7SIII
von Tobiornot - Do 8:24
» AI Produktion in Deutschland - rechtliche Situation.
von Ridge - Do 8:02
» Tragischer Unfall am Set trotz Filmwaffe: Kamerafrau stirbt nach Schuß von Alec Baldwin
von 7River - Do 6:11
» Werbung - es geht auch gut ;) Sammelthread
von Skeptiker - Mi 23:08
» Camera Rig, wo sind die Mikrofone?
von Doc Brown - Mi 20:20
» Google DeepMind wird Videos mit automatisch erzeugter Tonspur unterlegen
von Frank Glencairn - Mi 20:18
» Nikon Z6III vorgestellt: Partially Stacked 24.5 MP Sensor, internes 6K RAW 60p, 5.7 MP EVF...
von iasi - Mi 14:36
» Alien: Romulus - Teaser Trailer online - produziert von Ridley Scott, gedreht auf Alexa 35
von Frank Glencairn - Mi 14:09
» Berechnung Zoom durch Post-Crop
von Franz86 - Mi 13:21
» Microsoft und Qualcomm patzen bei der KI-ARM-Windows Einführung
von slashCAM - Mi 12:09
» Visual Effects von Airbender in Resolve
von Frank Glencairn - Mi 9:52
» Filmlook? Wie Regie und Kamera zusammenarbeiten sollten! Mit Hannu Salonen
von Nigma1313 - Mi 9:41