KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

[slashCAM]

Befürchtet war es ja schon länger - jetzt ist es so weit: Die ersten Telefontrickbetrüger nutzen Stimmen-KIs, um alte Menschen durch einen vorgeblichen Notfall eines ihre...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen

[dienstag_01]

Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.

[medienonkel]

Das ist der perfide Trick der KI.
Für universelle Verunsicherung sorgen und dann den nötigen Schutz verkaufen.

Genauso, wie es Viren in der IT nur gibt, um Virensoftware zu verkaufen, die sich wiederum oft wie ein Virus aufführt.

[Darth Schneider]

Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

[hheditor]

Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.

Sehr lustig und sehr konsequent 😂

[Sammy D]

Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

Es geht um alte Menschen, die einfach nicht mehr die geistige Kompetenz haben, um sich gegen den enormen psychischen Druck, den die Scammer aufbauen, zu wehren.
Zudem sind unter den Opfern oft auch Menschen mit Demenz, bei denen sie leichtes Spiel haben.


Im Router meiner Eltern habe ich bereits über 100 Scam-Nummern gesperrt. Mein Vater ist dement und ein willkommenes Opfer.
Vermeintliche Anrufe von Investmentfirmen, Glücksspiele und sonstige Verkauf-Drückerkolonnen.

Er hatte bisher: eine Solaranlage gekauft, „Fonds und Aktien“, einige Abos abegschlossen und einen 5-Jahres-Vertrag für „Delicatessen“ aus Italien zum vier-fachen Marktpreis.
Zum Glück konnte ich alles rechtzeitig rückgängig machen. „Schaden“ ist nur in einigen Fällen durch die Selbstbeteiligungspauschale der Rechtsversicherung entstanden.
Die Anrufe werden mittlerweile auf mein Handy umgeleitet.

Bleiben nur noch die Drücker, die an die Haustür kommen. Meine Mutter kann es meistens verhindern, kam aber auch schon vor, dass „Bettler“ in der Haustür standen und Druck machten, Geld herauszurücken. Die Polizei kann nichts machen, solange nichts passiert. 🤷🏻‍♂️

Wenn KI irgendwann mal Bairisch kann, wirds gefährlich. 😂

[berlin123]

Scary. Aber es gibt kein Zurück mehr. Die Enkeltrick Mafia macht ja schon länger enorme Gewinne. Das wird sicher erstmal massiv zunehmen. Wie im Artikel besprochen eröffnen sich ja ganz neue Möglichkeiten auch bei anderen Zielgruppen als Senioren.

Wir werden ein neues Bewusstsein aufbauen dass keine Stimme und kein Video mehr die Wahrheit widerspiegelt, solange es nicht glaubhaft verifizierbar ist.

Wahrscheinlich werden sich auch für Telefongespräche Mechanismen der Verifizierung etablieren wie 2 Faktor Authentifizierung. Zuerst im geschäftlichen Bereich und dann in der breiten Gesellschaft.

Bei Apple und Co sitzen wahrscheinlich schon teams daran um in 1 o. 2 Jahren "Secure Call", "Trusted Voice", oder welchen Titel immer sich das Marketing ausdenkt, als neues iPhone Feature zu präsentieren.

[teichomad]

telefonbanking lol

[Cinemator]

Wer bei audio-basierten Social-Network-Apps mitdiskutiert, sollte sich schon Gedanken machen...

[Frank Glencairn]

Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.

[medienonkel]

Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.

Gute Frage.
Ist aber gut möglich, dass das in Echtzeit funktioniert. Ist ja nur text to speech.
Denke ich mal.

Und zusätzlich kommt noch dazu, dass da einerseits ein gestresster Rezipient auf einen schwer verletzten/vor dem Schafott stehenden Sohnemann trifft.
Andererseits schaltet sich dann ganz schnell der vermittelnde Arzt/Anwalt dazwischen... Während im Hintergrund eine vertraute Stimme wimmert.
Dann noch ein hektischer Soundteppich dazu.

Och, das klappt schon.

[MK]

Wahrscheinlich kam in den genannten Fällen sowieso keine KI zum Einsatz.

Die Eltern wollten nicht zugeben die Stimme des Sohnes falsch erkannt zu haben, und die Bank schwafelt einfach: "Voice ID vergleicht mehr Merkmale in Ihrer Stimme, als das menschliche Ohr wahrnehmen kann" - Bei Nicht-HD Telefonie geht der Frequenzbereich auch heute noch bis etwas über 3 kHz und bei HD bis ca. 7 kHz... das Voice-ID System kann da gar nicht so pingelig sein.

Und auf den Tochter- Sohn- Enkeltrick sind die Leute schon früher reingefallen.

Wenn dann die Fake-Polizei von der 110 als Anrufernummer angerufen hat gehören sowieso die Telefonanbieter die das technisch ermöglichen in Regress genommen.

Da müsste man mal technisch ansetzen das zu unterbinden, und natürlich jedem einschärfen in solchen und anderen Fällen immer selbst bei der Polizei anzurufen.

Hatte mal in diesem Jahrtausend von einem Uralt-Festnetz ohne Rufnummernübermittlung einen Versandhandel zurückgerufen, aus irgendeinem Grund wussten die direkt wer anruft als ob die wie diverse Behörden bei jedem Anschluss die Nummer übermittelt kriegen.


Solche Anrufe pauschal abzuwürgen führte bei mir schon dazu dass ich nach dem Tod meines Opas eine harte Zeit hatte seinen kompletten Freundeskreis zu informierend da einige direkt aufgelegt haben wenn ich sagte hier ist XY... musste da dann auch anders vorgehen und direkt mit der relevanten Info eröffnen.

Einerseits gut wenn die Leute vorsichtig sind, andererseits kann es halt auch zu solchen Situationen kommen wenn sie übervorsichtig sind.

[Paralkar]

Beeindruckend,

Was ich mich bei so einer Möglichkeit frage, im Bezug auf die Medienwelt und auch Gesetze, inwieweit müssen wir definieren was Sprache rechtlich ist.

Nehmen wir an, ein Synchronsprecher verstirbt. Dann wäre es schon harausragend seine Stimme per AI weiter nutzen zu können. Ich persönlich hasse den Wechsel zu jemand anderem.

Jedoch könnte man damit letzten Endes natűlich auch den Berufsstand obsolet machen...