Noch was unklar? Dann in unserem Forum nachfragen
Zum Original-Thread / Zum KI-Forum

Infoseite // KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen



Newsmeldung von slashCAM:



Befürchtet war es ja schon länger - jetzt ist es so weit: Die ersten Telefontrickbetrüger nutzen Stimmen-KIs, um alte Menschen durch einen vorgeblichen Notfall eines ihre...



Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen


Space


Antwort von dienstag_01:

Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.

Space


Antwort von medienonkel:

Das ist der perfide Trick der KI.
Für universelle Verunsicherung sorgen und dann den nötigen Schutz verkaufen.

Genauso, wie es Viren in der IT nur gibt, um Virensoftware zu verkaufen, die sich wiederum oft wie ein Virus aufführt.

Space


Antwort von Darth Schneider:

Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

Space


Antwort von hheditor:

dienstag_01 hat geschrieben:
Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.
Sehr lustig und sehr konsequent 😂

Space


Antwort von Sammy D:

"Darth Schneider" hat geschrieben:
Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

Es geht um alte Menschen, die einfach nicht mehr die geistige Kompetenz haben, um sich gegen den enormen psychischen Druck, den die Scammer aufbauen, zu wehren.
Zudem sind unter den Opfern oft auch Menschen mit Demenz, bei denen sie leichtes Spiel haben.


Im Router meiner Eltern habe ich bereits über 100 Scam-Nummern gesperrt. Mein Vater ist dement und ein willkommenes Opfer.
Vermeintliche Anrufe von Investmentfirmen, Glücksspiele und sonstige Verkauf-Drückerkolonnen.

Er hatte bisher: eine Solaranlage gekauft, "Fonds und Aktien", einige Abos abegschlossen und einen 5-Jahres-Vertrag für "Delicatessen" aus Italien zum vier-fachen Marktpreis.
Zum Glück konnte ich alles rechtzeitig rückgängig machen. "Schaden" ist nur in einigen Fällen durch die Selbstbeteiligungspauschale der Rechtsversicherung entstanden.
Die Anrufe werden mittlerweile auf mein Handy umgeleitet.

Bleiben nur noch die Drücker, die an die Haustür kommen. Meine Mutter kann es meistens verhindern, kam aber auch schon vor, dass "Bettler" in der Haustür standen und Druck machten, Geld herauszurücken. Die Polizei kann nichts machen, solange nichts passiert. 🤷🏻???

Wenn KI irgendwann mal Bairisch kann, wirds gefährlich. 😂

Space


Antwort von berlin123:

Scary. Aber es gibt kein Zurück mehr. Die Enkeltrick Mafia macht ja schon länger enorme Gewinne. Das wird sicher erstmal massiv zunehmen. Wie im Artikel besprochen eröffnen sich ja ganz neue Möglichkeiten auch bei anderen Zielgruppen als Senioren.

Wir werden ein neues Bewusstsein aufbauen dass keine Stimme und kein Video mehr die Wahrheit widerspiegelt, solange es nicht glaubhaft verifizierbar ist.

Wahrscheinlich werden sich auch für Telefongespräche Mechanismen der Verifizierung etablieren wie 2 Faktor Authentifizierung. Zuerst im geschäftlichen Bereich und dann in der breiten Gesellschaft.

Bei Apple und Co sitzen wahrscheinlich schon teams daran um in 1 o. 2 Jahren "Secure Call", "Trusted Voice", oder welchen Titel immer sich das Marketing ausdenkt, als neues iPhone Feature zu präsentieren.

Space


Antwort von teichomad:

telefonbanking lol

Space


Antwort von Cinemator:

Wer bei audio-basierten Social-Network-Apps mitdiskutiert, sollte sich schon Gedanken machen...

Space



Space


Antwort von Frank Glencairn:

Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.

Space


Antwort von medienonkel:

"Frank Glencairn" hat geschrieben:
Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.
Gute Frage.
Ist aber gut möglich, dass das in Echtzeit funktioniert. Ist ja nur text to speech.
Denke ich mal.

Und zusätzlich kommt noch dazu, dass da einerseits ein gestresster Rezipient auf einen schwer verletzten/vor dem Schafott stehenden Sohnemann trifft.
Andererseits schaltet sich dann ganz schnell der vermittelnde Arzt/Anwalt dazwischen... Während im Hintergrund eine vertraute Stimme wimmert.
Dann noch ein hektischer Soundteppich dazu.

Och, das klappt schon.

Space


Antwort von MK:

Wahrscheinlich kam in den genannten Fällen sowieso keine KI zum Einsatz.

Die Eltern wollten nicht zugeben die Stimme des Sohnes falsch erkannt zu haben, und die Bank schwafelt einfach: "Voice ID vergleicht mehr Merkmale in Ihrer Stimme, als das menschliche Ohr wahrnehmen kann" - Bei Nicht-HD Telefonie geht der Frequenzbereich auch heute noch bis etwas über 3 kHz und bei HD bis ca. 7 kHz... das Voice-ID System kann da gar nicht so pingelig sein.

Und auf den Tochter- Sohn- Enkeltrick sind die Leute schon früher reingefallen.

Wenn dann die Fake-Polizei von der 110 als Anrufernummer angerufen hat gehören sowieso die Telefonanbieter die das technisch ermöglichen in Regress genommen.

Da müsste man mal technisch ansetzen das zu unterbinden, und natürlich jedem einschärfen in solchen und anderen Fällen immer selbst bei der Polizei anzurufen.

Hatte mal in diesem Jahrtausend von einem Uralt-Festnetz ohne Rufnummernübermittlung einen Versandhandel zurückgerufen, aus irgendeinem Grund wussten die direkt wer anruft als ob die wie diverse Behörden bei jedem Anschluss die Nummer übermittelt kriegen.


Solche Anrufe pauschal abzuwürgen führte bei mir schon dazu dass ich nach dem Tod meines Opas eine harte Zeit hatte seinen kompletten Freundeskreis zu informierend da einige direkt aufgelegt haben wenn ich sagte hier ist XY... musste da dann auch anders vorgehen und direkt mit der relevanten Info eröffnen.

Einerseits gut wenn die Leute vorsichtig sind, andererseits kann es halt auch zu solchen Situationen kommen wenn sie übervorsichtig sind.

Space


Antwort von Paralkar:

Beeindruckend,

Was ich mich bei so einer Möglichkeit frage, im Bezug auf die Medienwelt und auch Gesetze, inwieweit müssen wir definieren was Sprache rechtlich ist.

Nehmen wir an, ein Synchronsprecher verstirbt. Dann wäre es schon harausragend seine Stimme per AI weiter nutzen zu können. Ich persönlich hasse den Wechsel zu jemand anderem.

Jedoch könnte man damit letzten Endes nat?lich auch den Berufsstand obsolet machen...

Space


Noch was unklar? Dann in unserem Forum nachfragen
Zum Original-Thread / Zum KI-Forum

Antworten zu ähnlichen Fragen //


Künstler vs KIs: Neues Tool macht Kunstwerke für KIs unverdaulich
Hollywood steht still: Schauspieler streiken - auch aus Angst vor KIs
Auch Kameras können das Ziel von Malware werden -- Vorsicht bei offenen WLAN-Netzen
!VORSICHT AMAZON BETRÜGER!
Vorsicht mit Atomos SDI Modul
VFX leicht gemacht: mit KI Gesichter animieren und Stimmen synthetisieren
Vorsicht bei Sonys neuem Firmware Update für die ILME-FX3 und FX30
Text-zu-Sprache per KI: Ersetzen synthetische Stimmen bald professionelle Sprecher?
Synthetische KI-Stimmen machen professionellen Sprechern Konkurrenz
Singen mit berühmten Stimmen - YouTube soll an Voice-Cloning-KI arbeiten
Googles neuer Super-Resolution Algorithmus SR3 skaliert Gesichter nahezu perfekt hoch
Perfekt für Musikvideos: Räumliches, objektbasiertes Videoediting per KI und 16 Kameras
Nur Sternenlicht als Beleuchtung: Neuer KI-Algorithmus entrauscht Videos perfekt
Neue KI stellt Objekte aus Photos automatisch perfekt frei
Neue Google KI entrauscht RAW Photos dunkler Szenen perfekt - bald auch Videos?
VideoKamera - 1000-2000€ - Perfekt in Autofokus & Low Light - für Produktaufnahmen
Umfrage: Was hältst du von den neuen Bild/Video-KIs?
Erstellen uns KIs bald Wunschfilme im Heimkino?




slashCAM nutzt Cookies zur Optimierung des Angebots, auch Cookies Dritter. Die Speicherung von Cookies kann in den Browsereinstellungen unterbunden werden. Mehr Informationen erhalten Sie in unserer Datenschutzerklärung. Mehr Infos Verstanden!
RSS Suche YouTube Facebook Twitter slashCAM-Slash