Logo Logo
/// 

KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen



Noch was unklar? Dann in unserem Forum nachfragen
Zum Original-Thread / Zum KI-Forum

Newsmeldung von slashCAM:



Befürchtet war es ja schon länger - jetzt ist es so weit: Die ersten Telefontrickbetrüger nutzen Stimmen-KIs, um alte Menschen durch einen vorgeblichen Notfall eines ihre...



Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
KIs imitieren Stimmen perfekt - Vorsicht vor anrollenden Betrugswellen




Antwort von dienstag_01:

Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.



Antwort von medienonkel:

Das ist der perfide Trick der KI.
Für universelle Verunsicherung sorgen und dann den nötigen Schutz verkaufen.

Genauso, wie es Viren in der IT nur gibt, um Virensoftware zu verkaufen, die sich wiederum oft wie ein Virus aufführt.








Antwort von Darth Schneider:

Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris



Antwort von hheditor:

dienstag_01 hat geschrieben:
Dieser Artikel hätte das Potential, mich extrem zu beunruhigen, aber ich weiß, dass es KI auch zur Texterstellung gibt.
Von daher: Ich glaube natürlich kein Wort.
Sehr lustig und sehr konsequent 😂



Antwort von Sammy D:

"Darth Schneider" hat geschrieben:
Das ist durchaus beunruhigend, aber so viel Geld einfach auf irgend ein fremdes Konto zu überweisen, für laufende Anwaltskosten, an einen Anwalt den man nie gesehen hat….?
Sorry, aber das ist schon ein wenig dumm…

Gut mein Sohn würde mich auch nicht anrufen und mich bitten um so was, weil er weiss das ich gar nicht so viel Geld auf dem Konto habe..;)

Und wenn so was schlimmes wie oben passieren würde, ja dann sässe ich am selben Tag noch im Flugzeug, Zug oder im Auto auf dem Weg zu meinem Sohn…

Einfach auf keinen Fall einfach so, Geld überweisen..
Gruss Boris

Es geht um alte Menschen, die einfach nicht mehr die geistige Kompetenz haben, um sich gegen den enormen psychischen Druck, den die Scammer aufbauen, zu wehren.
Zudem sind unter den Opfern oft auch Menschen mit Demenz, bei denen sie leichtes Spiel haben.


Im Router meiner Eltern habe ich bereits über 100 Scam-Nummern gesperrt. Mein Vater ist dement und ein willkommenes Opfer.
Vermeintliche Anrufe von Investmentfirmen, Glücksspiele und sonstige Verkauf-Drückerkolonnen.

Er hatte bisher: eine Solaranlage gekauft, "Fonds und Aktien", einige Abos abegschlossen und einen 5-Jahres-Vertrag für "Delicatessen" aus Italien zum vier-fachen Marktpreis.
Zum Glück konnte ich alles rechtzeitig rückgängig machen. "Schaden" ist nur in einigen Fällen durch die Selbstbeteiligungspauschale der Rechtsversicherung entstanden.
Die Anrufe werden mittlerweile auf mein Handy umgeleitet.

Bleiben nur noch die Drücker, die an die Haustür kommen. Meine Mutter kann es meistens verhindern, kam aber auch schon vor, dass "Bettler" in der Haustür standen und Druck machten, Geld herauszurücken. Die Polizei kann nichts machen, solange nichts passiert. 🤷🏻???

Wenn KI irgendwann mal Bairisch kann, wirds gefährlich. 😂



Antwort von berlin123:

Scary. Aber es gibt kein Zurück mehr. Die Enkeltrick Mafia macht ja schon länger enorme Gewinne. Das wird sicher erstmal massiv zunehmen. Wie im Artikel besprochen eröffnen sich ja ganz neue Möglichkeiten auch bei anderen Zielgruppen als Senioren.

Wir werden ein neues Bewusstsein aufbauen dass keine Stimme und kein Video mehr die Wahrheit widerspiegelt, solange es nicht glaubhaft verifizierbar ist.

Wahrscheinlich werden sich auch für Telefongespräche Mechanismen der Verifizierung etablieren wie 2 Faktor Authentifizierung. Zuerst im geschäftlichen Bereich und dann in der breiten Gesellschaft.

Bei Apple und Co sitzen wahrscheinlich schon teams daran um in 1 o. 2 Jahren "Secure Call", "Trusted Voice", oder welchen Titel immer sich das Marketing ausdenkt, als neues iPhone Feature zu präsentieren.



Antwort von teichomad:

telefonbanking lol



Antwort von Cinemator:

Wer bei audio-basierten Social-Network-Apps mitdiskutiert, sollte sich schon Gedanken machen...



Antwort von Frank Glencairn:

Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.



Antwort von medienonkel:

"Frank Glencairn" hat geschrieben:
Wie funktioniert das eigentlich?

Ich meine das geht ja nicht in Echtzeit, sondern nur mit vorproduziertem Material.

Was wenn die Oma am Telefon jetzt irgend ne Frage stellt, oder das Gespräch in eine Richtung geht für die es keinen Soundschnipsel gibt? Ich stell mir das auch schwierig vor die entsprechenden Audio-Dateien zeitnah rauszusuchen und abzuspielen, so daß es nicht auffällt.
Gute Frage.
Ist aber gut möglich, dass das in Echtzeit funktioniert. Ist ja nur text to speech.
Denke ich mal.

Und zusätzlich kommt noch dazu, dass da einerseits ein gestresster Rezipient auf einen schwer verletzten/vor dem Schafott stehenden Sohnemann trifft.
Andererseits schaltet sich dann ganz schnell der vermittelnde Arzt/Anwalt dazwischen... Während im Hintergrund eine vertraute Stimme wimmert.
Dann noch ein hektischer Soundteppich dazu.

Och, das klappt schon.



Antwort von MK:

Wahrscheinlich kam in den genannten Fällen sowieso keine KI zum Einsatz.

Die Eltern wollten nicht zugeben die Stimme des Sohnes falsch erkannt zu haben, und die Bank schwafelt einfach: "Voice ID vergleicht mehr Merkmale in Ihrer Stimme, als das menschliche Ohr wahrnehmen kann" - Bei Nicht-HD Telefonie geht der Frequenzbereich auch heute noch bis etwas über 3 kHz und bei HD bis ca. 7 kHz... das Voice-ID System kann da gar nicht so pingelig sein.

Und auf den Tochter- Sohn- Enkeltrick sind die Leute schon früher reingefallen.

Wenn dann die Fake-Polizei von der 110 als Anrufernummer angerufen hat gehören sowieso die Telefonanbieter die das technisch ermöglichen in Regress genommen.

Da müsste man mal technisch ansetzen das zu unterbinden, und natürlich jedem einschärfen in solchen und anderen Fällen immer selbst bei der Polizei anzurufen.

Hatte mal in diesem Jahrtausend von einem Uralt-Festnetz ohne Rufnummernübermittlung einen Versandhandel zurückgerufen, aus irgendeinem Grund wussten die direkt wer anruft als ob die wie diverse Behörden bei jedem Anschluss die Nummer übermittelt kriegen.


Solche Anrufe pauschal abzuwürgen führte bei mir schon dazu dass ich nach dem Tod meines Opas eine harte Zeit hatte seinen kompletten Freundeskreis zu informierend da einige direkt aufgelegt haben wenn ich sagte hier ist XY... musste da dann auch anders vorgehen und direkt mit der relevanten Info eröffnen.

Einerseits gut wenn die Leute vorsichtig sind, andererseits kann es halt auch zu solchen Situationen kommen wenn sie übervorsichtig sind.








Antwort von Paralkar:

Beeindruckend,

Was ich mich bei so einer Möglichkeit frage, im Bezug auf die Medienwelt und auch Gesetze, inwieweit müssen wir definieren was Sprache rechtlich ist.

Nehmen wir an, ein Synchronsprecher verstirbt. Dann wäre es schon harausragend seine Stimme per AI weiter nutzen zu können. Ich persönlich hasse den Wechsel zu jemand anderem.

Jedoch könnte man damit letzten Endes nat?lich auch den Berufsstand obsolet machen...




Noch was unklar? Dann in unserem Forum nachfragen
Zum Original-Thread / Zum KI-Forum

Antworten zu ähnlichen Fragen:
Künstler vs KIs: Neues Tool macht Kunstwerke für KIs unverdaulich
Umfrage: Was hältst du von den neuen Bild/Video-KIs?
AI simuliert menschliche Stimmen täuschend echt
!VORSICHT AMAZON BETRÜGER!
DVD Player -> TV: Farben stimmen nicht (rotlila etc.)
Vorsicht mit Atomos SDI Modul
Text-zu-Sprache per KI: Ersetzen synthetische Stimmen bald professionelle Sprecher?
? MPEG2 schneiden - perfekt mit VideoReDo !
VFX leicht gemacht: mit KI Gesichter animieren und Stimmen synthetisieren
Neue KI stellt Objekte aus Photos automatisch perfekt frei
Perfekt für Musikvideos: Räumliches, objektbasiertes Videoediting per KI und 16 Kameras
Nur Sternenlicht als Beleuchtung: Neuer KI-Algorithmus entrauscht Videos perfekt
Vorsicht bei Sonys neuem Firmware Update für die ILME-FX3 und FX30
Wann kann ein Monitor echtes HDR darstellen? Vorsicht bei den DisplayHDR Standards
Googles neuer Super-Resolution Algorithmus SR3 skaliert Gesichter nahezu perfekt hoch
Neue Google KI entrauscht RAW Photos dunkler Szenen perfekt - bald auch Videos?
Auch Kameras können das Ziel von Malware werden -- Vorsicht bei offenen WLAN-Netzen
Aufsteller vor Rednerpulten
Erstkommunion vor Europawahl
Warnung vor Tele 5
Blackmagic stellt was neues vor
Erfahrungen - Interview vor Großmonitor?
Frage vor DVD-Recoederkauf
Trailer vor bestehenden Film setzen
Blackmagic stellt ATMmini ISO vor
Spielfilme vor und nach Corona?

















weitere Themen:
Spezialthemen


16:9
3D
4K
AI
ARD
ARTE
AVCHD
AVI
Adapter
Adobe After Effects
Adobe Premiere Pro
After effects
Akku
Akkus
Apple
Apple Final Cut Pro
Audio
Aufnahme
Aufnahmen
Avid
Avid Media Composer
Band
Bild
Bit
Blackmagic
Blackmagic DaVinci Resolve
Blackmagic Design DaVinci Resolve
Blende
Book
Brennen
Cam
Camcorder
Camera
Canon
Canon EOS
Canon EOS 5D MKII
Canon EOS C300
Capture
Capturing
Cinema
Clip
ClipKanal
Clips
Codec
Codecs
DSLR
Datei
Digital
EDIUS
ENG
EOS
Effect
Effekt
Effekte
Empfehlung
Euro
Export
Fehler
Festplatte
File
Film
Filme
Filmen
Filter
Final Cut
Final Cut Pro
Format
Formate
Foto
Frage
Frame
GoPro
Grass Valley Edius
HDMI
HDR
Hilfe
Import
JVC
KI
Kabel
Kamera
Kanal
Kauf
Kaufberatung
Kaufe
Kaufen
Kurzfilm
Layer
Licht
Light
Live
Lösung
MAGIX video deLuxe
MPEG
MPEG-2
MPEG2
Mac
Magix
Magix Vegas Pro
Menü
Mikro
Mikrofon
Mikrophone
Monitor
Movie
Musik
Musikvideo
NAB
Nero
News
Nikon
Objektiv
Objektive
PC
Panasonic
Panasonic GH2
Panasonic HC-X1
Panasonic S1 mit V-Log
Panasonic S5
Pinnacle
Pinnacle Studio
Player
Plugin
Plugins
Premiere
Produktion
Projekt
RAW
RED
Recorder
Red
Render
Rendern
Schnitt
Software
Sony
Sony HDR
Sound
Speicher
Stativ
Stative
Streaming
Studio
TV
Test
Titel
Ton
USB
Umwandeln
Update
Vegas
Video
Video-DSLR
Videos
Videoschnitt
Windows
YouTube
Zoom