slashCAM Forum

Schon vor anderthalb Jahren hatte OpenAI VALL-E veröffentlicht, ein System zur Sprachsynthese, welches anhand eines nur 3 Sekunden langen Samples einer Stimme in der Lag...

Hier geht es zur Newsmeldung auf den slashCAM Magazin-Seiten:
Microsoft VALL-E 2: KI ahmt jede Stimme perfekt nach - nur per 3s Stimmsample

Die Entwickler haben aus Angst vor Missbrauch derzeit keine Pläne, VALL-E 2 in ein Produkt zu integrieren oder den Algorithmus öffentlich nutzbar zu machen.

Bloß gut daß unserer Vorfahren keine solche feigen Schisser waren, und Feuer, Messer, Elektrizität, Computer, Internet etc. nicht aus lauter Furcht vor Missbrauch in den Giftschrank geschlossen haben. Und ja, jede Technik kann für irgendwas missbraucht werden - get over it.

Frank Glencairn hat geschrieben: ↑Do 18 Jul, 2024 12:23

Die Entwickler haben aus Angst vor Missbrauch derzeit keine Pläne, VALL-E 2 in ein Produkt zu integrieren oder den Algorithmus öffentlich nutzbar zu machen.

Bloß gut daß unserer Vorfahren keine solche feigen Schisser waren, und Feuer, Messer, Elektrizität, Computer, Internet etc. nicht aus lauter Furcht vor Missbrauch in den Giftschrank geschlossen haben. Und ja, jede Technik kann für irgendwas missbraucht werden - get over it.

Es ist richtig von Microsoft die Risiken vorher zu beachten und sich entsprechende Massnahmen zu überlegen bevor man so ein Tool der Allgemeinheit gibt. Der Umsatz der Enkeltrick Mafia wird mit diesem Tool durch die Decke gehen. Sie bekommen raus, wer deine Eltern sind. Rufen dann bei dir an, zeichnen 3 Sekunden deine Stimme auf. Danach rufen sie bei deinen Eltern an und flehen mit deiner Stimme um dringende finanzielle Unterstützung.

Die Gesellschaft wird sich Gegenmassnahmen dazu überlegen, aber das geht nicht von einem Tag auf den anderen. Mit der perfekten Stimme sind ja auch noch andere Dinge möglich. Viele werden um ihr Geld betrogen werden. Auch Unternehmen. Man sollte wenigstens versuchen den Schaden in der Übergangszeit zu begrenzen.

berlin123 hat geschrieben: ↑Do 18 Jul, 2024 13:35 Es ist richtig von Microsoft die Risiken vorher zu beachten und sich entsprechende Massnahmen zu überlegen bevor man so ein Tool der Allgemeinheit gibt. Der Umsatz der Enkeltrick Mafia wird mit diesem Tool durch die Decke gehen. Sie bekommen raus, wer deine Eltern sind. Rufen dann bei dir an, zeichnen 3 Sekunden deine Stimme auf. Danach rufen sie bei deinen Eltern an und flehen mit deiner Stimme um dringende finanzielle Unterstützung.

Die ganzen Online-Junkies/Zombies liefern ihr Stimmmaterial sogar frei Haus in beliebiger Länge...