Wie gefährlich sind Sprachnachrichten? - Voice Cloning mit KI

Wie gefährlich ist es, Sprachnachrichten zu schicken? Eigentlich gar nicht, könnte man denken. Aber mit Künstlicher Intelligenz werden immer mehr Stimmen geklont ... Diese Podcast-Folge ist einer Eurer Lieblingspodcasts 2023.

Host in dieser Folge ist Stefan Geier. 
Gesprächspartner: Fritz Espenlaub
Redaktion: Miriam Stumpfe

Voice Cloning oder auch Audio Deepfake nennt sich die Technik. Eine KI analysiert dafür eine menschliche Stimme und imitiert sie dann -mit etwas Mühe und Geduld täuschend echt. Das Ganze kann schnell etwas Gruseliges bekommen. Seit wir dieses Thema im Sommer 2023 besprochen haben, ist die Technik schon wieder einen ganzen Schritt weiter. Inzwischen sind die Voice Cloning Maschinen in der Lage, an den richtigen Stellen Pausen zu machen und: sie klingen nochmal ein ganzes Stück authentischer. 

Betrug mit geklonter Stimme 

Stellt Euch vor: Ihr werdet von einem Familienmitglied angerufen und erfahrt - ein Unfall ist passiert. Und dann wird man gebeten, eine Kaution zu bezahlen. Klingt wie in einem schlechten Film - ist aber tatsächlich so passiert. Die Stimme war aber gefälscht, von einer Künstlichen Intelligenz kopiert - Voice Cloning eben. 

Das Netz ist inzwischen ziemlich voll mit Beispielen von Stimm-Klons. Die meisten sind eher zum Schmunzeln. Wenn z.B. Country - Legende Johnny Cash plötzlich den Barbie Song singt oder wenn Bundeskanzler Olaf Scholz einen Song aus der Eisprinzessin zum besten gibt. 

Weil die Technik aber auch mißbraucht wird, schauen wir heute mal genauer drauf. 

Host Stefan testet an seiner eigenen Stimme, wie weit man mit relativ wenig Aufwand beim Voice-Cloning kommt. Wie gut kann eine künstliche Intelligenz seine Stimme imitieren? 

Dürfen wir keine Sprachnachrichten mehr schicken?

Dann besprechen wir mit Fritz Espenlaub, Host des neuen „Der KI Podcast“ von BR24 und SWR. Wie weit ist die Technik beim Voice Cloning und Audio Deepfake? Wie können wir davon profitieren? Aber auch: welche Gefahren stecken darin und wie können wir uns vor Voice-Clones schützen? 

Zum neuen Podcast über alles, was mit künstlicher Intelligenz zu tun hat "Der KI Podcast" geht es hier

Künstliche Intelligenz an die Leine nehmen - Was plant die EU mit der neuen KI Verordnung?

Wie Betrüger unsere Stimmen klauen. Das haben die Kollegen von Vollbild exklusiv recherchiert. Die ganze Reportage und Infos findet Ihr hier

Hier sind die IQ-Podcast-Lieblingsfolgen 2023

Oppenheimer und das Manhattan-Projekt - Nuklearwaffen haben die Welt verändert

Gedächtnisforschung - Was hilft gegen Vergesslichkeit?

Wie gefährlich sind Sprachnachrichten? - Voice Cloning mit KI

Paralleluniversen - Leben wir im Multiversum?

Stärker als böse Bakterien? - Wie Bakteriophagen multiresistente Keime bekämpfen 

Mit Sklavenelend erkauft - Verdrängte Ursprünge der Industrialisierung 

Die Bettwanzen kommen - Frankreich, England und wann ist Deutschland dran?

Abwasser - Was macht es so wertvoll?

Alle Folgen von IQ gibt es auch in der ARD Audiothek. Falls Euch der IQ-Podcast gefällt, freuen wir uns über eine gute Bewertung, eine Weiterempfehlung und ein Abo.