Die fortschreitende Entwicklung künstlicher Intelligenz hat zahlreiche Vorteile, aber auch eine dunkle Seite – die menschliche Gier!

Der neueste Trend auf dem Verbrechensmarkt ist es,  KI-gestützte Technologie zum Klonen von Stimmen zu nutzen, um ahnungslose Opfer am Telefon zu täuschen und um Geld oder vertrauliche Informationen zu erlangen. 

Das Missbrauchspotenzial der Technologie übersteigt zunehmend die Fähigkeit der Öffentlichkeit, mit den Tricks böser Akteure Schritt zu halten, wie jüngst mehrere Betrugsfälle aus Kanada belegen. Doch nicht nur Verbrecher nutzen die Technologie zum eigenen Vorteil: Unternehmen bedrohen ganze Berufszweige, indem sie Synchronsprecher ersetzen und deren Stimmen mit KI synthetisieren, oft ohne angemessene Vergütung.

Enkeltrick 2.0: Betrüger nutzen künstliche Intelligenz, um Stimmen von Angehörigen zu imitieren und ahnungslose Opfer zu täuschen

 

In Kanada haben sich kürzlich Fälle von Enkeltrick 2.0 ereignet, bei denen Betrüger künstliche Intelligenz nutzen, um die Stimmen von Angehörigen zu imitieren und arglose Opfer um ihr Geld zu bringen. Einer Frau wurde durch einen Anruf ein dringender Geldbedarf ihres vermeintlichen Enkels vorgetäuscht. Sie war so überzeugt von der Stimme, dass sie den Höchstbetrag bei ihrer Bank abhob. Glücklicherweise wurde ein Bankangestellter auf den Betrugsversuch aufmerksam und verhinderte Schlimmeres. Doch nicht alle Opfer haben so viel Glück. Ein weiteres Paar in Kanada wurde durch den Einsatz von KI davon überzeugt, dass ihr Sohn in einen Unfall mit US-Diplomaten verwickelt war und überwies einen erheblichen Betrag, ohne einen Betrug zu ahnen. Die perfekte Imitation von Stimmen durch künstliche Intelligenz macht es für ahnungslose Opfer sehr schwierig, solche KI-gestützten Betrugsversuche zu erkennen und sich dagegen zu schützen.

Wie kommt die KI an die Stimmen?

 

Laut Hany Farid, einem Professor für Forensik an der UC Berkeley, war das Klonen einer Stimme vor ein oder zwei Jahren noch sehr aufwändig. Mittlerweile reichen jedoch bereits 30 Sekunden Audioaufnahme in sozialen Medien wie zum Beispiel Facebook oder TikTok aus, um eine Stimme perfekt zu imitieren. 

Aber auch Unternehmen scheuen sich nicht davor, die Technologie des KI- Stimmenklonens für fragwürdige Praktiken und Profitzwecke zu nutzen. 

 

Ein Beispiel dafür ist das Startup ElevenLabs, ein Unternehmen, das für nur 5 Dollar pro Monat einen KI-Stimm-Synthese-Service anbietet. Die Ergebnisse sind so überzeugend, dass ein Journalist sogar sein eigenes Bankkonto damit gehackt hat. 

Doch damit nicht genug: Die KI hat sogar ein neues Genre von Memes hervorgebracht, die Präsident Joe Biden imitieren. Die Verfügbarkeit des Stimmenklonens von ElevenLabs – erst seit 2022 – zeigt das enorme Potenzial, das KI für die Stimmenimitation bietet und wie schnell sich diese Technologie weiterentwickelt.

Die Auswirkungen der künstlichen Intelligenz beschränken sich nicht nur auf Betrüger, sondern haben auch Auswirkungen auf die Arbeitswelt. 

 

Insbesondere die Synchronsprecher-Branche leidet unter dem Einsatz von KI. Laut einem Bericht von Vice gibt es in den USA einen besorgniserregenden Trend in der Branche, bei dem Schauspieler Verträge unterschreiben, die es den Kunden ermöglichen, ihre Stimmen mithilfe von KI zu synthetisieren, um sie so lange zu nutzen, wie sie wollen, ohne zusätzliche Vergütung zu zahlen. Einige Schauspieler werden sogar gezwungen, solche Klauseln zu akzeptieren, um überhaupt angestellt zu werden. 

Die KI-Klauseln in diesen Verträgen sind oft trügerisch eingebettet, und viele Synchronsprecher haben möglicherweise unwissentlich einen solchen Vertrag unterschrieben und festgestellt, dass ihre Stimmen in KI-Apps und Websites synthetisiert wurden, ohne ihre Zustimmung zu geben.

Dies hat Auswirkungen auf die gesamte Branche und zeigt, dass der Einsatz von künstlicher Intelligenz auch unerwartete Auswirkungen auf die Arbeitswelt haben kann. Viele bekannte Synchronsprecher haben ihre Stimme erhoben und ihre Empörung über den Einsatz von KI zur Nachahmung ihrer Stimmen zum Ausdruck gebracht. Es ist wichtig, dass diese Branche und andere Berufe, die von KI betroffen sind, die Kontrolle über ihre Arbeit behalten und sicherstellen, dass ihre Arbeit fair vergütet und respektiert wird.

Wir müssen uns bewusst werden, wie sehr die Technologien unserer Zeit nicht nur unsere guten Absichten beflügeln, sondern auch unsere Abgründe. Es bedarf dringend einer moralischen Diskussion und einem weltweiten Konsens über unsere digitale Ethik, um uns vor den Tricks böser Akteure und der Ausbeutung durch die Wirtschaft zu schützen. Einen spannenden Ansatz dazu hat Thomas-Gabriel Rüdiger entworfen.