[ad_1]\n<\/p>\n
L’outil de clonage vocal par IA d’ElevenLabs d\u00e9j\u00e0 utilis\u00e9 de mani\u00e8re abusive. L’entreprise r\u00e9fl\u00e9chit d\u00e9sormais \u00e0 comment emp\u00eacher ces abus.<\/p>\n
Il y a quelques jours, la startup sp\u00e9cialis\u00e9e dans l\u2019intelligence artificielle<\/a> vocale ElevenLabs<\/strong> lan\u00e7ait une version b\u00eata de sa plateforme qui permet aux utilisateurs de cr\u00e9er des voix synth\u00e9tiques totalement nouvelles pour du texte-vers-voix ou pour cloner la voix de quelqu\u2019un. Il n\u2019aura malheureusement fallu que quelques jours pour qu\u2019internet<\/a> commence \u00e0 utiliser cet outil de mani\u00e8re malintentionn\u00e9e<\/a>. L\u2019entreprise a r\u00e9v\u00e9l\u00e9 sur Twitter<\/a> constater \u201cun nombre grandissant de cas d\u2019abus de clonage vocal\u201d et r\u00e9fl\u00e9chit aux moyens de g\u00e9rer le probl\u00e8me en \u201cimpl\u00e9mentant des garde-fous suppl\u00e9mentaires\u201d.<\/p>\n Bien qu\u2019ElevenLabs n\u2019ait pas pr\u00e9cis\u00e9 ce qu\u2019elle entend par \u201ccas d\u2019abus\u201d, MotherBoard<\/em> a trouv\u00e9 des posts sur 4chan avec des clips audio proposant des voix g\u00e9n\u00e9r\u00e9es qui ressemblent beaucoup \u00e0 celles de c\u00e9l\u00e9brit\u00e9s qui lisent ou disent quelque chose de tr\u00e8s discutable. L\u2019un d\u2019entre eux, par exemple, propose une voix qui ressemble \u00e0 celle d\u2019Emma Watson<\/a> qui lirait un extrait de Mein Kampf<\/em>. Des utilisateurs ont aussi publi\u00e9 des clips avec des propos homophobes, transphobes, violents ou racistes. Nul ne sait si tous ces clips utilisent effectivement la technologie de ElevenLabs, mais un post avec une grande collection de fichiers audio sur 4chan incluait un lien vers la plateforme de la startup.<\/p>\n Cette \u00e9mergence de \u201cdeepfake\u201d audio n\u2019est peut-\u00eatre pas une surprise, finalement, dans la mesure o\u00f9, il y a quelques ann\u00e9es, nous avons pu constater un ph\u00e9nom\u00e8ne similaire. Les avanc\u00e9es dans l\u2019intelligence artificielle et le machine learning ont entra\u00een\u00e9 une augmentation des vid\u00e9os deepfake<\/a>, et notamment du deepfake dans la pornographie, avec des contenus porno existants modifi\u00e9s pour mettre en sc\u00e8ne les visages de c\u00e9l\u00e9brit\u00e9s. Et oui, certains ont m\u00eame utilis\u00e9 le visage d\u2019Emma Watson dans ce genre de vid\u00e9os.<\/p>\n ElevenLabs rassemble actuellement les retours d\u2019utilisateurs et sp\u00e9cialistes sur la mani\u00e8re d\u2019emp\u00eacher les utilisateurs d\u2019abuser de cette technologie. \u00c0 l\u2019heure actuelle, il serait question d\u2019ajouter davantage de couches dans la v\u00e9rification des comptes pour activer le clonage vocal, comme rendre obligatoire la saisie d\u2019une m\u00e9thode de paiement ou d\u2019une carte d\u2019identit\u00e9. L\u2019entreprise envisage aussi la possibilit\u00e9 de v\u00e9rifier la propri\u00e9t\u00e9 des droits d\u2019auteurs de la voix que l\u2019utilisateur souhaite cloner, comme en leur faisant envoyer un \u00e9chantillon avec un texte lu. Enfin, la startup r\u00e9fl\u00e9chit \u00e0 retirer son outil Voice Lab du march\u00e9 et ne fonctionner que via des requ\u00eates qu\u2019elle pourrait v\u00e9rifier manuellement. \u00c0 suivre !<\/p>\n Crazy weekend \u2013 thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!<\/p>\n \u2014 ElevenLabs (@elevenlabsio) January 30, 2023<\/a><\/p>\n<\/blockquote>\n<\/div>\nL\u2019outil de clonage vocal par IA d\u2019ElevenLabs d\u00e9j\u00e0 utilis\u00e9 de mani\u00e8re abusive<\/h2>\n
\n