Les derniers deepfakes en date montrent à quel point les arnaques ont évolué. Faites très attention lorsque vous regardez des vidéos en ligne.
“Ne croyez pas tout ce que vous voyez sur Internet”. Qu’il s’agisse d’un blog personnel, un tweet, une vidéo YouTube ou TikTok, ou autre. Mais nous sommes aujourd’hui à une époque où il est plus difficile que jamais de faire la différence. L’IA générative est désormais capable de reproduire l’apparence d’une célébrité et faire dire à ces “clones” ce qu’elle veut. Ces deepfakes ne sont pas encore extrêmement convaincants, mais la qualité est suffisante pour en duper un grand nombre. Et c’est effrayant.
Les derniers deepfakes en date montrent à quel point les arnaques ont évolué
Ces dernières semaines, trois profils très populaires ont été pris pour cible. Le premier est Tom Hanks : l’acteur a publié une capture d’écran sur son Instagram d’une vidéo faisant la promotion d’un programme dentaire, avec un porte-parole qui ressemble à Tom Hanks avec de nouvelles dents. La vidéo n’est pas accessible publiquement et Tom Hanks ne l’a pas partagée pour ne pas en faire la promotion. Mais le fait est que quelqu’un a réalisé un deepfake pour promouvoir un produit. En regardant bien la capture, on voit bien que quelque chose cloche sur le visage. Et sur la vidéo, il y a fort à parier que l’on aurait pu détecter quelque chose aussi.
Tom Hanks n’était pas le seul dans ce cas. Gayle King, de CBS Mornings, a publié un deepfake sur son compte Instagram, indiquant que plusieurs personnes lui ont envoyé la vidéo et qu’elle n’avait rien à voir avec cela. Elle a partagé la vidéo originale sur laquelle le deepfake est basé, une vidéo d’elle avec Bruce Springsteen. Les plus attentifs remarqueront que la première vidéo est fausse. Les mouvements des lèvres ne correspondent pas à l’audio et si la voix ressemble, ce n’est pas tout à fait ça. Cela étant dit, tout le monde n’y prête pas nécessairement attention.
Dernier exemple, Mr. Beast, et une fausse publicité proposée aux utilisateurs de TikTok, dans laquelle Mr. Beast félicite l’utilisateur d’être parmi les heureux gagnants d’un iPhone 15 Pro pour deux dollars. Cette vidéo est l’une des plus réussies, mais elle a, elle aussi, des soucis. De nombreux utilisateurs devraient facilement se faire avoir.
Comme Marques Brownlee l’a dit, c’est le pire de cette technologie. Et les deepfakes ne feront que s’améliorer avec le temps, jusqu’à devenir très difficiles, voire impossibles à distinguer d’une vidéo tout à fait légitime. À l’heure actuelle, ce genre de manipulation reste le plus efficace lorsqu’il n’y a que de l’audio, mais les progrès sont très rapides.
Lots of people are getting this deepfake scam ad of me… are social media platforms ready to handle the rise of AI deepfakes? This is a serious problem pic.twitter.com/llkhxswQSw
— MrBeast (@MrBeast) October 3, 2023
Faites très attention lorsque vous regardez des vidéos en ligne
Les sociétés de media sociaux doivent être proactives dans leur lutte contre ces fausses vidéos, mais les internautes ont aussi un rôle à jouer. Il convient de faire attention, plus que jamais. Voir une célébrité en vidéo déclarer ceci ou cela, faire la promotion d’un produit ou autre ne signifie que ceci est légitime. Vérifiez le compte qui publie, s’il est certifié, notamment, regardez les commentaires, etc.
Prenez le temps d’analyser la vidéo en elle-même. Les mouvements des yeux et de la bouche semblent souvent étranges. La majorité de ces vidéos trafiquées sont aussi de piètre qualité. Ceci parce qu’une qualité élevée viendrait exacerber les défauts sur les yeux et la bouche, entre autres. Les deepfakes reposent sur une vidéo bien réelle d’une personne, sur laquelle on vient superposer de nouveaux éléments. il est difficile de faire cela en haute résolution sans problème visible.
Un mot d’ordre : scepticisme. A fortiori maintenant que l’IA générative est si répandue.
