Des chercheurs expliquent que les filigranes IA actuels sont trop faciles à retirer. Un nouveau jeu du chat et de la souris risque de voir le jour.
Un filigrane traditionnel est un logo ou un motif visible qui peut apparaître sur un billet ou un timbre, par exemple, pour décourager, ou du moins complexifier, la contrefaçon. On peut en voir sur certaines images sur le net, notamment. Mais dans le cas de l’intelligence artificielle, c’est un peu différent.
Des chercheurs expliquent que les filigranes IA actuels sont trop faciles à retirer
Dans le contexte de l’IA, un filigrane permet à un ordinateur de savoir si un texte ou une image a été générée par l’intelligence artificielle. Mais pourquoi intégrer un filigrane en premier lieu ? Les algorithmes génératifs représentent un problème quand ils servent à créer des deepfakes ou d’autres types de désinformation. Bien qu’ils soient invisibles à l’œil nu, les filigranes peuvent aider à combattre ces mauvaises utilisations et peuvent même être intégrés dans des programmes de machine learning développés par des géants comme Google. D’autres acteurs majeurs, d’OpenAI à Meta ou Amazon, se sont engagés à développer ce genre de technologies.
C’est pour cela que des chercheurs de l’Université du Maryland (UMD) ont décidé d’étudier en profondeur comment des personnes malveillantes peuvent ajouter ou retirer des filigranes. Soheil Feizi, professeur à UMD, déclarait à Wired que les conclusions de son équipe confirment son scepticisme : à l’heure actuelle, il n’existe aucune solution de filigrane fiable. Les chercheurs ont pu facilement éviter les méthodes actuelles pendant leurs tests et ont même trouvé plus simple encore d’ajouter de fausses marques sur des images qui n’étaient pas générées par IA. Mais au-delà de cela, une équipe de l’UMD a mis au point un filigrane qui est presque impossible à retirer du contenu sans pour autant compromettre complètement la propriété intellectuelle. Cette application permet de détecter lorsque les produits sont volés.
Dans une initiative similaire entre les Universités de Californie, Santa Barbara et Carnegie Mellon, des chercheurs ont trouvé que, via des attaques simulées, les filigranes peuvent être facilement supprimés. Il y a deux méthodes distinctes pour ce faire : l’approche destructive et l’approche constructive. La première consiste à traiter le filigrane comme faisant partie d’une image. En agissant sur des éléments comme la luminosité, le contraste ou la compression JPEG, ou même simplement en faisant pivoter une image, il est possible de supprimer un filigrane. Ceci étant dit, la qualité de l’image en pâtit, souvent largement. Dans l’approche constructive, la suppression du filigrane est plus délicate et implique l’utilisation de techniques comme le flou gaussien.
Un nouveau jeu du chat et de la souris risque de voir le jour
Bien que l’intégration d’un filigrane sur le contenu généré par IA doive effectivement être améliorée, il est facile d’imaginer un scenario dans lequel le filigrane numérique représentera une course contre les hackers. En attendant un nouveau standard, nous ne pouvons qu’espérer que les outils à venir, comme Google SynthID, continueront d’être améliorés jusqu’à devenir mainstream.
Mais le timing de cette innovation par les géants de la tech ne pourrait pas être meilleur. Avec l’élection présidentielle américaine qui aura lieu l’année prochaine, le contenu généré par IA devrait jouer un rôle important pour influencer l’opinion politique, notamment via les deepfakes. L’administration Biden a même émis un avertissement sur le sujet, rappelant que l’intelligence artificielle peut être utilisée de manière malveillante, notamment pour la désinformation.
Source link
