[ad_1]\n<\/p>\n
PhotoGuard, l’algorithme du MIT qui veut prot\u00e9ger vos photos des IA. Il est plus que temps de se pencher sur ces questions.<\/p>\n
Dall-E et Stable Diffusion n\u2019\u00e9taient que les premiers. Les syst\u00e8mes d\u2019IA g\u00e9n\u00e9rative<\/strong> prolif\u00e8rent et les soci\u00e9t\u00e9s tentent de se diff\u00e9rencier. Les chatbots gagnent des capacit\u00e9s d\u2019\u00e9dition et de cr\u00e9ation d\u2019images, avec des g\u00e9ants comme Shutterstock et Adobe qui m\u00e8nent la danse. Mais ces fonctions propuls\u00e9es par l\u2019IA ne sont pas sans danger, comme la manipulation sans autorisation ou le vol de droit d\u2019auteur. L\u2019introduction de filigrane peut aider, mais la nouvelle technique PhotoGuard d\u00e9velopp\u00e9e par MIT CSAIL va plus loin<\/a>.<\/p>\n PhotoGuard fonctionne en modifiant certains pixels d\u2019une image pour qu\u2019une IA ne puisse plus comprendre ce qu\u2019est l\u2019image. Ces \u201cperturbations\u201d sont invisibles \u00e0 l\u2019\u0153il humain, mais facilement lisibles par les machines. La m\u00e9thode d\u2019attaque par encodage pour introduire ces art\u00e9facts cible la repr\u00e9sentation latente du mod\u00e8le algorithmique de l\u2019image cible \u2013 les math\u00e9matiques<\/a> complexes qui d\u00e9crivent la position et la couleur de chaque pixel \u2013 pour emp\u00eacher l\u2019IA de comprendre de quoi il s\u2019agit.<\/p>\n Cette m\u00e9thode de \u201cdiffusion\u201d avanc\u00e9e vient camoufler une image, la faisant passer pour autre chose aux yeux de l\u2019IA. Le syst\u00e8me d\u00e9finit une image cible et optimise les perturbations dans cette image pour que celle-ci ressemble \u00e0 sa cible. Chaque modification qu\u2019une IA tente de r\u00e9aliser sur ces images \u201cimmunis\u00e9es\u201d seront appliqu\u00e9es aux images \u201ccibles\u201d, produisant une image de sortie non r\u00e9aliste.<\/p>\n \u201cCette attaque fait croire au mod\u00e8le que l\u2019image d\u2019entr\u00e9e (\u00e0 \u00e9diter) est autre chose (une image grise, par exemple)\u201d, expliquait l\u2019auteur principal de cette \u00e9tude, Hadi Salman, \u00e0 Engadget. \u201cL\u2019attaque par diffusion force le mod\u00e8le de diffusion \u00e0 r\u00e9aliser ses modifications sur une image cible (laquelle peut \u00eatre grise ou tout \u00e0 fait al\u00e9atoire).\u201d Cette technique n\u2019est pas infaillible, des personnes malveillantes pourraient inverser cette protection en ajoutant du bruit num\u00e9rique, en rognant ou en faisant tourner l\u2019image.<\/p>\n \u201cUne approche collaborative impliquant les d\u00e9veloppeurs de mod\u00e8les, les plateformes de media sociaux<\/a> et les r\u00e9gulateurs propose une d\u00e9fense robuste contre la manipulation d\u2019image sans autorisation. Travailler sur ce sujet est d\u2019une importance capitale aujourd\u2019hui,\u201d d\u00e9clarait Hadi Salman dans un communiqu\u00e9. \u201cEt si je suis heureux de contribuer \u00e0 cette solution, il y a encore beaucoup \u00e0 faire pour rendre cette protection efficace. Les soci\u00e9t\u00e9s qui d\u00e9veloppent ces mod\u00e8les doivent travailler sur des protections robustes contre les menaces potentielles propos\u00e9es par ces outils IA.\u201d<\/p>\nPhotoGuard, l\u2019algorithme du MIT qui veut prot\u00e9ger vos photos des IA<\/h2>\n
Il est plus que temps de se pencher sur ces questions<\/h2>\n