[ad_1]\n<\/p>\n
Google veut un filigrane num\u00e9rique invisible pour le contenu g\u00e9n\u00e9r\u00e9 par l’IA. Une solution prometteuse, pas infaillible, pour identifier ces contenus.<\/p>\n
Google<\/a><\/strong> fait un pas de plus vers une certaine transparence dans les contenus g\u00e9n\u00e9r\u00e9s par IA. Google DeepMind a annonc\u00e9 SynthID<\/a>, un outil d\u2019identification et filigrane pour l\u2019art g\u00e9n\u00e9ratif. L\u2019entreprise explique que la technologie int\u00e8gre un filigrane num\u00e9rique, invisible \u00e0 l\u2019\u0153il humain, directement dans les pixels d\u2019une image. SynthID va \u00eatre d\u00e9ploy\u00e9 aupr\u00e8s d\u2019un \u201cnombre limit\u00e9\u201d de clients qui utilisent Imagen, le g\u00e9n\u00e9rateur de Google disponible dans sa suite d\u2019outils IA cloud.<\/p>\n L\u2019un des soucis de l\u2019art g\u00e9n\u00e9ratif, except\u00e9 les implications \u00e9thiques, est son potentiel \u00e0 cr\u00e9er des deepfakes<\/a>, avec toutes les cons\u00e9quences que cela peut entra\u00eener. \u201cInt\u00e9grer un filigrane sur le contenu audio et visuel pour indiquer plus clairement que le contenu est g\u00e9n\u00e9r\u00e9 par une IA\u201d fut l\u2019un des engagements volontaires pris par les sept soci\u00e9t\u00e9s IA en juillet dernier, apr\u00e8s une r\u00e9union \u00e0 la Maison-Blanche. Google est la premi\u00e8re de ces entreprises \u00e0 lancer un tel syst\u00e8me.<\/p>\n Google n\u2019est pas trop rentr\u00e9 dans les d\u00e9tails de l\u2019impl\u00e9mentation technique de SynthID, mais indique que le filigrane ne peut pas \u00eatre retir\u00e9 facilement via de simples techniques d\u2019\u00e9dition. \u201cTrouver le bon \u00e9quilibre entre l\u2019imperceptibilit\u00e9 et la robustesse pour les manipulations d\u2019images est difficile\u201d, \u00e9crit l\u2019entreprise dans un post sur le blog de DeepMind. \u201cNous avons con\u00e7u SynthID pour que la qualit\u00e9 d\u2019image ne soit pas compromise et permette au filigrane de rester d\u00e9tectable, m\u00eame apr\u00e8s des modifications comme l\u2019ajout de filtres, des changements de couleurs et le passage via diff\u00e9rents algorithmes de compression avec perte \u2013 souvent utilis\u00e9s pour le JPEG\u201d, expliquent les responsables du projet Sven Gowal et Pushmeet Kohli.<\/p>\n La partie identification de SynthID \u00e9value l\u2019image sur trois niveaux de confiance du filigrane num\u00e9rique : d\u00e9tect\u00e9, non d\u00e9tect\u00e9 et possiblement d\u00e9tect\u00e9. Dans la mesure o\u00f9 l\u2019outil est embarqu\u00e9 dans les pixels de l\u2019image, Google explique que son syst\u00e8me peut fonctionner aux c\u00f4t\u00e9s des approches bas\u00e9es sur les m\u00e9tadonn\u00e9es, comme celle d\u2019Adobe pour ses fonctionnalit\u00e9s g\u00e9n\u00e9ratives dans Photoshop, actuellement en b\u00eata ouverte.<\/p>\n SynthID inclut deux mod\u00e8les de deep learning : un pour le filigrane, un autre pour l\u2019identification. Google explique que les deux ont \u00e9t\u00e9 entra\u00een\u00e9s sur de nombreuses images, pour aboutir \u00e0 un mod\u00e8le ML combin\u00e9. \u201cLe mod\u00e8le combin\u00e9 est optimis\u00e9 sur la base d\u2019objectifs, dont l\u2019identification correcte de contenu avec filigrane et l\u2019am\u00e9lioration de l\u2019imperceptibilit\u00e9 en alignant visuellement le filigrane avec le contenu original\u201d, \u00e9crivent Sven Gowal et Pushmeet Kohli.<\/p>\n Google reconnait que ce n\u2019est pas une solution parfaite, ajoutant qu\u2019elle n\u2019est pas \u201ctotalement prot\u00e9g\u00e9e des manipulations extr\u00eames d\u2019images\u201d, mais le filigrane est \u201cune approche technique prometteuse pour permettre aux gens et aux organisations de travailler avec des contenus g\u00e9n\u00e9r\u00e9s par IA de mani\u00e8re responsable.\u201d L\u2019entreprise explique que l\u2019outil pourrait \u00eatre \u00e9tendu \u00e0 d\u2019autres mod\u00e8les IA, dont ceux qui g\u00e9n\u00e8rent du texte (comme ChatGPT<\/a>), de la vid\u00e9o et de l\u2019audio.<\/p>\n Bien que les filigranes pourraient effectivement aider \u00e0 lutter contre les deepfakes, il est facile d\u2019imaginer la course avec les hackers, avec les services qui adopteront SynthID et qui devront \u00eatre mis continuellement \u00e0 jour. Par ailleurs, la nature open-source de Stable Diffusion, l\u2019un des outils de g\u00e9n\u00e9ration de contenu les plus populaires, pourrait rendre l\u2019adoption de SynthID ou similaire au niveau de l\u2019industrie un v\u00e9ritable d\u00e9fi. Il y a d\u00e9j\u00e0 de nombreuses versions qui tournent sur des PC en local. Quoi qu\u2019il en soit, Google esp\u00e8re pouvoir proposer SynthID aux tierces parties int\u00e9ress\u00e9es \u201cdans un futur proche\u201d, ne serait-ce que pour am\u00e9liorer la transparence de l\u2019IA.<\/p>\nGoogle veut un filigrane num\u00e9rique invisible pour le contenu g\u00e9n\u00e9r\u00e9 par l\u2019IA<\/h2>\n
Une solution prometteuse, pas infaillible, pour identifier ces contenus<\/h2>\n