Il apparaît que la fonctionnalité « bounties » est principalement utilisée pour reproduire les figures féminines, ce qui n’est pas vraiment étonnant. Cela vous surprend-il ?
Tl;dr
- Civitai propose un système de “bounties” pour encourager le développement de deepfakes.
- Des images non consensuelles sont primées et circulent sur la plateforme.
- Le marché de l’IA générateur accorde une grande attention à ces demandes.
- Civitai autorise les images sexuelles des figures publiques et non sexuelles des personnes ordinaires.
Le “bounty” de Civitai : un appel au réalisme
Civitai, une plateforme en ligne d’échange de modèles d’Intelligence Artificielle (IA), a récemment ajouté une fonctionnalité intrigante à son service : des “bounties”. Ces derniers visent à stimuler sa communauté dans le développement de deepfakes convaincants de véritables personnes, une tendance alarmante révélée par 404 Media.
Le contenu choquant et inquiétant
Ces “bounties” invitent de manière alarmante les utilisateurs à recréer l’image de célébrités et d’influenceurs des médias sociaux, souvent féminins. “Je crains beaucoup ce que cela peut devenir”, a avoué Michele Alves, une influenceuse Instagram concernée par un “bounty” sur Civitai, à 404 Media. “Je ne sais pas quelles mesures je pourrais prendre, puisque l’internet semble être un lieu hors de contrôle.” De plus, bon nombre de ces travaux sont catalogués comme des “images sexuelles non consenties”, ajoutant un niveau d’horreur supplémentaire à cette pratique déjà déconcertante.
L’IA au cœur de la controverse
Voici où l’IA entre en jeu de façon plus prégnante : non seulement elle facilite la création de ces faux réalistes, mais elle permet également à leur diffusion de prendre de l’ampleur sur une plateforme populaire comme Civitai. Selon le cabinet d’études de marché Andreessen Horowitz, Civitai est actuellement la septième plateforme d’IA générative la plus populaire. Les demandes d’image peuvent être rapidement exécutées, rendant cette pratique encore plus préoccupante.
L’avis de la rédaction
En tant que journaliste d’actualité, je tiens à exprimer mon profond malaise face à l’essor de telles pratiques. Il est nécessaire de faire respecter l’éthique et la moralité dans l’univers de l’IA qui se veut être un outil de création et non de destruction de la vie privée. Il serait ainsi essentiel et urgent que les instances législatives agissent en régulant sévèrement ce type de dérives. Notre avenir en tant que société dépend de la façon dont nous gérerons et utiliserons les avancées technologiques.
Source link
