{"id":74518,"date":"2023-12-11T12:03:07","date_gmt":"2023-12-11T12:03:07","guid":{"rendered":"https:\/\/www.tunimedia.tn\/fr\/civitai-plateforme-dia-controversee-lachee-par-son-fournisseur-de-cloud-suite-a-des-soupcons-de-csam\/"},"modified":"2023-12-11T12:03:07","modified_gmt":"2023-12-11T12:03:07","slug":"civitai-plateforme-dia-controversee-lachee-par-son-fournisseur-de-cloud-suite-a-des-soupcons-de-csam","status":"publish","type":"post","link":"https:\/\/tunimedia.tn\/fr\/civitai-plateforme-dia-controversee-lachee-par-son-fournisseur-de-cloud-suite-a-des-soupcons-de-csam\/","title":{"rendered":"Civitai, plateforme d&rsquo;IA controvers\u00e9e, l\u00e2ch\u00e9e par son fournisseur de cloud suite \u00e0 des soup\u00e7ons de CSAM"},"content":{"rendered":"<p> [ad_1]\n<\/p>\n<div>\n<p class=\"chapo\">404Media a d\u00e9couvert que Civitai pouvait \u00eatre utilis\u00e9 pour cr\u00e9er des images qui pourraient \u00eatre qualifi\u00e9es de pornographie infantile ou de mat\u00e9riel d&rsquo;abus sexuel sur des enfants (CSAM). Quelles mesures devraient-elles \u00eatre prises pour pr\u00e9venir cette situation inqui\u00e9tante ?<\/p>\n<div class=\"tldr\">\n<h2 id=\"Tldr\" class=\"adn_sommaire\">Tl;dr<\/h2>\n<ul>\n<li>OctoML met fin \u00e0 son partenariat avec Civitai suite \u00e0 une enqu\u00eate.<\/li>\n<li>Civitai est accus\u00e9 d\u2019avoir g\u00e9n\u00e9r\u00e9 de la pornographie impliquant des mineurs.<\/li>\n<li>Des filtres de mod\u00e9ration ont \u00e9t\u00e9 mis en place trop tard.<\/li>\n<li>OctoML r\u00e9affirme son engagement pour l\u2019utilisation responsable de l\u2019IA.<\/li>\n<\/ul>\n<\/div>\n<h2 id=\"Fin-dune-collaboration-empoisonnee\" class=\"adn_sommaire\">Fin d\u2019une collaboration empoisonn\u00e9e<\/h2>\n<p><strong>OctoML<\/strong> a mis fin \u00e0 sa relation d\u2019affaires avec <a href=\"https:\/\/www.begeek.fr\/cette-plateforme-ai-populaire-lance-un-systeme-de-recompenses-pour-stimuler-la-creation-de-deepfakes-de-celebrites-388935\">Civitai, une plateforme de transformation de textes en images<\/a>, r\u00e9v\u00e8le une enqu\u00eate de <em>404 Media<\/em>. Celle-ci a r\u00e9v\u00e9l\u00e9 que Civitai avait \u00e9t\u00e9 utilis\u00e9 pour g\u00e9n\u00e9rer des images pouvant \u00eatre cat\u00e9goris\u00e9es comme de la pornographie infantile.<\/p>\n<h2 id=\"Mesures-correctives-tardives\" class=\"adn_sommaire\">Mesures correctives tardives<\/h2>\n<p>Civitai qui comptait pr\u00e9c\u00e9demment sur le logiciel de g\u00e9n\u00e9ration d\u2019images d\u2019<strong>OctoML<\/strong>, OctoAI. Les deux soci\u00e9t\u00e9s se sont trouv\u00e9es dans la tourmente lorsque le <em>5 d\u00e9cembre<\/em>, <em>404 Media<\/em> a d\u00e9clar\u00e9 que certains utilisateurs de Civitai cr\u00e9aient du mat\u00e9riel sexuellement explicite. Notamment des images non consensuelles de personnes r\u00e9elles et des repr\u00e9sentations pornographiques d\u2019enfants.<\/p>\n<p>Dans la foul\u00e9e, OctoML a introduit de nouvelles mesures pour freiner la cr\u00e9ation d\u2019images pr\u00e9judiciables : un filtre bloquant tout contenu NSFW sur Civitai. De son c\u00f4t\u00e9, Civitai a ajout\u00e9 des m\u00e9thodes de mod\u00e9ration, dont une op\u00e9ration obligatoire nomm\u00e9e Civitai Safe Helper. Cela emp\u00eache la g\u00e9n\u00e9ration d\u2019images d\u2019enfants lorsqu\u2019un th\u00e8me mature ou mot-cl\u00e9 est d\u00e9tect\u00e9.<\/p>\n<h2 id=\"Un-depart-inevitable\" class=\"adn_sommaire\">Un d\u00e9part in\u00e9vitable<\/h2>\n<p>Mais <strong>OctoML<\/strong>, qui utilise les serveurs d\u2019<a href=\"https:\/\/www.begeek.fr\/amazon-affirme-que-ses-puces-de-nouvelle-generation-multiplient-par-quatre-la-vitesse-dapprentissage-de-lia-389611\">Amazon Web Services<\/a>, a finalement d\u00e9cid\u00e9 de se retirer. Dans une d\u00e9claration \u00e0 <em>404 Media<\/em> le samedi dernier, OctoML expliquait : \u00ab Nous avons d\u00e9cid\u00e9 de mettre fin \u00e0 notre relation commerciale avec Civitai. Cette d\u00e9cision est conforme \u00e0 notre engagement pour l\u2019utilisation s\u00e9curis\u00e9e et responsable de l\u2019IA. \u00bb<\/p>\n<\/div>\n[ad_2]\n<br \/><a href=\"https:\/\/www.begeek.fr\/civitai-plateforme-dia-controversee-lachee-par-son-fournisseur-de-cloud-suite-a-des-soupcons-de-csam-390183\">Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>[ad_1] 404Media a d\u00e9couvert que Civitai pouvait \u00eatre utilis\u00e9 pour cr\u00e9er des images qui pourraient \u00eatre qualifi\u00e9es de pornographie infantile ou de mat\u00e9riel d&rsquo;abus sexuel sur des enfants (CSAM). Quelles mesures devraient-elles \u00eatre prises pour pr\u00e9venir cette situation inqui\u00e9tante ? Tl;dr OctoML met fin \u00e0 son partenariat avec Civitai suite \u00e0 une enqu\u00eate. Civitai est &hellip;<\/p>\n","protected":false},"author":1,"featured_media":74519,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[16,335,19,349,239],"tags":[],"class_list":["post-74518","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-high-tech","category-tie-games","category-mode","category-tech-net","category-web"],"jetpack_featured_media_url":"https:\/\/tunimedia.tn\/fr\/wp-content\/uploads\/2023\/12\/Civitai.jpg","jetpack_sharing_enabled":true,"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts\/74518","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/comments?post=74518"}],"version-history":[{"count":0,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts\/74518\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/media\/74519"}],"wp:attachment":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/media?parent=74518"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/categories?post=74518"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/tags?post=74518"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}