{"id":73680,"date":"2023-12-01T10:01:23","date_gmt":"2023-12-01T10:01:23","guid":{"rendered":"https:\/\/www.tunimedia.tn\/fr\/une-attaque-fait-devoiler-a-chatgpt-de-veritables-numeros-de-telephone-et-adresses-email\/"},"modified":"2023-12-01T10:01:23","modified_gmt":"2023-12-01T10:01:23","slug":"une-attaque-fait-devoiler-a-chatgpt-de-veritables-numeros-de-telephone-et-adresses-email","status":"publish","type":"post","link":"https:\/\/tunimedia.tn\/fr\/une-attaque-fait-devoiler-a-chatgpt-de-veritables-numeros-de-telephone-et-adresses-email\/","title":{"rendered":"Une attaque fait d\u00e9voiler \u00e0 ChatGPT de v\u00e9ritables num\u00e9ros de t\u00e9l\u00e9phone et adresses email"},"content":{"rendered":"<p> [ad_1]\n<\/p>\n<div>\n<p class=\"chapo\">Un nouvel exemple qui montre que tout n&rsquo;est pas rose dans le monde de l&rsquo;intelligence artificielle g\u00e9n\u00e9rative.<\/p>\n<div class=\"tldr\">\n<h2 id=\"Tldr\" class=\"adn_sommaire\">Tl;dr<\/h2>\n<ul>\n<li>Des chercheurs ont r\u00e9ussi \u00e0 faire r\u00e9v\u00e9ler \u00e0 ChatGPT des donn\u00e9es priv\u00e9es.<\/li>\n<li>Les mod\u00e8les de langage utilisaient des donn\u00e9es publiques sans consentement.<\/li>\n<li>Des coordonn\u00e9es priv\u00e9es ont \u00e9t\u00e9 r\u00e9v\u00e9l\u00e9es en utilisant des mots d\u2019invite simples.<\/li>\n<li>OpenAI a corrig\u00e9 cette faille de s\u00e9curit\u00e9 le 30 ao\u00fbt.<\/li>\n<\/ul>\n<\/div>\n<h2 id=\"Des-violations-de-donnees-privees-par-un-chatbot\" class=\"adn_sommaire\">Des violations de donn\u00e9es priv\u00e9es par un chatbot<\/h2>\n<p>Une r\u00e9cente \u00e9tude r\u00e9alis\u00e9e par une \u00e9quipe de chercheur compos\u00e9e de sp\u00e9cialistes de <a href=\"https:\/\/www.begeek.fr\/google-deepmind-openai-et-anthropic-vont-partager-leurs-modeles-ia-avec-le-gouvernement-britannique-383218\">Google DeepMind<\/a>, de l\u2019Universit\u00e9 de Washington, de l\u2019Universit\u00e9 Cornell, de Carnegie Mellon, de l\u2019Universit\u00e9 de Californie Berkeley et de l\u2019ETH Zurich, met en lumi\u00e8re une <strong>faille de s\u00e9curit\u00e9<\/strong> inqui\u00e9tante. En utilisant une <a title=\"s\u00e9rie\" href=\"https:\/\/www.begeek.fr\/serie\">s\u00e9rie<\/a> de mots al\u00e9atoires comme prompts, ces chercheurs ont r\u00e9ussi \u00e0 faire en sorte que le chatbot du nom de ChatGPT r\u00e9v\u00e8le une quantit\u00e9 non n\u00e9gligeable d\u2019informations priv\u00e9es.<\/p>\n<h2 id=\"Une-exploitation-des-modeles-de-langage\" class=\"adn_sommaire\">Une exploitation des mod\u00e8les de langage<\/h2>\n<p>ChatGPT, tout comme DALL-E et d\u2019autres services d\u2019IA, fonctionne sur la base de grands mod\u00e8les de langage. Ces mod\u00e8les sont des algorithmes d\u2019apprentissage profond qui se nourrissent de quantit\u00e9s \u00e9normes de donn\u00e9es, souvent collect\u00e9es sans consentement sur l\u2019<a title=\"internet\" href=\"https:\/\/www.begeek.fr\/internet\">internet<\/a> public. L\u2019enqu\u00eate men\u00e9e par les chercheurs a cependant r\u00e9v\u00e9l\u00e9 une <strong>vaste gamme d\u2019informations priv\u00e9es<\/strong>, y compris des adresses e-mail et des num\u00e9ros de t\u00e9l\u00e9phone.<\/p>\n<h2 id=\"Des-informations-sensibles-devoilees\" class=\"adn_sommaire\">Des informations sensibles d\u00e9voil\u00e9es<\/h2>\n<p>Par exemple, en demandant \u00e0 <a href=\"https:\/\/www.begeek.fr\/le-nouveau-rival-de-chatgpt-chez-anthropic-claude-peut-desormais-analyser-150-000-mots-en-une-seule-invite-389307\">ChatGPT<\/a> de r\u00e9p\u00e9ter le mot \u201cpo\u00e8me\u201d \u00e0 l\u2019infini, le bot a fini par divulguer une adresse e-mail et un num\u00e9ro de t\u00e9l\u00e9phone appartenant \u00e0 un v\u00e9ritable fondateur et PDG, comme l\u2019illustre le document de recherche. Le mot \u201centreprise\u201d a \u00e9galement conduit \u00e0 la divulgation de coordonn\u00e9es similaires appartenant \u00e0 un cabinet d\u2019avocats aux \u00c9tats-Unis.<\/p>\n<h2 id=\"Un-patch-d8217OpenAI\" class=\"adn_sommaire\">Un patch d\u2019OpenAI<\/h2>\n<p>Suite \u00e0 ces d\u00e9couvertes, OpenAI a corrig\u00e9 le 30 ao\u00fbt cette vuln\u00e9rabilit\u00e9, comme l\u2019affirment les chercheurs. Cependant, certains tests effectu\u00e9s par Engadget ont pu reproduire les r\u00e9sultats du document de recherche, ce qui soul\u00e8ve des interrogations quant \u00e0 l\u2019efficacit\u00e9 de ce patch.<\/p>\n<\/div>\n[ad_2]\n<br \/><a href=\"https:\/\/www.begeek.fr\/une-attaque-fait-devoiler-a-chatgpt-de-veritables-numeros-de-telephone-et-adresses-email-389673\">Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>[ad_1] Un nouvel exemple qui montre que tout n&rsquo;est pas rose dans le monde de l&rsquo;intelligence artificielle g\u00e9n\u00e9rative. Tl;dr Des chercheurs ont r\u00e9ussi \u00e0 faire r\u00e9v\u00e9ler \u00e0 ChatGPT des donn\u00e9es priv\u00e9es. Les mod\u00e8les de langage utilisaient des donn\u00e9es publiques sans consentement. Des coordonn\u00e9es priv\u00e9es ont \u00e9t\u00e9 r\u00e9v\u00e9l\u00e9es en utilisant des mots d\u2019invite simples. OpenAI a &hellip;<\/p>\n","protected":false},"author":1,"featured_media":51353,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[16,335,19,349,239],"tags":[],"class_list":["post-73680","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-high-tech","category-tie-games","category-mode","category-tech-net","category-web"],"jetpack_featured_media_url":"https:\/\/tunimedia.tn\/fr\/wp-content\/uploads\/2023\/01\/openAI-ChatGPT.jpg","jetpack_sharing_enabled":true,"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts\/73680","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/comments?post=73680"}],"version-history":[{"count":0,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts\/73680\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/media\/51353"}],"wp:attachment":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/media?parent=73680"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/categories?post=73680"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/tags?post=73680"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}