[ad_1]\n<\/p>\n
On rapporte que le mod\u00e8le Whisper d’OpenAI \u00ab\u00a0hallucine\u00a0\u00bb dans des situations \u00e0 haut risque.<\/p>\n
Des chercheurs ont d\u00e9couvert que Whisper, l\u2019outil de transcription bas\u00e9 sur l\u2019audio d\u2019OpenAI<\/a>, a la f\u00e2cheuse tendance d\u2019inventer des choses qui n\u2019ont jamais \u00e9t\u00e9 dites, avec des cons\u00e9quences potentiellement dangereuses. C\u2019est ce que r\u00e9v\u00e8le un nouveau rapport.<\/p>\n Selon APNews, le mod\u00e8le d\u2019IA Whisper<\/strong> invente du texte (ph\u00e9nom\u00e8ne commun\u00e9ment appel\u00e9 \u00ab\u00a0hallucination\u00a0\u00bb<\/em>), cr\u00e9ant ainsi des sorties absurdes qui n\u2019ont aucun lien avec le mat\u00e9riel d\u2019entra\u00eenement utilis\u00e9. Les erreurs de Whisper peuvent inclure des commentaires raciaux, des incitations \u00e0 la violence et des traitements m\u00e9dicaux fantaisistes.<\/p>\n Whisper est int\u00e9gr\u00e9 \u00e0 certaines versions de ChatGPT<\/a> et est une fonctionnalit\u00e9 int\u00e9gr\u00e9e dans les plateformes de cloud computing de Microsoft<\/a> et Oracle. Malgr\u00e9 les risques, les fournisseurs de soins de sant\u00e9 commencent \u00e0 adopter cet outil pour transcrire les consultations des patients avec les m\u00e9decins. Le fabricant de Whisper pr\u00e9tend que l\u2019outil a une \u00ab\u00a0robustesse et une pr\u00e9cision quasi humaines\u00a0\u00bb et a \u00e9t\u00e9 adopt\u00e9 par plus de 30 000 cliniciens aux \u00c9tats-Unis. Cependant, les chercheurs mettent en garde contre cette adoption, suite \u00e0 des probl\u00e8mes identifi\u00e9s lors de diff\u00e9rentes \u00e9tudes.<\/p>\n Les erreurs de Whisper pourraient avoir des \u00ab\u00a0cons\u00e9quences vraiment graves\u00a0\u00bb, en particulier dans le cadre des soins de sant\u00e9, comme l\u2019a soulign\u00e9 la professeure de Princeton, Alondra Nelson. \u00ab\u00a0Personne ne veut d\u2019un mauvais diagnostic\u00a0\u00bb, a-t-elle d\u00e9clar\u00e9. Il y a donc des appels pour que OpenAI s\u2019attaque au probl\u00e8me. Selon William Saunders, ancien employ\u00e9, \u00ab\u00a0c\u2019est probl\u00e9matique si vous mettez cela en circulation et que les gens sont trop confiants dans ce qu\u2019il peut faire et l\u2019int\u00e8grent dans tous ces autres syst\u00e8mes\u00a0\u00bb.<\/p>\n En d\u00e9pit de ces probl\u00e8mes, les entreprises continuent \u00e0 d\u00e9velopper des outils et des programmes d\u2019IA, et les \u00ab\u00a0hallucinations\u00a0\u00bb continuent d\u2019\u00eatre un probl\u00e8me pr\u00e9valent. En ce qui concerne la r\u00e9ponse d\u2019OpenAI<\/a> aux hallucinations, l\u2019entreprise recommande de ne pas utiliser Whisper dans des \u00ab\u00a0contextes de prise de d\u00e9cision, o\u00f9 des d\u00e9fauts de pr\u00e9cision peuvent entra\u00eener des d\u00e9fauts prononc\u00e9s dans les r\u00e9sultats\u00a0\u00bb.<\/p>\n<\/div>\n[ad_2]\n [ad_1] On rapporte que le mod\u00e8le Whisper d’OpenAI \u00ab\u00a0hallucine\u00a0\u00bb dans des situations \u00e0 haut risque. Tl;dr L\u2019outil de transcription Whisper d\u2019OpenAI cr\u00e9e des textes erron\u00e9s potentiellement dangereux. Whisper est largement utilis\u00e9, y compris dans le secteur de la sant\u00e9, malgr\u00e9 les erreurs signal\u00e9es. OpenAI recommande de ne pas utiliser Whisper dans des contextes d\u00e9cisionnels cruciaux. …<\/p>\n","protected":false},"author":1,"featured_media":82085,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[16,335,19,349,239],"tags":[],"class_list":["post-84952","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-high-tech","category-tie-games","category-mode","category-tech-net","category-web"],"jetpack_featured_media_url":"https:\/\/tunimedia.tn\/fr\/wp-content\/uploads\/2024\/09\/OpenAI-1.jpg","jetpack_sharing_enabled":true,"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts\/84952","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/comments?post=84952"}],"version-history":[{"count":0,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/posts\/84952\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/media\/82085"}],"wp:attachment":[{"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/media?parent=84952"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/categories?post=84952"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tunimedia.tn\/fr\/wp-json\/wp\/v2\/tags?post=84952"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Des \u00ab\u00a0hallucinations\u00a0\u00bb pr\u00e9occupantes<\/h2>\n
Une adoption pr\u00e9coce malgr\u00e9 les risques<\/h2>\n
Des cons\u00e9quences potentiellement graves<\/h2>\n
Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"