Google a renvoyé l’ingénieur qui affirmait que l’IA LaMDA avait acquis une conscience. Des déclarations qui avaient été très mal perçues par la communauté de chercheurs.
Blake Lemoine, ingénieur depuis 7 ans chez Google, a été licencié, selon une information d’Alex Kantrowitz dans la newsletter Big Technology. La nouvelle aurait été divulguée par Blake Lemoine enpersonne durant l’enregistrement d’un podcast du même nom, épisode qui n’a pas encore été publié. Google a cependant confirmé l’information à Engadget.
Google a renvoyé l’ingénieur qui affirmait que l’IA LaMDA avait acquis une conscience
Blake Lemoine, qui était jusqu’à récemment membre de l’équipe Responsible AI, avait pris contact avec le Washington Post le mois dernier pour déclarer que l’un des projets d’IA du géant américain avait semble-t-il acquis une conscience. L’intelligence artificielle en question, LaMDA, pour Language Model for Dialogue Applications, avait été dévoilée par Google l’année dernière. Elle devait permettre aux ordinateurs de mieux reproduire les conversations ouvertes. Blake Lemoine était convaincu que LaMDA avait acquis une conscience, mais questionnait aussi la possibilité qu’elle possédait une âme. Et pour ne laisser aucun doute sur ces déclarations, il déclarait même à Wired la chose suivante : “Je suis profondément convaincu que LaMDA est une personne.”
Après avoir transmis ses déclarations à la presse, très probablement sans autorisation de son employeur, Blake Lemoine avait été mis en congé administratif. Google avait par ailleurs plusieurs fois répété publiquement que son IA était en aucun cas consciente.
Des déclarations qui avaient été très mal perçues par la communauté de chercheurs
Plusieurs membres de la communauté de recherche sur l’IA se sont aussi rapidement prononcés contre Blake Lemoine. Margaret Mitchell, qui avait été renvoyée de Googlle après avoir dénoncé le manque de diversité au sein de l’entreprise, écrivait sur Twitter que des systèmes comme LaMDA ne développent pas d’intention, ils “reproduisent la manière dont les gens expriment leur intention communicative sous la forme de textes.” Avec clairement moins de tact, Gary Marcy qualifiait les déclarations de Blake Lemoine de “connerie en barre”.
Le communiqué de Google à Engadget est le suivant : “Comme partagé dans nos Principes sur l’IA, nous prenons le développement de celle-ci très sérieusement et sommes engagés envers une innovation responsable. LaMDA a subi 11 analyses approfondies différentes, et nous avons publié un papier il y a quelques mois détaillant le travail autour de ce développement responsable. Si un employé éprouve des craintes quant à notre travail, comme Blake Lemoine l’a fait, nous les étudions sagement. Nous avons conclu que les affirmations de Blake Lemoine quant à une conscience de LaMDA sont totalement infondées et avons travaillé à clarifier cela avec lui pendant plusieurs mois. Ces discussions ont eu lieu dans le cadre de notre culture ouverte qui nous aide à innover de manière responsable. Il est regrettable que malgré les discussions sur le sujet, Blake Lemoine ait choisi de violer les règles de l’entreprise en vigueur, notamment le besoin de protéger l’information produit. Nous continuerons à développer des modèles de langage avec prudence et nous souhaitons à Blake Lemoine le meilleur pour la suite.”
Source link
