Le « parrain de l’IA » Geoffrey Hinton quitte Google. Preuve supplémentaire que l’intelligence artificielle inquiète énormément.
L’un des pionniers de l’intelligence artificielle (IA) fait aujourd’hui une sortie remarquée. Geoffrey Hinton, surnommé le “parrain de l’IA”, a indiqué à The New York Times qu’il avait démissionné de son poste de vice-président de Google en avril pour avertir en toute liberté des risques associés à cette technologie. Le chercheur s’inquiète que Google abandonne sa retenue sur les sorties publiques d’IA pour concurrencer ChatGPT, Bing Chat et autres modèles similaires, ouvrant la porte à de nombreux problèmes d’éthique.
Le “parrain de l’IA” Geoffrey Hinton quitte Google
À court terme, Geoffrey Hinton craint que l’IA générative entraîne une vague de désinformation. Vous pourriez “ne plus pouvoir savoir ce qui est vrai”, explique-t-il. Il s’inquiète aussi que ces technologies n’éliminent pas uniquement “le travail le plus rébarbatif”, mais remplacent purement et simplement certains emplois”. À l’avenir, le scientifique s’inquiète tant de la possibilité d’avoir des armes totalement autonomes et de la tendance qu’ont les modèles d’IA à avoir des comportements étranges avec leurs données d’entraînement. Bien que certains de ces soucis soit purement théoriques, Geoffrey Hinton craint une escalade qui ne peut être muselée sans régulation ou mise en place de contrôles efficaces.
Geoffrey Hinton explique que son point de vue avait commencé à changer l’année dernière, lorsque Google, OpenAI et d’autres se sont mis à créer des systèmes d’IA qui, selon lui, sont parfois supérieurs à l’intelligence humaine. L’IA a progressé très rapidement ces cinq dernières années – il est “effrayant” d’imaginer ce qui pourrait arriver durant les cinq à venir.
Dans un communiqué à Engadget, le directeur scientifique de Google, Jeff Dean, expliquait que la firme de Mountain View reste totalement engagée dans une “approche responsable” et garde un œil sur les “risques émergents”. Le géant de la recherche a récemment publié une version encore brute de son chatbot Bard en mars, après des mois de rumeurs évoquant l’inquiétude en interne face à la menace de l’IA générative. Avant cela, l’entreprise américaine refusait de proposer au grand public des modèles d’IA comme Imagen, orienté vers l’art, parce que ceux-ci pouvaient créer du contenu toxique et violer le droit d’auteur.
Preuve supplémentaire que l’intelligence artificielle inquiète énormément
Geoffrey Hinton a dévoué sa carrière à l’étude des réseaux de neurones, pièces centrales de l’intelligence artificielle, mais il est plus connu pour avoir développé un système de reconnaissance d’objet en 2012. Sa création pourrait utiliser des images d’entraînement pour apprendre à reconnaître des objets communs. Google avait racheté la startup DNNresearch de Geoffrey Hinton en 2013 et le concept sous-jacent de son invention a participé aux développements qui ont conduit aux technologies génératives d’aujourd’hui.
Geoffrey Hinton n’est pas seul tenir cette position. Un certain nombre d’académiciens influents et grandes figures de la tech, dont Elon Musk et Steve Wozniak, avaient récemment signé une lettre ouverte réclamant une pause de six mois dans le développement de l’IA pour gérer justement ces problèmes d’éthique et de sécurité. Étant l’une des personnalités les plus célèbres de l’industrie, les déclarations de Geoffrey Hinton ont un vrai poids aujourd’hui.
Source link
