Google fera bientôt passer Bard à un modèle de langage bien plus évolué. La différence entre LaMDA et PaLM devrait être criante.
Le grand public n’a pas franchement été impressionné depuis que Google a lancé son “service conversationnel expérimental” Bard. Face aux ChatGPT d’OpenAI et Bing Chat de Microsoft – lui aussi propulsé par GPT-4 d’OpenAI, les utilisateurs ont trouvé que les réponses de la solution de la firme de Mountain View ne sont pas aussi détaillées que celles de ses concurrents. Cela pourrait changer bientôt, cependant. Le PDG de Google, Sundar Pichai, a confirmé dans le podcast “Hard Fork” de The New York Times que Bard allait passer de son modèle LaMDA actuel à un jeu de données plus important, PaLM, dans les prochains jours.
Google fera bientôt passer Bard à un modèle de langage bien plus évolué
Lorsque interrogé quant aux réponses suite à la sortie de Bard, Sundar Pichai déclarait : “Nous avons clairement des modèles capables de bien mieux. Très bientôt, peut-être dès à présent, nous allons améliorer Bard en le faisant passer sur l’un de nos modèles PaLM bien plus capables, pour lui offrir davantage de facultés, des raisonnements plus structurés, lui permettant notamment de coder.”
Pour mieux évaluer les différences, Google déclarait avoir entraîné LaMDA avec pas moins de 137 milliards de paramètres lorsqu’il dévoilait les détails de ses modèles de langage l’année dernière. PaLM, de son côté, a été entraîné avec environ 540 milliards de paramètres. Tous deux ont grandement évolué depusi le début de l’année 2022, mais le contraste montre clairement pourquoi Google veut désormais faire passer Bard à PaLM, avec son plus grand ensemble de données et des réponses plus diversifiées.
Sundar Pichai affirme ne pas s’inquiéter quant à la vitesse de développement de l’IA de Google par rapport à ses concurrents. Lorsque Bard a fait ses premiers pas en févier, il reconnaissait que le fait qu’il repose sur LaMDA le limitait quelque peu, mais ajoutait que le fait d’avoir moins de puissance de calcul était un avantage, donnant utilisateurs la chance de tester et d’effectuer des retours. Sundar Pichai tenait aussi à rassurer : Google ferait ses propres analyses quant à la sécurité et à la qualité de Bard une fois lâché dans le monde réel.
La différence entre LaMDA et PaLM devrait être criante
Pour ce faire, Sundar Pichai expliquait que Google ne voulait pas lancer “un modèle plus puissant avant de pouvoir être totalement certain de pouvoir le gérer comme il se doit. Nous n’en sommes qu’aux tout débuts. Nous aurons des modèles plus performants encore à brancher avec le temps, mais je ne veux que cela se résume à une course à qui y arrivera le premier, faire les choses bien est très important pour nous.”
Cette optique est dans l’esprit des plus de 1 800 personnes (y compris des leaders de la tech et autres chercheurs en IA) qui ont signé une lettre ouverte demande une pause de six mois minimum dans le développement des technologies d’IA “plus puissantes que GPT-4”.
Sundar Pichai ne pense pas que cela puisse être effectué avec succès sans l’implication des gouvernements, mais se dit d’accord avec le besoin d’encadrement : “L’IA est trop importante pour ne pas être régulée. Elle est aussi trop importante pour ne pas être très bien régulée. Alors je suis heureux que ces conversations aient lieu.”
Source link
