[ad_1]\n<\/p>\n
Palantir fait la d\u00e9monstration d’une IA qui peut partir en guerre. La plateforme AIP a \u00e9t\u00e9 pens\u00e9e et con\u00e7ue avec trois \u00ab\u00a0piliers fondamentaux\u00a0\u00bb.<\/p>\n
Palantir<\/strong> vend d\u00e9j\u00e0 ses services de surveillance int\u00e9rieure \u00e0 l\u2019agence United States Immigration and Customs Enforcement<\/em>, ce n\u2019est donc pas tr\u00e8s surprenant d\u2019apprendre que l\u2019entreprise fond\u00e9e par le milliardaire Peter Thiel travaille aujourd\u2019hui \u00e0 s\u2019inviter au Pentagone. En effet, la soci\u00e9t\u00e9 a publi\u00e9 une vid\u00e9o de d\u00e9monstration de son dernier produit, la Plateforme d\u2019Intelligence Artificielle Palantir (AIP)<\/a>.<\/p>\n Bien que le syst\u00e8me en lui-m\u00eame soit simplement con\u00e7u pour int\u00e9grer des grands mod\u00e8les de langage (LLM) comme GPT-4 d\u2019OpenAI<\/a> ou BERT de Google<\/a> dans des r\u00e9seaux g\u00e9r\u00e9s en priv\u00e9, la premi\u00e8re application de la plateforme par l\u2019entreprise concerne la guerre moderne.<\/p>\n Dans la vid\u00e9o ci-dessous, un op\u00e9rateur militaire ayant pour mission de suivre la situation en Europe de l\u2019Est d\u00e9couvre des forces ennemies se rassemblant pr\u00e8s de la fronti\u00e8re et r\u00e9pond en demandant \u00e0 un assistant num\u00e9rique similaire \u00e0 ChatGPT<\/a> de l\u2019aide pour d\u00e9ployer des drones de reconnaissance, cr\u00e9ant ainsi des r\u00e9ponses tactiques \u00e0 cette agression potentielle et m\u00eame en organisant la perturbation des communications ennemies. AIP est aussi montr\u00e9e en train d\u2019estimer la composition et les capacit\u00e9s de l\u2019ennemi en lan\u00e7ant un drone Reaper dans une mission de reconnaissance en r\u00e9ponse \u00e0 la demande de l\u2019op\u00e9rateur d\u2019avoir de meilleures images et en sugg\u00e9rant des r\u00e9ponses appropri\u00e9es suite \u00e0 la d\u00e9couverte d\u2019un \u00e9l\u00e9ment arm\u00e9.<\/p>\n \u201cLes LLM et les algorithmes doivent \u00eatre contr\u00f4l\u00e9s dans ce contexte hautement r\u00e9gul\u00e9 et sensible pour s\u2019assurer qu\u2019ils sont utilis\u00e9s de mani\u00e8re l\u00e9gale et \u00e9thique\u201d, annonce le d\u00e9but de la vid\u00e9o. Pour ce faire, AIP est bas\u00e9e sur trois \u201cpiliers fondamentaux\u201d : le premier est que AIP se d\u00e9ploiera selon un syst\u00e8me classifi\u00e9, capable de traiter en temps r\u00e9el des donn\u00e9es class\u00e9es secret comme non class\u00e9es secret, en respectant l\u2019\u00e9thique et la loi. L\u2019entreprise n\u2019a cependant pas explicit\u00e9 comment cela fonctionnerait. Le deuxi\u00e8me pilier est que les utilisateurs pourront activer le p\u00e9rim\u00e8tre et les actions de tous les LLM et actifs sur le r\u00e9seau. L\u2019AIP elle-m\u00eame g\u00e9n\u00e8rera un enregistrement num\u00e9rique s\u00e9curis\u00e9 de l\u2019int\u00e9gralit\u00e9 de l\u2019op\u00e9ration, \u201cvital pour att\u00e9nuer au maximum les risques l\u00e9gaux, de r\u00e9gulation et \u00e9thiques dans ses op\u00e9rations sensibles et classifi\u00e9es\u201d, selon la d\u00e9monstration. Le troisi\u00e8me pilier, ce sont les \u201cgarde-fous\u201d pour emp\u00eacher le syst\u00e8me de r\u00e9aliser des actions non autoris\u00e9es.<\/p>\n Dans le sc\u00e9nario de Palantir, il y a aussi un \u201chumain dans la boucle\u201d pour \u00e9viter de tels d\u00e9bordements, bien que, dans la vid\u00e9o, l’\u201dop\u00e9rateur\u201d semble ne pas faire grand-chose d\u2019autre que d\u2019acquiescer aux suggestions d\u2019AIP. La d\u00e9monstration ne pr\u00e9cise pas non plus quelles mesures sont prises pour \u00e9viter que les LLM sur lesquels reposent le syst\u00e8me soient sujets aux \u201challucinations\u201d.<\/p>\nPalantir fait la d\u00e9monstration d\u2019une IA qui peut partir en guerre<\/h2>\n
La plateforme AIP a \u00e9t\u00e9 pens\u00e9e et con\u00e7ue avec trois \u201cpiliers fondamentaux\u201d<\/h2>\n