Palantir fait la démonstration d’une IA qui peut partir en guerre. La plateforme AIP a été pensée et conçue avec trois « piliers fondamentaux ».
Palantir vend déjà ses services de surveillance intérieure à l’agence United States Immigration and Customs Enforcement, ce n’est donc pas très surprenant d’apprendre que l’entreprise fondée par le milliardaire Peter Thiel travaille aujourd’hui à s’inviter au Pentagone. En effet, la société a publié une vidéo de démonstration de son dernier produit, la Plateforme d’Intelligence Artificielle Palantir (AIP).
Palantir fait la démonstration d’une IA qui peut partir en guerre
Bien que le système en lui-même soit simplement conçu pour intégrer des grands modèles de langage (LLM) comme GPT-4 d’OpenAI ou BERT de Google dans des réseaux gérés en privé, la première application de la plateforme par l’entreprise concerne la guerre moderne.
Dans la vidéo ci-dessous, un opérateur militaire ayant pour mission de suivre la situation en Europe de l’Est découvre des forces ennemies se rassemblant près de la frontière et répond en demandant à un assistant numérique similaire à ChatGPT de l’aide pour déployer des drones de reconnaissance, créant ainsi des réponses tactiques à cette agression potentielle et même en organisant la perturbation des communications ennemies. AIP est aussi montrée en train d’estimer la composition et les capacités de l’ennemi en lançant un drone Reaper dans une mission de reconnaissance en réponse à la demande de l’opérateur d’avoir de meilleures images et en suggérant des réponses appropriées suite à la découverte d’un élément armé.
La plateforme AIP a été pensée et conçue avec trois “piliers fondamentaux”
“Les LLM et les algorithmes doivent être contrôlés dans ce contexte hautement régulé et sensible pour s’assurer qu’ils sont utilisés de manière légale et éthique”, annonce le début de la vidéo. Pour ce faire, AIP est basée sur trois “piliers fondamentaux” : le premier est que AIP se déploiera selon un système classifié, capable de traiter en temps réel des données classées secret comme non classées secret, en respectant l’éthique et la loi. L’entreprise n’a cependant pas explicité comment cela fonctionnerait. Le deuxième pilier est que les utilisateurs pourront activer le périmètre et les actions de tous les LLM et actifs sur le réseau. L’AIP elle-même génèrera un enregistrement numérique sécurisé de l’intégralité de l’opération, “vital pour atténuer au maximum les risques légaux, de régulation et éthiques dans ses opérations sensibles et classifiées”, selon la démonstration. Le troisième pilier, ce sont les “garde-fous” pour empêcher le système de réaliser des actions non autorisées.
Dans le scénario de Palantir, il y a aussi un “humain dans la boucle” pour éviter de tels débordements, bien que, dans la vidéo, l’”opérateur” semble ne pas faire grand-chose d’autre que d’acquiescer aux suggestions d’AIP. La démonstration ne précise pas non plus quelles mesures sont prises pour éviter que les LLM sur lesquels reposent le système soient sujets aux “hallucinations”.
Source link
