La FTC ouvre une enquête sur le créateur de ChatGPT, OpenAI. D’autres développeurs dans le viseur ?
Les régulateurs américains ont actuellement les yeux posés sur l’intelligence artificielle (IA) générative. The Washington Post a appris que la Federal Trade Commission (FTC) a lancé une enquête sur OpenAI, le créateur de ChatGPT et DALL-E. Elle a demandé des documents montrant comment l’entreprise gère les risques inhérents à ses grands modèles de langage. La FTC s’inquiète que la société puisse enfreindre les lois de protection des consommateurs via des pratiques “déloyales ou trompeuses” qui pourraient mettre à mal la confidentialité, la sécurité ou la réputation du grand public.
La FTC ouvre une enquête sur le créateur de ChatGPT, OpenAI
La Commission est particulièrement intéressée par les informations liées à un bug qui avait fait fuiter des données sensibles des utilisateurs de ChatGPT, y compris les paiements et les historiques de discussion. Bien que OpenAI ait déclaré que le nombre d’utilisateurs affectés étaient très faible, la FTC craint que cela soit le résultat d’une faible sécurité. L’agence veut aussi des détails sur les témoignages de fausses ou malveillantes déclarations faites par l’IA concernant les individus et des informations montrant à quel point les utilisateurs comprennent la précision des produits qu’ils utilisent.
La FTC a déjà averti que l’IA générative pourrait aller à l’encontre de la loi en faisant davantage de mal que de bien aux consommateurs. Elle pourrait être utilisée pour des arnaques, pour réaliser des campagnes marketing trompeuses ou pour de la publicité discriminatoire, par exemple. Si le gouvernement trouve une entreprise en infraction, il peut infliger des amendes ou la contraindre à prendre certaines mesures.
D’autres développeurs dans le viseur ?
Des lois spécifiques à l’IA ne devraient pas voir le jour de sitôt. Toujours est-il que le gouvernement américain a déjà commencé à mettre la pression sur l’industrie de la tech. Le PDG d’OpenAI, Sam Altman, avait témoigné devant le Sénat en mai, défendant son entreprise en mettant en avant les mesures de confidentialité et de sécurité tout en rappelant les bienfaits de l’IA. Il expliquait que des protections étaient en place, mais que OpenAI reste “extrêmement prudent” et qu’il continue d’améliorer ses garde-fous.
Impossible, à ce stade, de savoir si la FTC va enquêter sur d’autres développeurs d’IA générative, comme Google et Anthropic. L’enquête sur OpenAI montre en tous les cas que la Commission pourrait le faire et cela prouve que le régulateur est très sérieux quant à sa surveillance des développeurs d’IA.
Source link
