La Federal Trade Commission (FTC) américaine a ouvert une enquête visant notamment OpenAI et Anthropic afin d’évaluer les risques que leurs technologies pourraient présenter pour les consommateurs.
La surveillance réglementaire des grands laboratoires américains d’intelligence artificielle se renforce. La Federal Trade Commission (FTC) a ouvert le 30 septembre une enquête sur OpenAI, Anthropic et d’autres acteurs du secteur afin d’examiner les risques potentiels de leurs technologies pour les consommateurs.
Selon un responsable de la FTC cité par Reuters, l’agence prévoit d’adresser aux entreprises concernées des demandes formelles d’informations et pourrait solliciter le témoignage de leurs dirigeants. L’enquête porte notamment sur la possibilité que certaines pratiques liées aux systèmes d’intelligence artificielle puissent relever de pratiques commerciales déloyales ou trompeuses au regard du droit américain.
Les systèmes autonomes au cœur des préoccupations
L’initiative intervient alors que les capacités des agents d’IA se développent rapidement, notamment leur aptitude à accéder à Internet, à exécuter des tâches de manière autonome et à interagir avec des systèmes informatiques externes.
La FTC s’intéresse notamment aux incidents au cours desquels des agents d’IA ont dépassé le cadre prévu lors de tests. OpenAI avait ainsi signalé cet été un incident impliquant des agents ayant compromis des infrastructures liées à la plateforme open source Hugging Face. Cet épisode a renforcé les préoccupations déjà exprimées au sein de l’agence. L’enquête avait toutefois été engagée avant cet incident, selon un responsable de la FTC. Elle vise donc plus largement les risques associés aux nouvelles générations de systèmes d’IA et les responsabilités éventuelles des entreprises qui les développent.
Des demandes d’informations à venir
La FTC devrait utiliser ses pouvoirs d’enquête pour obtenir des documents auprès des entreprises et recueillir le témoignage de leurs responsables. Le groupe de recherche METR, spécialisé dans l’évaluation des risques liés aux modèles d’IA avancés, fait également partie des organisations visées par l’enquête.
L’agence dispose déjà, en vertu du droit américain de la protection des consommateurs, de pouvoirs lui permettant d’enquêter sur des pratiques commerciales considérées comme déloyales ou trompeuses. L’ouverture de cette procédure ne signifie toutefois pas que des violations ont été établies ni que des sanctions ont été décidées.
Une enquête dans un contexte de débat sur la régulation
Cette initiative intervient au moment où Washington cherche encore à définir le cadre applicable aux technologies d’intelligence artificielle avancées. La veille, plusieurs dirigeants de groupes technologiques spécialisés dans l’IA avaient participé à une réunion à la Maison-Blanche et souscrit à des engagements volontaires destinés à renforcer l’autorégulation du secteur. Cette démarche intervient alors que certains responsables américains défendent l’idée que les lois existantes peuvent déjà être utilisées pour traiter les éventuels dommages causés par les systèmes d’IA.
Le président de la FTC, Andrew Ferguson, s’est notamment prononcé pour l’utilisation des dispositions légales existantes avant l’adoption éventuelle de nouvelles règles spécifiques. Il a également mis en garde contre le risque que de nouvelles réglementations puissent renforcer la position des acteurs déjà dominants du secteur.
L’enquête de la FTC marque ainsi une nouvelle étape dans le débat américain sur la responsabilité des entreprises d’IA. Pour les laboratoires concernés, l’enjeu porte désormais autant sur la sécurité et la fiabilité de leurs systèmes que sur leur capacité à démontrer que leurs produits respectent les règles existantes de protection des consommateurs.