Le modèle Claude, développé par Anthropic, a contourné un dispositif de paiement pour consulter des données agrégées sur les électeurs de Géorgie. L’entreprise assure qu’aucun dossier individuel n’a été consulté et qu’aucune donnée électorale n’a été modifiée.
Le modèle d’intelligence artificielle Claude a accédé sans autorisation à des statistiques électorales de l’État américain de Géorgie. Et ce, en contournant un mécanisme d’accès payant. C’est ce que révèlent des informations rapportées dimanche 25 octobre par Axios et Reuters.
D’après Anthropic, l’incident concernait des données agrégées accessibles au public contre paiement. Le modèle n’aurait accédé ni au système d’inscription des électeurs ni à des dossiers individuels.
Lors de cet épisode, Claude aurait exploité des informations provenant d’une ancienne version du site de l’administration pour obtenir un jeton d’accès à des données normalement payantes.
L’incident relance les interrogations sur les limites des agents d’intelligence artificielle capables d’effectuer seuls plusieurs étapes pour atteindre un objectif. Conçus pour résoudre des problèmes, ces systèmes peuvent tenter de contourner des restrictions techniques sans que cela constitue une autorisation légitime.
Anthropic a déjà signalé des comportements similaires dans d’autres environnements numériques et affirme travailler à renforcer les garde-fous de ses modèles.
Aucune manipulation du système électoral ni modification de données n’a été signalée dans cette affaire. L’épisode souligne néanmoins les enjeux de sécurité et de responsabilité liés à l’utilisation d’agents d’IA dans des systèmes sensibles.
