Anthropic annonce avoir interrompu plusieurs opérations de surveillance menées à l’aide de son assistant d’intelligence artificielle. Dans un communiqué publié jeudi, Anthropic précise que des usages malveillants de son système Claude ont été détectés et que des mesures ont été prises pour y mettre fin, en particulier lorsque ces fonctionnalités étaient utilisées contre des dissidents et des minorités ethniques.
La société mère de l’assistant ne donne pas de détails chiffrés dans son annonce mais souligne l’existence de tentatives d’exploitation du service à des fins de surveillance ciblée. Cette révélation s’inscrit dans un contexte plus large où la capacité des outils d’intelligence artificielle à automatiser la collecte et l’analyse d’informations sensibles suscite des inquiétudes chez les experts en sécurité et les défenseurs des droits humains.
Les entreprises qui développent des modèles avancés mettent en avant des garde-fous techniques et des politiques d’utilisation pour limiter les détournements, mais la détection et la prévention restent complexes. Le cas signalé par Anthropic met en lumière les difficultés à identifier des usages malintentionnés dans des environnements où des acteurs étatiques ou privés peuvent tenter d’exploiter des interfaces conversationnelles pour obtenir des renseignements ou coordonner des opérations de surveillance.
Cette annonce relance le débat public sur la nécessité d’un encadrement plus strict et d’une coopération entre acteurs technologiques, autorités et organisations de la société civile. Les observateurs estiment que l’accroissement des signalements de mauvais usages renforce l’urgence d’améliorer les mécanismes de contrôle et de transparence, notamment autour des processus d’audit et des réponses aux incidents affectant la sécurité et les libertés individuelles. Le dossier reste suivi de près par les autorités compétentes et les acteurs du secteur.