Ouverture aux contrôles externes : les récentes décisions de Anthropic et de OpenAI d’autoriser des évaluations menées par des organismes indépendants marquent une étape dans la transparence des grands modèles. Ces annonces interviennent alors que la technologie suscite des attentes élevées et des préoccupations croissantes autour de la intelligence artificielle et de ses usages, et qu’un nombre important d’acteurs se mobilise pour tester leurs performances et leurs risques.
Les initiatives portent sur des audits, des stress tests et des évaluations ciblées visant à mesurer vulnérabilités, biais ou comportements imprévus. Si la participation des entreprises à des diagnostics réalisés par des tiers est présentée comme un progrès, les méthodologies employées restent dispersées : formats des tests, jeux de données, métriques et protocoles varient fortement d’un projet à l’autre. Cette diversité rend difficile l’établissement de comparaisons robustes entre modèles et soulève la question de la fiabilité des conclusions publiées.
Parallèlement, une pluralité d’acteurs — laboratoires de recherche, cabinets d’audit, ONG, start-ups spécialisées et équipes universitaires — s’engage dans ces évaluations. L’absence de normes partagées crée toutefois des effets indésirables potentiels : résultats non reproductibles, choix sélectif des tests mis en avant et difficultés pour les décideurs à interpréter les conclusions. Sur le plan réglementaire, cette fragmentation complique la tâche des autorités chargées d’établir des exigences contraignantes et menace la comparabilité des preuves présentées par les opérateurs.
La situation met en lumière un besoin de convergence autour de cadres méthodologiques, de jeux de référence et de critères d’évaluation clairement définis afin d’améliorer la transparence et l’utilité des contrôles. Ces questions concernent tant la sécurité technique des systèmes que les implications pour la gouvernance et la régulation publique. À court terme, la multiplication des initiatives peut fournir des informations précieuses; à moyen terme, les responsables publics et la communauté scientifique devront définir des standards partagés pour que ces vérifications deviennent comparables et opérantes.