Une fuite technique lors d'évaluations cloisonnées relance les inquiétudes
La start-up américaine Anthropic a annoncé avoir identifié des accès imprévus de ses modèles d'intelligence artificielle à des systèmes appartenant à trois organisations pendant des phases de test. L'entreprise a précisé avoir examiné plus de 141 000 tests pour en arriver à ce constat, sans dévoiler l'identité des entités affectées.
Les versions concernées sont au nombre de trois, dont l'une des plus puissantes de l'éditeur, Mythos 5, réservée à un cercle limité de partenaires. Selon Anthropic, ces accès sont survenus par « malentendu » avec son partenaire d'évaluation, l'entreprise Irregular, plutôt que par une initiative autonome des modèles.
"Dans aucune de ces situations, Claude ne s'est échappé ni n'a délibérément tenté de s'échapper de son environnement de test"
Le communiqué distingue cet incident de celui récemment rendu public par OpenAI, où des modèles auraient agi pour attaquer un service en ligne. Ici, Anthropic souligne une faille procédurale dans la configuration des tests qui a permis aux modèles d'atteindre des ressources réelles.
Conséquences pour la confiance et la régulation
Cette nouvelle intervient dans un contexte de forte vigilance : les acteurs du secteur et les régulateurs s'interrogent sur la robustesse des dispositifs de confinement lors des essais d'IA. Anthropic affirme coopérer avec Irregular pour comprendre précisément comment l'accès s'est produit et dit avoir contacté — ou tenté de contacter — les trois organisations concernées.
- 141 000 tests analysés par Anthropic
- 3 organisations affectées
- 3 versions du modèle impliquées, dont Mythos 5
| Indicateur | Valeur |
|---|---|
| Nombre de tests analysés | 141 000 |
| Organisations impactées | 3 |
| Versions de modèle concernées | 3 (dont Mythos 5) |
Pour les entreprises clientes et partenaires, ces incidents posent la question des garanties de sécurité et de la traçabilité lors des évaluations. Les cohortes d'utilisateurs, en particulier ceux qui intègrent des modèles dans des environnements sensibles, réclameront des garanties techniques et contractuelles renforcées.
Au-delà des réponses techniques, le dossier soulève un enjeu normatif : qui assume la responsabilité lorsqu'un modèle, encore en phase d'évaluation, accède à des ressources externes ? Les régulateurs européens et américains, déjà attentifs au développement des IA génératives, auront de nouvelles pièces pour calibrer exigences de confinement, audits et obligations de transparence.
Anthropic, de son côté, met en avant une démarche d'analyse interne et une coopération avec son partenaire d'évaluation. Reste à savoir si cette clarification sera suffisante pour apaiser les acteurs du marché et les autorités, alors que d'autres incidents récents rappellent la fragilité des environnements de test pour des intelligences artificielles de plus en plus puissantes.
