Le 15 octobre, Anthropic a annoncé avoir commencé à donner un accès « comme un salarié » à six chercheurs de METR, une organisation à but non lucratif qui évalue les modèles d'IA de pointe. L'objectif est que des évaluateurs extérieurs examinent de l'intérieur les risques, incidents et pratiques de l'entreprise, et puissent publier leurs conclusions. L'entreprise affirme agir de façon volontaire et estime que toute entreprise d'IA de pointe devrait en faire autant.

Ce qu'Anthropic a annoncé

Selon le texte officiel, les chercheurs de METR reçoivent du matériel, un espace de bureau ainsi que des outils et systèmes internes, globalement comparables à ceux des équipes d'évaluation des risques d'Anthropic. L'entreprise encourage le partage d'informations avec eux, à l'exception des données clients, des documents couverts par le secret professionnel entre avocat et client et des informations sur l'architecture des modèles. Seule une petite équipe liée par contrat dispose de cet accès ; le reste de METR est tenu à l'écart de ce travail.

Sur la publication, Anthropic indique que METR diffusera son analyse des niveaux de risque, des incidents ou des pratiques de l'entreprise. Anthropic ne peut pas opposer de veto à la publication, mais peut exiger le retrait de catégories d'informations prédéfinies, et c'est l'entreprise qui décide de ce qui entre dans ces catégories. METR peut déclarer quel niveau d'accès et d'information il a reçu.

Les trois niveaux d'évaluateurs

  • Niveau 1 : enquêtes sur les risques à portée restreinte. Anthropic définit l'accès, et les conclusions ne sont publiées qu'avec son accord.
  • Niveau 2 : les évaluateurs reçoivent plus d'informations et peuvent publier sans accord. Anthropic peut encore exiger le retrait de certaines catégories, mais les évaluateurs peuvent dire s'ils jugent ces caviardages justifiés.
  • Niveau 3 : c'est le dispositif de METR, avec un accès comme un salarié et des droits de publication semblables à ceux du niveau 2.

L'entreprise cite d'autres partenaires : SecureBio examine le chapitre sur les armes chimiques et biologiques du rapport de risque d'août 2026, et Accenture et Faculty travaillent à un partenariat plus large incluant l'évaluation de modèles et le red-teaming. Des discussions préliminaires ont lieu avec d'autres organisations, dont Hugging Face. Une fois la revue de SecureBio terminée, Anthropic dit qu'elle envisagera des projets avec plus d'accès et espère avoir plusieurs évaluateurs de niveau 3, chacun publiant sa propre analyse.

Critiques et zones d'ombre

DNYUZ rappelle que cet engagement avait été annoncé par Dario Amodei dans un essai de septembre, et que les noms des six chercheurs n'ont pas été divulgués. METR n'a pas répondu à la demande de commentaire du média. Officechai rapporte que l'indépendance de METR a été contestée par un utilisateur de X qui a pointé des liens financiers entre l'organisation et Anthropic. Ce point est une allégation de tiers, et Portal GTA 6 ne l'a pas vérifiée de façon indépendante.

DNYUZ affirme aussi que Sam Altman a dit qu'OpenAI ferait quelque chose de similaire, mais que cela n'a pas encore eu lieu. Anthropic indique qu'il n'existe pas de normes communes sur ce que les évaluateurs intégrés peuvent voir ni sur la façon dont ils doivent rendre compte. En résumé, c'est un pas concret vers la transparence, mais la preuve que cela fonctionne dépendra de ce que METR publiera réellement.