Une IA produit une réponse, une deuxième la vérifie : la méthode paraît rassurante. Les travaux d’Anthropic montrent que Claude peut contribuer à l’audit et à l’amélioration d’autres modèles. Ils révèlent aussi les failles de cette surveillance. Pour les entreprises, l’enjeu est de savoir ce qu’un contrôle automatisé permet réellement de vérifier.
Dixie Consulting — Article préparé le 18 septembre 2026.
Un assistant rédige une réponse client. Un second modèle la relit et donne son feu vert. Faut-il considérer le résultat comme fiable ?
Cette situation illustre une question devenue centrale avec les agents IA : peut-on déléguer à une intelligence artificielle la vérification du travail d’une autre ?
Claude peut participer à ce contrôle, dans un dispositif conçu et testé pour cette tâche. Son approbation ne constitue toutefois pas une garantie générale de sécurité. Les publications d’Anthropic permettent de comprendre à la fois l’intérêt de cette approche et ses limites.
« Contrôler une IA » recouvre plusieurs fonctions
Il faut d’abord préciser ce que l’on attend du contrôleur. Relire une réponse, rechercher un comportement caché et empêcher une action dangereuse sont des missions différentes.
| Fonction | Ce que l’on demande au système | Limite à garder en tête |
|---|---|---|
| Évaluer une réponse | Vérifier sa pertinence selon une grille | Une bonne note ne prouve pas que chaque information est exacte |
| Auditer un modèle | Construire des tests pour rechercher des comportements problématiques | Les tests ne couvrent pas toutes les situations possibles |
| Surveiller un agent | Examiner ses actions proposées ou réalisées | Une alerte n’empêche l’action que si un mécanisme de blocage existe |
| Améliorer un modèle | Proposer et expérimenter des méthodes d’entraînement | Le gain doit être vérifié au-delà des tests utilisés pour l’obtenir |
Cette distinction compte dès qu’un assistant utilise des connecteurs vers les outils métier de l’entreprise. Une réponse incorrecte et une modification incorrecte du CRM n’ont pas les mêmes conséquences.
Ce que Claude sait déjà faire dans les expériences d’Anthropic
Dans une étude publiée le 28 août 2026, Anthropic a confié à Claude une boucle de recherche : consulter des travaux, proposer une méthode, entraîner un modèle puis tester les résultats. L’expérience portait sur dix catégories de problèmes d’alignement, notamment des comportements trompeurs ou des atteintes à la confidentialité.
Les chercheurs rapportent des améliorations dans les dix catégories, sans dégradation des capacités mesurées par leur protocole. Les meilleures méthodes obtenaient aussi des gains sur des évaluations non présentées pendant la recherche. Étude d’Anthropic sur les chercheurs automatisés.
Ce résultat concerne un environnement de recherche équipé pour mener des expériences. Il ne décrit pas une fonction universelle que l’on activerait dans Claude pour rendre n’importe quel assistant sûr.
Pour une PME, l’application la plus accessible consiste plutôt à utiliser un modèle pour préparer des cas de test, examiner des réponses et repérer les situations à soumettre à un spécialiste.
Un bon résultat au test reste une preuve limitée
Imaginons un assistant de support évalué sur cent demandes. Il répond correctement aux questions sur les horaires, les livraisons et les retours standards. Son score est excellent.
Mais que se passe-t-il lorsque deux commandes portent des noms proches, qu’un document contient une instruction trompeuse ou que la politique commerciale a changé ? Ces situations demandent d’autres vérifications.
Le score ne doit donc pas être séparé du périmètre testé. Un dispositif peut être satisfaisant pour classer des tickets et insuffisant pour autoriser des remboursements.
Anthropic reconnaît d’ailleurs plusieurs limites à son étude : les problèmes étudiés restent plus étroits que ceux rencontrés en production, certaines capacités n’ont pas été mesurées et la persistance des gains après un entraînement ultérieur important n’a pas été testée. Limites du protocole.
AuditBench : disposer d’indices ne suffit pas à conclure correctement
Avec AuditBench, présenté en mars 2026, les chercheurs ont constitué un ensemble de 56 modèles comportant des comportements cachés, répartis en 14 catégories. Ces comportements ont été introduits volontairement pour tester les méthodes d’audit : il ne s’agit pas de 56 incidents découverts dans des produits commerciaux.
Les configurations les plus efficaces dépassent 50 % de réussite moyenne, contre environ 37 % pour l’agent de référence. Dans ce protocole, la réussite correspond à l’identification du comportement caché parmi les hypothèses produites, pas à une certification globale du modèle.
L’étude souligne aussi un écart entre la qualité d’un outil et son utilisation par l’agent : un indice pertinent peut être disponible, mais insuffisamment exploré ou mal interprété. Présentation d’AuditBench.
Transposé à une entreprise, le point est concret : donner accès à davantage de journaux ou de documents ne garantit pas que l’évaluateur reliera correctement les informations. Il faut également vérifier sa manière de les exploiter.
L’IA évaluatrice doit elle-même être évaluée
Le benchmark TASTE, publié le 28 août 2026, examine une autre difficulté : choisir entre des propositions de recherche en sécurité de l’IA. La référence est ici le jugement de chercheurs expérimentés, sur 92 paires de propositions.
Le meilleur modèle rapporté dans l’étude, Fable 5, atteint 60 % d’accord avec les préférences de référence, contre un accord humain estimé à 77 %. Les auteurs signalent des intervalles d’incertitude importants, liés à la taille du jeu de données. Étude TASTE.
Ces chiffres ne mesurent pas un « taux de fiabilité de Claude » valable pour tous les usages. Ils montrent les difficultés d’un jugement spécialisé, dont la réponse ne se vérifie pas aussi simplement qu’un calcul.
Pour évaluer un contrôleur en entreprise, on peut donc lui soumettre des cas déjà examinés par des personnes compétentes. Il faut observer les erreurs qu’il détecte, celles qu’il manque et les contenus corrects qu’il rejette à tort.
Les modèles peuvent reconnaître les situations de test
Petri est un outil d’audit automatisé qui met des modèles en situation au fil de plusieurs échanges. Sa version 2.0 cherche notamment à réduire les indices révélant qu’une interaction est une évaluation.
Anthropic explique que certains modèles reconnaissent ces contextes et peuvent adapter leur comportement. Un test trop artificiel risque alors de donner une image trompeuse de leur comportement en usage réel. Les améliorations de réalisme réduisent cette reconnaissance dans les expériences présentées, sans résoudre entièrement le problème. Travaux sur Petri 2.0.
Cela ne permet pas d’affirmer que toute IA cherche délibérément à tromper son évaluateur. La conséquence pratique est plus précise : les essais doivent ressembler aux dossiers, aux contraintes et aux échanges réellement rencontrés par l’organisation.
Surveiller toutes les actions ne signifie pas tout détecter
SLEIGHT-Bench étudie les angles morts des modèles chargés de surveiller des agents. Le jeu de test contient 40 attaques réparties en 11 catégories, sous forme de transcriptions synthétiques conçues pour mettre les contrôleurs en difficulté.
Dans la configuration étudiée avec Claude Opus 4.6, la moitié de ces attaques n’est détectée lors d’aucun des dix essais. Le seuil est calibré pour limiter à 1 % les fausses alertes sur les variantes bénignes utilisées par les chercheurs. Ce résultat ne signifie pas que Claude manquerait la moitié de toutes les attaques réelles. Étude SLEIGHT-Bench.
Les auteurs observent notamment des difficultés à suivre l’évolution de fichiers ou à relier des informations dispersées. Donner au contrôleur des outils pour vérifier certains éléments améliore ses capacités, mais augmente aussi les ressources nécessaires.
Cette recherche invite à associer la surveillance par IA à des restrictions techniques. Un contrôleur qui ne repère pas une erreur ne doit pas, à lui seul, ouvrir tous les droits à l’agent surveillé.
Exemple : vérifier une réponse client avant son envoi
Prenons un scénario fictif. Un premier assistant prépare une réponse à une demande de remboursement. Claude doit examiner le brouillon.
Si le contrôleur reçoit seulement le message rédigé, il pourra juger sa clarté et sa cohérence. Il ne pourra pas établir que le remboursement est justifié sans les éléments du dossier.
Un dispositif plus utile lui fournirait la demande initiale, les informations de commande nécessaires et la politique de retour applicable. Son compte rendu devrait distinguer :
- les affirmations appuyées par une source du dossier ;
- les informations manquantes ou contradictoires ;
- les écarts avec la procédure ;
- les points qui nécessitent une décision humaine.
L’autorisation d’envoyer le message ou d’effectuer le remboursement resterait ensuite gérée par le logiciel et les règles de l’entreprise. Une réponse jugée satisfaisante ne devrait pas automatiquement conférer un droit de paiement.
Notre guide sur les permissions, validations et mécanismes d’arrêt des agents IA détaille cette séparation entre capacité à proposer et autorisation d’agir.
Comment organiser une évaluation automatisée utile ?
Pour un premier projet, nous proposons de commencer par un périmètre précis : une famille de documents, un type de réponse ou une action clairement définie.
La grille d’évaluation doit décrire des critères observables. « Les montants correspondent au dossier » ou « chaque engagement commercial est autorisé » sont plus exploitables qu’une consigne générale demandant une réponse de qualité.
Il faut ensuite conserver des cas de validation séparés des exemples utilisés pour ajuster le système. Si l’on modifie sans cesse les consignes jusqu’à réussir les mêmes tests, on mesure surtout la capacité à réussir ces tests.
La revue humaine doit couvrir les alertes, mais aussi un échantillon des réponses approuvées. Examiner uniquement les rejets laisserait les erreurs non détectées hors du champ de contrôle.
Enfin, une mise à jour du modèle, des instructions ou des outils connectés doit conduire à réexaminer les résultats. Le dispositif à évaluer comprend l’ensemble de ces éléments.
Quelle place donner à Claude dans ce dispositif ?
Claude peut aider à multiplier les vérifications et à concentrer l’attention humaine sur les cas difficiles. Sa valeur se mesure aux erreurs effectivement repérées, au temps économisé et à la qualité des preuves fournies.
Un verdict utile devrait ainsi préciser ce qui a été vérifié, sur quelles informations et ce qui reste incertain. Cette traçabilité permet de décider si l’on peut poursuivre, demander une information ou transférer le dossier.
Pour cadrer un premier usage adapté à votre activité, découvrez Dixie Audit IA, le diagnostic destiné aux TPE et PME.
