Anthropic dirige les requêtes cyber à haut risque de Sonnet 5.5 vers des modèles plus anciens

Anthropic a publié Claude Sonnet 5.5 le lundi 29 septembre 2026, introduisant des garde-fous cyber et des replis automatiques de modèles auparavant réservés à ses modèles haut de gamme. Cette mise à jour marque un changement dans la manière dont l’entreprise gère la sécurité pour les charges de travail de production de milieu de gamme, ciblant spécifiquement les capacités de sécurité offensive.

Ce qui s’est passé

Sonnet 5.5 est le premier modèle de la gamme Sonnet à être lancé avec des garde-fous cyber intégrés et un routage piloté par classificateur. Bien qu’Anthropic précise que cette version ne fait pas progresser la frontière globale des capacités des modèles, elle évalue les compétences en cybersécurité de Sonnet 5.5 comme étant comparables à celles d’Opus 5. Sur le benchmark de codage agentique Terminal-Bench 4.0, le modèle moins coûteux a obtenu un score de 70,6 %, surpassant Opus 5.5 dans son réglage d’effort xhigh, qui a atteint 66,4 %.

La décision de mettre en œuvre ces garde-fous découle d’améliorations significatives des performances du modèle en matière de sécurité offensive. Lors des tests effectués sans garde-fous, Sonnet 5.5 a réussi une exécution de code arbitraire complète dans 178 des 410 exécutions d’ExploitBench. Il a également résolu 46,1 % des défis sur CyScenarioBench d’Irregular, une augmentation nette par rapport au taux de réussite de 0,7 % de Sonnet 5. De plus, il a réalisé 50 détournements de flux de contrôle sur un benchmark d’exploitation binaire basé sur le corpus OSS-Fuzz de Google, contre seulement trois pour son prédécesseur.

Bien qu’Anthropic considère Sonnet 5.5 comme moins performant qu’Opus 5.5 ou Mythos 5.1 en cybersécurité, le saut en capacité a suffi à justifier l’application de la même politique cyber que celle des modèles haut de gamme. L’entreprise reconnaît que ces interventions abaissent probablement les scores aux benchmarks lorsque les garde-fous sont actifs, mais elles sont nécessaires pour atténuer les risques associés à la génération d’exploits et aux tests d’intrusion.

Comment cela fonctionne

Le mécanisme d’application opère en trois étapes. D’abord, une sonde lit les activations internes du modèle. Ensuite, un classificateur léger fonctionnant sur Sonnet 5.5 évalue la requête. Enfin, un classificateur distinct entraîné sur un grand modèle de langage pondère le verdict de la sonde pour décider s’il faut bloquer la conversation. Anthropic affirme que ces classificateurs détectent les requêtes cyber nuisibles à des taux comparables à ceux observés sur Opus 5, bien que les protections contre les jailbreaks soient moins agressives car Sonnet 5.5 n’est pas aussi capable que les modèles haut de gamme.

Lorsqu’une requête est signalée comme à haut risque, telle que celles impliquant des tests d’intrusion, la génération d’exploits ou l’analyse de vulnérabilités binaires, le système déclenche un repli. Pour les utilisateurs d’API ayant activé cette option, la requête est visiblement routée vers Sonnet 5. Dans les applications propres d’Anthropic, les utilisateurs voient une notification lors du basculement, et la réponse identifie le modèle utilisé. Si le repli n’est pas activé, la requête s’arrête simplement au lieu d’être transmise au modèle plus ancien.

Il est important de noter que les blocages concernant la biologie, les armes conventionnelles et l’anti-distillation ne déclenchent pas de repli ; ils mettent fin entièrement à la requête. Ces blocages sont transparents et n’altèrent pas secrètement les réponses. Cependant, la politique cyber permet la découverte de vulnérabilités dans le code source pour soutenir les workflows de codage sécurisé, tout en bloquant une telle découverte dans les binaires compilés.

Détails clés

• Sonnet 5.5 a été lancé le lundi 29 septembre 2026, avec des garde-fous cyber et des replis de modèles.
• Les requêtes de cybersécurité à haut risque peuvent basculer vers Sonnet 5 si les développeurs d’API optent pour le repli automatique.
• Le modèle a obtenu un score de 70,6 % sur Terminal-Bench 4.0, dépassant les 66,6 % d’Opus 5.5 à effort xhigh.
• Les garde-fous examinent tout le contenu d’entrée, y compris la mémoire, le contenu des connecteurs, les résultats de recherche web et les fichiers.
• Les tests d’injection de prompt ont montré que 12,01 % des requêtes réorientées vers Sonnet 5 ont été compromises avec succès.
• Les défenseurs vérifiés pourraient éventuellement accéder au modèle avec moins de restrictions via un Programme de Vérification Cyber étendu.

Pourquoi c’est important

Pour les ingénieurs logiciels et les responsables techniques, ce changement signifie que Sonnet 5.5 ne peut pas être considéré comme un remplacement direct de Sonnet 5 dans tous les scénarios. L’introduction de replis visibles introduit une variabilité dans le comportement et les performances du modèle. Les développeurs doivent désormais tenir compte de la posture de sécurité de Sonnet 5.5 et de Sonnet 5, car le modèle plus ancien peut traiter des requêtes sensibles une fois déclenché. Cet environnement à double modèle nécessite des tests rigoureux pour s’assurer que les replis n’introduisent pas de vulnérabilités inattendues ou de ruptures dans la continuité des workflows.

De plus, la portée de ce qui déclenche un garde-fou s’étend au-delà des prompts utilisateur. Puisque les vérifications examinent tout ce que le modèle lit, y compris le contenu des dépôts, les avis de sécurité ou les pages web, les agents récupérant des données externes peuvent déclencher involontairement un repli. Cela crée une potentielle faille pour les attaques par injection de prompt. Les tests ont révélé que les instructions injectées visant à effacer des disques ou supprimer des fichiers déclenchaient souvent le blocage cyber, menant à une réorientation où 12,01 % de ces requêtes étaient compromises. Les équipes utilisant le repli doivent donc durcir leurs systèmes contre les injections indirectes de prompt qui pourraient exploiter le modèle de repli moins sécurisé.

Ce que vous pouvez faire

• Examinez votre configuration API pour décider si vous souhaitez activer le repli automatique pour les requêtes à haut risque.
• Mettez à jour la logique de votre application pour gérer les basculements visibles de modèles et identifier quel modèle a généré une réponse.
• Auditez les workflows des agents pour garantir que les sources de données externes, telles que les résultats de recherche web ou les fichiers de dépôt, ne contiennent pas de contenu déclenchant de faux positifs.
• Testez les vulnérabilités d’injection de prompt spécifiquement dans les scénarios où un repli vers Sonnet 5 pourrait se produire.
• Surveillez l’augmentation des taux de refus sur les travaux légitimes de cybersécurité et ajustez les prompts pour clarifier l’intention.
• Restez informé du Programme de Vérification Cyber étendu pour un accès futur potentiel avec moins de restrictions.