Anthropic stockera les données de surveillance dans le cloud client

Pour une IA qui traite des données confidentielles d’entreprise, faut-il conserver des enregistrements ou ne rien garder ? Anthropic ouvre une troisième voie. L’entreprise a annoncé « Enterprise Frontier Safeguards (EFS) », un dispositif qui place les données de surveillance dans le cloud du client et lui confie également la vérification après détection. Le déploiement débutera progressivement cet automne, avec l’objectif d’une disponibilité étendue avant la fin de la saison.

À l’origine de cette évolution se trouve la conservation des données pendant 30 jours depuis Claude Fable 5. Anthropic explique que les utilisations abusives sophistiquées s’étendent sur plusieurs sessions ou comptes et qu’un stockage pendant une certaine durée est nécessaire pour établir des corrélations dans le temps. Des entreprises de secteurs réglementés avaient toutefois fait part de leurs difficultés à utiliser des modèles prévoyant une conservation des données. Anthropic affirme n’avoir jamais utilisé les données des entreprises pour entraîner ses modèles sans autorisation explicite.

Avec EFS, les données d’activité destinées à la surveillance sont stockées dans le propre Amazon S3, Azure Blob Storage ou Google Cloud Storage du client. Sous le contrôle des clés de chiffrement, des règles d’accès et des journaux d’audit gérés par le client, un système de surveillance automatique analyse les communications sur une période donnée. Lorsqu’il détecte des signes de développement de capacités cyberoffensives ou biologiques, ou encore de vol ou de fuite d’identifiants, il envoie directement un signalement à l’équipe de sécurité du client. Anthropic ne reçoit que la catégorie et le niveau de gravité de l’alerte.

Dans les secteurs réglementés, l’accès aux documents juridiques, aux informations non publiques ou encore aux rapports de pharmacovigilance est strictement limité. Les entreprises voulaient donc que la revue soit effectuée par leurs propres responsables plutôt que par des employés d’Anthropic. Le stockage appartenant au client, les clés de chiffrement gérées par celui-ci et la revue entièrement automatisée sont des options indépendantes ; ils n’ont aucune incidence sur le comportement des modèles, le prix des API ni les limites de débit. EFS est gratuit en lui-même, mais les frais de cloud liés au stockage, à la lecture et à l’écriture ainsi qu’au transfert de données sont à la charge du client.

Qu’est-ce qui change pour les entreprises ? Les responsables des secteurs financier ou médical, entre autres, pourront utiliser le dispositif de surveillance tout en gardant sous leur propre contrôle les droits d’accès aux données confidentielles. Anthropic indique une compatibilité avec Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Google Agent Platform et Microsoft Foundry, et affirme avoir conçu le système avec plus de 100 clients. Le lancement prévu cet automne constituera une première étape, mais l’annonce n’en est encore qu’au stade de la présentation : la précision de la détection et la charge opérationnelle devront être vérifiées en conditions réelles.