Anthropic guardará los datos de supervisión empresarial en la nube del cliente

En la IA que maneja datos confidenciales de empresas, ¿hay que conservar registros o no conservar nada? Anthropic ha abierto una tercera vía. La compañía ha anunciado «Enterprise Frontier Safeguards (EFS)», un sistema que coloca los datos de supervisión en la nube del cliente y deja también en manos de este la revisión posterior a la detección. La oferta comenzará a desplegarse por fases este otoño, con el objetivo de que esté ampliamente disponible antes de que termine la estación.

El contexto es la retención de datos durante 30 días introducida a partir de Claude Fable 5. Anthropic explica que los usos indebidos sofisticados se extienden por varias sesiones o cuentas, por lo que es necesario conservar los datos durante cierto tiempo para correlacionarlos a lo largo del tiempo. Por otro lado, empresas de sectores regulados habían expresado su preocupación por la dificultad de utilizar modelos que retienen datos. Anthropic sostiene que nunca ha utilizado datos empresariales para entrenar sus modelos sin autorización explícita.

Con EFS, los datos de actividad destinados a la supervisión se almacenan en servicios del propio cliente, como Amazon S3, Azure Blob Storage y Google Cloud Storage. Bajo las claves de cifrado, las políticas de acceso y los registros de auditoría administrados por el cliente, un sistema automatizado analiza las comunicaciones durante un periodo determinado. Cuando detecta indicios del desarrollo de capacidades cibernéticas o biológicas ofensivas, o del robo o filtración de credenciales, envía directamente una alerta al equipo de seguridad del cliente. Anthropic solo recibe la clasificación y la gravedad de la alerta.

En los sectores regulados, está estrictamente limitado quién puede acceder a documentos jurídicos, información no publicada o informes de seguridad de medicamentos. De ahí que surgiera la demanda de que la revisión la realizaran responsables de la propia empresa y no empleados de Anthropic. El almacenamiento propiedad del cliente, las claves de cifrado administradas por este y la revisión totalmente automatizada son opciones independientes, y no afectan al comportamiento de los modelos, las tarifas de la API ni los límites de velocidad. EFS será gratuito, pero el cliente asumirá los costes de la nube por el almacenamiento, la lectura y escritura, y la transferencia de datos.

¿Qué cambiará entonces para las empresas? Los responsables de sectores como las finanzas o la sanidad podrán utilizar el sistema de supervisión y mantener al mismo tiempo bajo su propio control los permisos de acceso a datos confidenciales. Anthropic ha anunciado compatibilidad con Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Google Agent Platform y Microsoft Foundry, entre otros, y ha desarrollado el sistema junto con más de 100 clientes. El primer hito será su lanzamiento este otoño, pero el anuncio aún está en fase inicial: queda por comprobar en la práctica hasta qué punto serán precisas las detecciones y qué carga supondrá el sistema.