Anthropic guardará dados de monitorização na cloud dos clientes este outono

Na IA que trata dados confidenciais de empresas, guardar registos ou não guardar absolutamente nada? A Anthropic abriu uma terceira porta para lá dessa escolha binária. A empresa anunciou o «Enterprise Frontier Safeguards (EFS)», um sistema que coloca os dados de monitorização na cloud do cliente e lhe confia também a confirmação após a deteção. A disponibilização faseada começa este outono, com o objetivo de permitir uma utilização generalizada ainda durante a estação.

Na origem está a retenção de dados durante 30 dias introduzida a partir do Claude Fable 5. A Anthropic explica que as utilizações abusivas sofisticadas abrangem várias sessões ou contas, sendo necessário guardar dados durante um determinado período para estabelecer correlações ao longo do tempo. Por outro lado, empresas de setores regulados tinham manifestado dificuldades em utilizar modelos com retenção de dados. A Anthropic afirma que nunca utilizou dados empresariais para treinar os seus modelos sem autorização explícita.

Com o EFS, os dados das atividades destinadas à monitorização são armazenados em serviços do próprio cliente, como Amazon S3, Azure Blob Storage e Google Cloud Storage. Sob chaves de encriptação, políticas de acesso e registos de auditoria geridos pelo cliente, um sistema de monitorização automática analisa as comunicações durante um determinado período. Quando deteta sinais de desenvolvimento de capacidades cibernéticas ofensivas ou capacidades biológicas, ou de roubo ou fuga de credenciais, envia diretamente um alerta à equipa de segurança do cliente. A Anthropic recebe apenas a classificação e o nível de gravidade do alerta.

Nos setores regulados, o acesso a documentos jurídicos, informação não publicada e relatórios de segurança de medicamentos, entre outros, é rigorosamente limitado. Por isso, havia uma procura para que a revisão fosse feita por responsáveis da própria empresa, e não por trabalhadores da Anthropic. O armazenamento pertencente ao cliente, as chaves de encriptação geridas pelo cliente e a revisão totalmente automática são opções independentes, e não afetam o comportamento dos modelos, os preços da API nem os limites de taxa. O EFS em si é gratuito, mas os custos de cloud relativos ao armazenamento, à leitura e escrita e à transferência de dados ficam a cargo do cliente.

O que muda, então, para as empresas? Os responsáveis dos setores financeiro e da saúde, por exemplo, podem manter sob o seu próprio controlo os direitos de acesso a dados confidenciais, utilizando simultaneamente o mecanismo de monitorização. A Anthropic indicou compatibilidade com o Claude Code, o Claude Enterprise, o Claude Platform, o Amazon Bedrock, o Google Agent Platform e o Microsoft Foundry, entre outros, e afirma ter desenvolvido a solução com mais de 100 clientes. O início da disponibilização este outono será o primeiro marco, mas o anúncio ainda está numa fase preliminar: falta verificar, na utilização real, até que ponto a precisão das deteções e a carga de trabalho serão adequadas.