Anthropic: dati di monitoraggio nel cloud dei clienti dall'autunno

Per l'AI che tratta dati aziendali riservati, conservare i record o non conservarne affatto. Anthropic ha aperto una terza via a questo bivio. L'azienda ha annunciato «Enterprise Frontier Safeguards (EFS)», un sistema che colloca i dati di monitoraggio nel cloud del cliente e affida a quest'ultimo anche la verifica dopo i rilevamenti. La distribuzione inizierà gradualmente quest'autunno, con l'obiettivo di rendere il servizio ampiamente disponibile entro la stagione.

All'origine c'è la conservazione dei dati per 30 giorni introdotta a partire da Claude Fable 5. Anthropic spiega che gli abusi più sofisticati si estendono su più sessioni o account e che, per correlare gli eventi nel tempo, è necessario conservare i dati per un certo periodo. D'altra parte, le aziende dei settori regolamentati hanno segnalato difficoltà nell'utilizzare modelli che prevedono la conservazione dei dati. Anthropic sostiene di non aver mai utilizzato i dati aziendali per addestrare i modelli senza un'autorizzazione esplicita.

Con EFS, i dati delle attività destinati al monitoraggio vengono salvati su Amazon S3, Azure Blob Storage, Google Cloud Storage o altri servizi cloud del cliente. Sotto il controllo di chiavi di crittografia, criteri di accesso e log di audit gestiti dal cliente, un sistema di monitoraggio automatico analizza le comunicazioni per un determinato periodo. Se rileva segnali dello sviluppo di capacità informatiche o biologiche offensive, oppure del furto o della fuga di credenziali, invia direttamente un flag al team di sicurezza del cliente. Anthropic riceve soltanto la classificazione e il livello di gravità dell'avviso.

Nei settori regolamentati, l'accesso a documenti legali, informazioni non pubbliche e rapporti sulla sicurezza dei farmaci è rigidamente limitato. Per questo era emersa la richiesta di affidare la revisione ai responsabili dell'azienda stessa, anziché ai dipendenti di Anthropic. Lo storage di proprietà del cliente, le chiavi di crittografia gestite dal cliente e la revisione completamente automatizzata sono opzioni selezionabili e non incidono sul comportamento dei modelli, sui prezzi delle API né sui limiti di velocità. EFS è gratuito, ma i costi cloud per il salvataggio, la lettura e la scrittura e il trasferimento dei dati restano a carico del cliente.

Che cosa cambia, dunque, per le aziende? I responsabili di banche, strutture sanitarie e altre organizzazioni potranno utilizzare il sistema di monitoraggio mantenendo sotto il proprio controllo i diritti di accesso ai dati riservati. Anthropic indica la compatibilità con Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Agent Platform di Google e Microsoft Foundry e afferma di aver progettato il sistema insieme a oltre 100 clienti. Il primo traguardo sarà il lancio previsto quest'autunno, ma per ora si tratta soltanto di un annuncio: resta da verificare, nell'uso concreto, fino a che punto sarà possibile confermare l'accuratezza dei rilevamenti e il carico operativo.