Framework IA: stati interni per agenti virtuali

Un agente di IA in un mondo virtuale tridimensionale vede, annusa, percepisce la temperatura e rileva le collisioni, mentre sullo sfondo variano quattro variabili interne: sazietà, idratazione, temperatura corporea e danno. I ricercatori guidati da Woo Choong-Wan dell'Istituto per le scienze di base e dell'Università Sungkyunkwan hanno realizzato questo ambiente di prova per la sopravvivenza allo scopo di studiare un nuovo approccio chiamato IA interocettiva, che assegna a questi stati interni un ruolo nell'apprendimento e nel processo decisionale.

L'idea nasce da una differenza ben nota tra biologia e IA convenzionale. Gli organismi viventi adattano le proprie priorità in base a ciò che accade all'interno del corpo; un segnale esterno può avere un significato diverso per un animale affamato rispetto a uno sazio. La maggior parte degli agenti di IA persegue invece obiettivi definiti dall'esterno. I robot possono già rilevare una batteria scarica, un motore surriscaldato o un componente danneggiato, ma di solito reagiscono attraverso regole predefinite. L'IA interocettiva considera le condizioni interne un contesto continuo, non soltanto guasti o input per le ricompense.

I ricercatori hanno formalizzato matematicamente il modo in cui gli stati interni ed esterni possono restare separati pur influenzandosi a vicenda. In EVAAA — Essential Variables in Autonomous and Adaptive Agents — gli agenti devono mantenere le quattro variabili interne entro intervalli compatibili con la sopravvivenza mentre si muovono tra risorse, ostacoli, predatori, temperature variabili e cicli giorno-notte. Ambienti di prova separati introducono condizioni assenti durante l'addestramento, rendendo l'adattamento a situazioni sconosciute parte della valutazione.

Il framework prevede inoltre decisioni simili a quelle degli esperimenti sul comportamento animale. Un agente può dover scegliere tra risorse in competizione in base alle proprie necessità del momento, oppure soppesare il beneficio di ottenerne una rispetto al rischio di subire danni fisici. I ricercatori suggeriscono che gli stati interni potrebbero anche regolare i tassi di apprendimento, la sensibilità alle informazioni e l'equilibrio tra esplorazione di nuove opzioni e sfruttamento di quelle già note, aiutando al contempo gli agenti ad apprendere senza sovrascrivere le conoscenze precedenti.

In concreto, il cambiamento immediato riguarda i ricercatori di IA e robotica: ora dispongono di un benchmark virtuale per verificare se un agente sia in grado di trasferire un riferimento interno stabile da un ambiente all'altro. Il lavoro è pubblicato su Nature Machine Intelligence e presenta un framework proposto e un benchmark virtuale.