Un'IA individua le fake news con oltre il 98% di accuratezza

Una o due. È il numero di notizie false ogni 100 che un nuovo rilevatore automatico ha lasciato passare nei test condotti dai suoi autori su due dataset. La cifra è alta, ma ciò che conta è la velocità. Verificare un'affermazione a mano è, secondo i ricercatori, spesso costoso e dispendioso in termini di tempo, mentre le notizie fuorvianti si diffondono rapidamente sui social media.

Il lavoro punta proprio a colmare questo divario. Il rilevamento automatico potrebbe accelerare la verifica manuale dei fatti, permettendo alle piattaforme di filtrare le affermazioni fuorvianti prima che circolino ampiamente. La domanda che il team si è posto era più circoscritta di «una macchina può sapere cosa è vero?»: si trattava di capire se un modello sia in grado di distinguere le notizie false dai resoconti legittimi che imitano, ed è proprio qui che i verificatori umani incontrano le maggiori difficoltà.

Il sistema si compone di due parti. La prima, un transformer encoder, è un modello di intelligenza artificiale che individua le relazioni tra le parole e il loro contesto, in modo che una parola venga interpretata alla luce di ciò che la circonda. La seconda, un algoritmo di ottimizzazione basato sulla caccia al cervo (DHOA), è una tecnica per trovare impostazioni efficaci del modello, ispirata al modo in cui i cacciatori seguono e inseguono la preda. Prima di qualsiasi analisi, il testo viene ripulito da indirizzi web, punteggiatura e le cosiddette «stop word», cioè le parole vuote più comuni. La componente DHOA mette poi a punto da sola le impostazioni del modello, senza che qualcuno debba sceglierle e calibrarle a mano.

Lo studio, guidato da Yamini Devi Jonnala e dai colleghi, riporta un'accuratezza superiore al 98% su due dataset. Questi risultati provengono da test su raccolte di materiale esistenti, non da una piattaforma in funzione. L'approccio è inoltre limitato al testo: non verifica immagini manipolate, video deepfake né incongruenze tra un testo e le prove visive che lo accompagnano. Il passo successivo, secondo i ricercatori, è sperimentare il sistema su contenuti reali dei social media, per verificare se riesca a separare i post ingannevoli dai resoconti legittimi cui somigliano molto.

Per le piattaforme e per i verificatori che lavorano con loro, il vantaggio sarebbe un primo filtro più veloce della revisione umana, che lascerebbe alle persone i casi più difficili. Gli autori indicano anche un lavoro futuro sugli utenti che pubblicano contenuti, i cui legami con questi contenuti potrebbero essere indizi importanti. Resta da vedere se il sistema reggerà al di fuori dei suoi due dataset di prova, e non è stata indicata alcuna scadenza per il suo impiego.