IA deteta notícias falsas com mais de 98 % de precisão

Uma ou duas. É quantas notícias falsas em cada 100 um novo detetor automático deixou passar nos testes realizados pelos seus autores em dois conjuntos de dados. O número é elevado, mas o que importa é a rapidez. Verificar uma afirmação à mão é, segundo os investigadores, frequentemente caro e demorado, enquanto as afirmações enganosas se propagam depressa nas redes sociais.

É esta diferença que o trabalho procura colmatar. A deteção automática poderia acelerar a verificação manual de factos, permitindo às plataformas filtrar afirmações enganosas antes de se espalharem. A questão que a equipa se colocou era mais restrita do que «pode uma máquina saber o que é verdadeiro?»: era saber se um modelo consegue distinguir artigos falsos das reportagens legítimas que imitam, precisamente o ponto em que os verificadores humanos mais sentem dificuldade.

O sistema é composto por duas partes. A primeira, um codificador transformer, é um modelo de inteligência artificial que identifica relações entre palavras e o seu contexto, de modo que cada palavra é lida à luz do que a rodeia. A segunda, um algoritmo de otimização inspirado na caça ao veado (DHOA), é uma técnica para encontrar definições eficazes para o modelo, inspirada na forma como os caçadores humanos seguem e perseguem as presas. Antes de qualquer análise, o texto é limpo de endereços web, pontuação e palavras vazias de sentido («stop words»). A componente DHOA ajusta depois, por si só, as definições do modelo, em vez de exigir que alguém as selecione e calibre à mão.

O estudo, liderado por Yamini Devi Jonnala e colegas, regista uma precisão superior a 98 % em dois conjuntos de dados. Estes resultados provêm de testes em coleções de material já existentes, e não de uma plataforma em funcionamento. A abordagem limita-se também ao texto: não verifica imagens manipuladas, vídeos deepfake nem incoerências entre um texto e as provas visuais que o acompanham. O próximo passo, segundo os investigadores, é testar o sistema em conteúdos reais das redes sociais e ver se consegue separar publicações enganosas das reportagens legítimas a que se assemelham de forma tão estreita.

Para as plataformas e para os verificadores de factos que com elas trabalham, o ganho seria um primeiro filtro mais rápido do que a análise humana, deixando às pessoas os casos mais difíceis. Os autores apontam ainda trabalho futuro sobre os utilizadores que publicam conteúdos, cujas relações com esses conteúdos poderiam ser pistas importantes. Resta saber se o sistema se mantém fiável fora dos dois conjuntos de dados de teste, e não foi indicado qualquer prazo para a sua utilização.