La IA detecta noticias falsas con más del 98 % de precisión

Una o dos. Es el número de noticias falsas de cada 100 que un nuevo detector automatizado dejó pasar en las pruebas realizadas por sus autores con dos conjuntos de datos. La cifra es alta, pero lo que la hace importante es la velocidad. Verificar una afirmación a mano es, según los investigadores, a menudo caro y lento, mientras que las afirmaciones engañosas se propagan con rapidez en las redes sociales.

Ahí está el problema que aborda el trabajo. La detección automatizada podría acelerar la verificación manual, permitiendo a las plataformas filtrar las afirmaciones engañosas antes de que se extiendan. La pregunta que se plantearon los investigadores era más acotada que «¿puede una máquina saber qué es verdad?»: se trataba de saber si un modelo podía distinguir los artículos falsos de la información legítima que imitan, justo el punto en el que más cuesta a los verificadores humanos.

El sistema se compone de dos partes. La primera, un codificador de tipo transformer, es un modelo de inteligencia artificial que identifica relaciones entre las palabras y su contexto, de modo que cada palabra se interpreta a la luz de lo que la rodea. La segunda, un algoritmo de optimización por caza de ciervos (DHOA), es una técnica para encontrar configuraciones eficaces del modelo, inspirada en la forma en que los cazadores humanos siguen y persiguen a sus presas. Antes de cualquier análisis, el texto se depura de direcciones web, signos de puntuación y palabras vacías comunes. El componente DHOA ajusta después por sí mismo la configuración del modelo, en lugar de exigir que alguien la seleccione y calibre a mano.

El estudio, dirigido por Yamini Devi Jonnala y sus colegas, registra una precisión superior al 98 % en dos conjuntos de datos. Esos resultados proceden de pruebas con colecciones de material existentes, no de una plataforma en funcionamiento. Además, el enfoque se limita al texto: no comprueba imágenes manipuladas, vídeos falsificados (deepfakes) ni incoherencias entre un texto y las pruebas visuales que lo acompañan. El siguiente paso, según los investigadores, es probar el sistema con contenidos reales de redes sociales y ver si puede separar las publicaciones engañosas de la información legítima a la que se parecen mucho.

Para las plataformas y los verificadores que trabajan con ellas, la ventaja sería un primer filtro más rápido que la revisión humana, que dejaría a las personas los casos más difíciles. Los autores también apuntan a trabajos futuros sobre los usuarios que publican contenidos, cuya relación con ese contenido podría ser una pista importante. Queda por ver si el sistema funciona fuera de sus dos conjuntos de datos de prueba, y no se ha indicado ningún calendario para su uso.