Une IA repère les fake news avec plus de 98 % de précision

Une ou deux. C'est le nombre de fausses informations sur 100 qu'un nouveau détecteur automatisé laisse passer, selon les tests menés par ses auteurs sur deux jeux de données. Le chiffre est élevé, mais ce qui compte surtout, c'est la rapidité. Vérifier une affirmation à la main est, selon les chercheurs, souvent coûteux et chronophage, alors que les affirmations trompeuses se propagent vite sur les réseaux sociaux.

C'est cet écart que vise le travail. La détection automatisée pourrait accélérer la vérification manuelle des faits, en permettant aux plateformes de filtrer les affirmations trompeuses avant qu'elles ne se diffusent largement. La question que s'est posée l'équipe était plus étroite que « une machine peut-elle savoir ce qui est vrai ? » : il s'agissait de savoir si un modèle pouvait distinguer les faux articles des reportages légitimes qu'ils imitent, un exercice où les vérificateurs humains peinent précisément le plus.

Le système repose sur deux éléments. Le premier, un encodeur transformer, est un modèle d'intelligence artificielle qui identifie les relations entre les mots et leur contexte, de sorte qu'un mot est interprété à la lumière de son environnement. Le second, un algorithme d'optimisation de la chasse au cerf (DHOA), est une technique qui cherche les paramètres efficaces d'un modèle, inspirée de la manière dont les chasseurs traquent et poursuivent leurs proies. Avant toute analyse, le texte est débarrassé des adresses web, de la ponctuation et des mots courants, dits « mots vides ». Le composant DHOA ajuste ensuite lui-même les réglages du modèle, sans qu'il faille les choisir et les calibrer à la main.

L'étude, menée par Yamini Devi Jonnala et ses collègues, fait état d'une précision supérieure à 98 % sur deux jeux de données. Ces résultats proviennent de tests sur des collections de contenus existantes, et non d'une plateforme en service. L'approche se limite par ailleurs au texte : elle ne détecte pas les images truquées, les vidéos deepfake ni les incohérences entre un texte et les preuves visuelles qui y sont jointes. La prochaine étape, selon les chercheurs, consiste à tester le système sur de véritables contenus des réseaux sociaux, afin de voir s'il peut distinguer les publications trompeuses des reportages légitimes auxquels elles ressemblent étroitement.

Pour les plateformes et les vérificateurs de faits qui travaillent avec elles, le gain serait un premier filtre plus rapide qu'une relecture humaine, qui laisserait aux personnes les cas les plus difficiles. Les auteurs évoquent aussi de futurs travaux sur les utilisateurs qui publient ces contenus, dont les liens avec ceux-ci pourraient constituer des indices importants. Reste à savoir si le système tiendra hors de ses deux jeux de données de test, et aucun calendrier de déploiement n'a été communiqué.