Même lorsque l’IA se trompe, on la croit… 51,3 % des participants aux tâches sur de longues vidéos n’ont pas vérifié l’original

Les participants qui regardaient de longues vidéos avaient une tendance particulièrement marquée à utiliser l’IA. Des chercheurs de l’Université IT de Copenhague ont mené plus de 8 000 tâches de recherche d’informations fondées sur des vidéos auprès d’environ 900 personnes aux États-Unis, au Royaume-Uni et dans d’autres pays. La productivité des recherches assistées par l’IA a progressé de 3 à 35 %. Pour les vidéos courtes, le temps nécessaire à l’accomplissement des tâches a diminué de 10 %, tandis que l’efficacité pour les vidéos longues a augmenté de 25 %.

Mais dès que l’IA fournissait une réponse erronée, la recherche accélérée se transformait en jugement fragile. Lorsque l’IA fournissait des informations trompeuses, la précision des recherches chutait de jusqu’à 32 %. Malgré cela, le degré de confiance des participants dans leurs réponses restait comparable à celui des personnes ayant vérifié les vidéos du début à la fin. Une formulation plausible avait en quelque sorte remplacé la vérification des faits.

La situation la plus révélatrice est apparue lors des tâches portant sur de longues vidéos. 51,3 % des participants ont soumis les fausses réponses de l’IA telles quelles, sans les confronter à la vidéo originale. Au fil de l’étude, le visionnage des contenus vidéo a diminué et la dépendance à l’IA a augmenté de plus de 15 %. Plus les tâches contenaient d’informations et se révélaient complexes, plus la tendance à s’en remettre à l’IA plutôt qu’à juger directement était marquée.

Les vérifications étaient encore plus rares. Seuls environ 1 participant sur 10 ont vérifié les faits en comparant la réponse avec le contenu vidéo après avoir interrogé l’IA. Anders Giovanni Møller, chercheur à l’Université IT de Copenhague qui a dirigé l’étude, a déclaré que l’assistance de l’IA pouvait présenter des avantages pour la recherche, mais qu’une dépendance excessive rendait les utilisateurs vulnérables aux informations inexactes.

Ce qui change, c’est donc la dissociation entre la vitesse de la recherche et la responsabilité du jugement. L’IA a accéléré les tâches sur les vidéos courtes comme sur les longues, mais elle ne pouvait pas remplacer la dernière vérification destinée à filtrer les réponses erronées. Le « paradoxe de la confiance » relevé par les chercheurs de l’Université IT de Copenhague montre que les résultats diffèrent selon que l’IA est utilisée comme un outil d’assistance ou considérée comme l’arbitre final.