AI가 틀려도 믿었다…긴 영상 과제 참가자 51.3% 원본 확인 안 해

긴 영상을 시청한 참가자들은 AI를 활용하는 경향이 두드러졌다. 코펜하겐 IT대 연구진이 미국·영국 등 약 900명을 대상으로 8000개 이상의 동영상 기반 정보 탐색 작업을 진행한 결과, AI를 활용한 검색의 생산성은 3~35% 향상됐다. 짧은 영상은 완료 시간이 10% 줄었고, 긴 영상의 효율성은 25% 높아졌다.

하지만 AI가 틀린 답을 내놓는 순간, 빨라진 검색은 취약한 판단으로 바뀌었다. AI가 기만적인 정보를 제공했을 때 검색 정확도는 최대 32% 떨어졌다. 그런데도 참가자들이 자신의 답을 확신하는 정도는 영상을 처음부터 끝까지 확인한 사람들과 비슷했다. 그럴듯한 문장이 사실 검증을 대신한 셈이다.

가장 선명한 장면은 긴 영상 과제에서 나왔다. 참가자의 51.3%가 원본 영상을 대조하지 않은 채 AI의 거짓 답변을 그대로 제출했다. 연구가 진행될수록 영상 콘텐츠 시청은 줄었고, AI 의존도는 15% 이상 높아졌다. 정보량이 많고 복잡한 작업일수록 직접 판단하기보다 AI에 기대는 경향도 두드러졌다.

확인은 더 드물었다. AI에 질문한 뒤 영상 콘텐츠와 답을 비교해 사실을 확인한 참가자는 10명 중 1명 정도였다. 연구를 주도한 안데르스 조바니 묄러 코펜하겐 IT대 연구자는 AI 지원이 검색에 잠재적 이점을 주지만, 과도한 의존은 사용자를 부정확한 정보에 취약하게 만든다고 말했다.

그래서 달라지는 것은 검색의 속도와 판단의 책임이 분리된다는 점이다. AI는 짧은 영상과 긴 영상에서 작업을 빠르게 만들었지만, 틀린 답을 걸러내는 마지막 확인까지 대신하지는 못했다. 코펜하겐 IT대 연구진이 지적한 ‘확신의 역설’은 AI를 보조도구로 쓸 때와 최종 판단자로 받아들일 때의 결과가 다르다는 사실을 보여준다.