Treino de 15 a 20 minutos ajuda a detetar rostos de IA

Olhar para um rosto aperfeiçoado num ecrã pode levar o instinto a falhar: rostos gerados por IA — pelo menos os de pessoas brancas, segundo o estudo — podem parecer mais humanos do que os reais. Na Universidade de Southampton, os investigadores testaram o DISCERN-AI, uma sessão de treino de 15 a 20 minutos que levou os participantes de um desempenho inferior ao acaso para um desempenho superior ao acaso.

Isso é importante porque os rostos sintéticos estão livremente disponíveis online e já aparecem em burlas amorosas, interferência eleitoral, ciberbullying e espionagem. Um estudo recente encontrou mais de 7 000 contas no X, anteriormente conhecido como Twitter, que usavam fotografias de perfil falsas geradas por IA para publicar spam. Mansi Pattni, coautora principal e investigadora de pós-graduação em Southampton, afirma que era mais provável as pessoas escolherem um rosto falso hiper-realista do que um rosto real.

O DISCERN-AI não pede aos participantes que memorizem um único sinal. A primeira secção inverte os instintos: rostos proporcionais e familiares podem ser indícios de que uma imagem foi gerada por IA, enquanto um rosto memorável pode indicar autenticidade. A segunda destaca as imagens aperfeiçoadas e de elevada qualidade como mais suscetíveis de terem sido geradas por IA, e as imagens distintas e excêntricas como mais suscetíveis de serem reais. A secção final diz aos participantes para ignorarem a pele lisa e os sorrisos, que, segundo os investigadores, não são sinais úteis.

Mais de 600 participantes foram testados antes e depois do treino, em comparação com um grupo não treinado, e num acompanhamento-surpresa 20 dias mais tarde. Tina Seabrooke, coautora principal do artigo, afirma que os ganhos não se deveram apenas a um maior ceticismo: a taxa de acertos aumentou e os falsos positivos diminuíram. O treino também teve bons resultados em comparação com outros tratamentos contra a desinformação, como a deteção de notícias falsas. Modelos informáticos treinados com os mesmos indícios alcançaram 94% de precisão, um valor superior ao dos participantes treinados.

Concretamente, uma lição curta poderia dar às pessoas um primeiro filtro melhor para fotografias de perfil usadas em burlas, interferência eleitoral ou ciberbullying, sem depender da sensação vaga de que um rosto parece estranho. Os beneficiários imediatos seriam as pessoas que fazem avaliações rápidas online, mas o limite continua visível: as máquinas que usaram os mesmos indícios tiveram um desempenho melhor, e a equipa de Southampton apenas afirma que planeia disponibilizar o treino online num futuro próximo. O estudo aponta para uma competência humana prática, não para uma deteção ao nível das máquinas.