O final de novembro marcará três anos desde o lançamento de Bate-papoGPT. Além dos chatbots, esta revolução da inteligência artificial também nos trouxe a geração de imagens. E a qualidade dessas imagens melhorou muito, a ponto de se tornar extremamente difícil distingui-las das fotos reais.
Em um estudo publicado na revista Pesquisa Cognitiva: Princípios e Implicaçõespesquisadores das universidades de Swansea e Lincoln, no Reino Unido, bem como da Universidade Ariel em Israel, estavam interessados neste fenômeno, e mais particularmente em deepfakes.
A IA pode criar imagens fotorrealistas convincentes de pessoas que não existem, mas e os rostos familiares? Os pesquisadores realizaram quatro experimentos gerando imagens de celebridades, utilizando ChatGPT e Dall-E.
Fotos de celebridades na parte superior e versões geradas por IA na parte inferior. © Wikimedia Commons e R. Kramer e al.
Um grande desafio para detectar deepfakes
Os pesquisadores mostraram que os participantes não conseguiram distinguir imagens falsas geradas por IA de fotos reais de personalidades conhecidas. Pior ainda, conhecer a pessoa melhora apenas ligeiramente o desempenho. Ter fotos de referência pode ajudar até certo ponto, mas apenas se os participantes forem claramente informados de que as fotos são reais.
“ Este estudo demonstra que a IA pode criar imagens sintéticas de rostos, novos ou já conhecidos, que a maioria das pessoas não consegue distinguir dos reais. fotografias. Conhecer um rosto ou ter imagens de referência não ajudou muito na identificação de falsificações. É por isso que é urgente encontrar novos métodos para detectá-los “, disse Jeremy Tree, um dos autores.
Esses resultados destacam a importância da criação de ferramentas para detectar deepfakes. Os pesquisadores estão preocupados com possíveis abusos, incluindo a geração de imagens de celebridades recomendando produtos ou apoiando partidos políticos.