Imagens de notícias falsas geradas por “IA” estão a diminuir

A tendência para o aparecimento de imagens, em notícias falsas, geradas por Inteligência Artificial (IA) parece estar a acalmar.
A 19 de março, à margem do quarto dia de manifestações contra a reforma das pensões, em França, circularam na internet, fotos falsas de Emmanuel Macron, nas ruas saqueadas, em Paris. Onze dias depois, após mais uma mobilização marcada por confrontos com a polícia, surgiu a imagem, igualmente artificial, de um nonagenário com o rosto inchado por golpes, a qual se tornou viral no país.
Mas, apesar daquelas mobilizações, sem precedentes em vinte anos, e das cenas de caos urbano, não surgiu nenhuma imagem gerada por IA nas redes sociais, por ocasião do Primeiro de Maio.
Será que tal indica que há uma pausa na criação de imagens falsas? Desde a sua rápida democratização em março de 2023, com o lançamento da nova versão do software Midjourney, a IA geradora de imagens, aumentou o medo de entrar numa nova era de desinformação visual. David Holz, presidente da Midjourney, que alcançou 14 milhões de utilizadores num mês, admitiu à revista The Verge, que moderar a plataforma foi “difícil”.
O uso das imagens criadas por IA mudou consideravelmente em apenas algumas semanas, o que aconteceu em abril, quando o software de geração de imagem IA mais popular mudou para um modelo pago. A introdução de uma subscrição mínima de dez euros por mês redirecionou, consideravelmente, a sua utilização para um público profissional. O exame dos pedidos – grande parte dos quais é público – mostra que o software é usado principalmente para projectar imagens de forma rápida e barata para filmes de animação, anúncios ou videojogos, mais do que para imitar fotos de imprensa.
Como ferramenta potencial de desinformação, a Midjourney também está a pagar pelo seu sucesso: as incontáveis falsificações que começaram a circular, provocaram uma onda de artigos na imprensa, com pistas para as reconhecer.
Os pontos fracos da IA já são bastante conhecidos, como a dificuldade em reproduzir mãos realistas ou textos coerentes, tanto que hoje, começa a ser mais difícil enganar alguns internautas.
Se o software de geração de imagens encontrou rapidamente o seu público, paradoxalmente passou relativamente despercebido pelos actores habituais da desinformação. À margem, alguns divertem-se com as suas possibilidades, aproveitando para brincar um pouco com a situação, encenando, por exemplo, imagens de personalidades em posturas degradantes, mas sem que essas imagens tentem enganar alguém.
No entanto, a criação de falsificações mais sofisticadas para a divulgação de fake news ainda não pode ser descartada.