Uma verificação recente de factos da comunidade da rede social “X” afirmava que uma imagem da guerra Israel-Hamas tinha sido gerada com inteligência artificial, mas afinal não foi.

Num artigo publicado na Poynter, Alex Mahadeven aborda o aumento da desinformação durante o conflito entre Israel e o Hamas e examina o papel da inteligência artificial (IA) generativa, como “deepfakes”, nesse cenário. 

Contrariando preocupações gerais, o autor afirma que, até o momento, a IA generativa não tem sido um factor significativo na disseminação de informações falsas durante o conflito. 

“A nota desapareceu do tweet. Mas foi uma ilustração sombria de que, à medida que o conflito em Gaza se desenrola nas redes sociais, a IA generativa não tem sido um factor importante na desinformação”, escreve.

O autor defende que, durante o conflito, a ameaça predominante tem sido o uso de imagens reais mas fora de contexto. 

A maioria das imagens e vídeos desmentidos pelos verificadores de factos incluía imagens captadas noutros países, como a Síria ou Turquia, e de conflitos passados, evidenciando a facilidade de deturpar a representação de eventos de guerra devido à vasta documentação disponível.

"Há muita coisa para deturpar quando se trata de guerras, quer se trate de imagens deste conflito, de conflitos anteriores", disse Mike Caulfield, investigador do Centro para um Público Informado da Universidade de Washington. "As guerras são coisas densamente documentadas, o que significa que, se se procura um meio de comunicação para deturpar, há muitas opções."

O autor enfatiza a importância de verificar a origem das imagens (fonte) e dos vídeos através de pesquisas reversas para garantir a sua autenticidade. 

Mahadeven refere que as restrições em imagens gráficas ou violentas podem ter desacelerado a produção de conteúdo relacionado à guerra, e a tecnologia, actualmente, não consegue igualar a qualidade de vídeos ou imagens reais fora de contexto que se espalham online.

Apesar das preocupações anteriores sobre o potencial prejudicial da IA generativa, o autor argumenta que as restrições à representação gráfica ou violenta podem ter limitado a produção de desinformação relacionada à guerra. A qualidade das "deepfakes" também é questionada, destacando um exemplo de baixa qualidade de uma deepfake de Joe Biden anunciando um recrutamento militar.

Mahadeven refere ainda que o PolitiFact desmascarou um “deepfake” de Joe Biden a anunciar um recrutamento militar. Embora a publicação tenha obtido mais de 675.000 visualizações no TikTok e dezenas de milhares de impressões no Facebook, a qualidade é abismal, e o próprio “deepfake” tem meses, bem antes da mais recente guerra entre Israel e o Hamas.

“A guerra foi o primeiro teste real dos avisos dos especialistas sobre a ameaça da IA generativa. A sua hipótese de que esta aumentaria a qualidade e a quantidade de desinformação não foi, até à data, comprovada”, afirma.

O artigo menciona ainda uma análise feita por pares na revista “Misinformation Review”, onde especialistas consideram exageradas as preocupações sobre os riscos da IA generativa na disseminação de desinformação. O artigo refere que, embora a IA possa efectivamente aumentar a quantidade de desinformação, a procura por essas “fake news” é limitada pela atenção finita das pessoas.

Felix Simon, coautor e investigador do Oxford Internet Observatory, refere que "investigações anteriores indicam que a desinformação tem frequentemente origem em figuras proeminentes, com certos políticos e meios de comunicação social partidários a desempenharem um papel desproporcionadamente importante”, dando como exemplo Elon Musk.

O autor também destaca que, apesar da influência limitada da IA no cenário informativo actual, não descarta totalmente a possibilidade de a IA se tornar uma questão relevante nas eleições de 2024. 

“A imagem viral da IA do Papa com um casaco Balenciaga mostrou que a tecnologia era capaz de enganar muitas pessoas se os riscos fossem baixos e a imagem atingisse um limiar de plausibilidade. E os “deepfakes” áudio surgiram nas recentes eleições na Eslováquia”, escreve.

Apesar da actual falta de influência da IA, o autor observa que “trolls” e propagandistas têm ampla filmagem de conflitos no Oriente Médio para inundar as redes sociais com desinformação, sem depender da IA.