Uma nova ferramenta experimental de inteligência artificial (IA) desenvolvida pela Google DeepMind está a ajudar verificadores de factos da India Today a investigar imagens falsas, manipuladas ou retiradas do seu contexto original. O Backstory reúne num único processo diferentes técnicas de autenticação e rastreio de imagens, procurando acelerar uma tarefa que se tornou cada vez mais complexa para as redacções com a proliferação de conteúdos gerados por IA. 

A ferramenta, ainda disponível apenas através do Programa de Testadores de Confiança da Google, permite carregar uma imagem e formular uma pergunta sobre o seu conteúdo. A partir daí, o sistema pode verificar se a imagem foi gerada ou manipulada por IA, procurar outras ocorrências da mesma imagem na Internet e reconstruir parte do seu percurso online. 

Na India Today, o Backstory é utilizado sobretudo como uma primeira etapa do processo de verificação. Bal Krishna, responsável pela equipa de fact-checking do órgão de comunicação social, explica ao Nieman Lab que a ferramenta é usada em conjunto com outras soluções. 

“Na nossa equipa, quase toda a gente utiliza o Backstory em combinação com outras ferramentas. Utilizamo-lo como referência rápida — fornece algum contexto e dá alguma orientação”, afirma. O responsável destaca ainda a capacidade de concentrar num só espaço procedimentos que anteriormente exigiam várias ferramentas e diferentes acessos: “Faz todo o trabalho que se poderia ter feito com cinco ferramentas diferentes, cinco inícios de sessão diferentes, num único local. É essa a beleza da ferramenta.” 

Várias ferramentas num único processo 

Antes da utilização do Backstory, os jornalistas da India Today podiam ter de recorrer separadamente a detectores de imagens geradas por IA, ferramentas de pesquisa reversa e métodos para reconstruir a cronologia das aparições de uma imagem online. 

A nova ferramenta procura concentrar essas tarefas. De acordo com Zoe Darmé, gestora de produto da Frontier AI Research, equipa da DeepMind responsável pelo desenvolvimento do Backstory, a principal diferença está precisamente na combinação de diferentes métodos de análise. 

“O valor acrescentado único do Backstory é que oferece várias abordagens diferentes”, afirma Darmé. “O Backstory procura realmente reunir tudo isso numa única experiência de utilizador.” 

A ferramenta é actualmente testada por milhares de jornalistas, especialistas em OSINT, bibliotecários e investigadores ligados à literacia informacional. O objectivo é recolher feedback destes utilizadores antes de uma eventual disponibilização mais ampla. 

Uma das características que distingue o Backstory de outras ferramentas de detecção é a tentativa de analisar o contexto de uma imagem, e não apenas determinar se foi ou não produzida por inteligência artificial. 

Um relatório publicado em Julho pelo Centro de Política de Tecnologias da Informação de Princeton identificou limitações em várias ferramentas comerciais de detecção, nomeadamente por não considerarem formas mais subtis de manipulação, como retirar uma fotografia do seu contexto original. O mesmo relatório alertou para o recurso a classificações de confiança apresentadas como percentagens, sem explicar claramente como esses valores são calculados. 

Para Mike Caulfield, especialista em literacia digital e criador do método SIFT, este segmento intermédio entre o utilizador comum e o especialista em OSINT pode ser particularmente relevante. “Os ambientes de informação funcionam desta forma altamente intermediada, em que o que realmente tem maior impacto num ambiente de informação é ajudar quem ajuda”, afirma Caulfield. 

O especialista considera que o Backstory pode preencher uma lacuna entre ferramentas destinadas ao público em geral e soluções mais sofisticadas utilizadas por especialistas. Nem todos os jornalistas que precisam de verificar uma imagem têm acesso a ferramentas profissionais ou conhecimentos suficientes para trabalhar com um grande número de aplicações de OSINT. 

Rastrear a história de uma imagem 

Entre as funcionalidades do Backstory está a utilização do SynthID, sistema da Google destinado a detectar marcas de água incorporadas em imagens criadas com o modelo de geração de imagens Nano Banana. A ferramenta verifica também credenciais de conteúdo e metadados associados ao padrão C2PA, apoiado por empresas como Google, Adobe e BBC. 

Para Caulfield, contudo, o rastreio do histórico de uma imagem pode ser ainda mais importante do que a detecção de conteúdos gerados por IA. A funcionalidade permite procurar a primeira utilização conhecida de uma imagem e acompanhar alterações no seu contexto ao longo do tempo. 

“A parte da integração — contar a história completa da imagem — acaba por ser a parte que realmente consome mais tempo”, explica. “O Backstory pega num processo inicial que demoraria 50 minutos e consegue reduzi-lo para três.” 

A capacidade não é, contudo, nova enquanto necessidade jornalística. “Se falar com qualquer verificador de factos, acho que ninguém lhe dirá que não teria adorado ter esta ferramenta em 2016”, acrescenta Caulfield. 

Ferramenta também pode errar 

Apesar das potencialidades, o Backstory não elimina a necessidade de intervenção humana. Tal como acontece com outras ferramentas baseadas em grandes modelos de linguagem, a própria Google alerta que o sistema pode cometer erros. 

Um dos problemas identificados é a possibilidade de o modelo confundir imagens visualmente semelhantes. Caulfield explica que, quando uma fotografia pode ser descrita através de termos semelhantes aos utilizados para outra imagem popular na Internet, o sistema pode associar incorrectamente as duas. 

O problema foi identificado também durante testes realizados pelo próprio autor do artigo do Nieman Lab. Ao tentar reconstruir o histórico de uma fotografia de rosto, o Backstory confundiu-a inicialmente com uma imagem do jornalista Carlos Maza. O sistema produziu um relatório sobre a fotografia errada antes de corrigir a associação depois de receber o nome da pessoa retratada. 

Existem ainda limitações relacionadas com o universo de informação a que a ferramenta consegue aceder. Actualmente, o Backstory trabalha apenas com imagens e o rastreio do seu histórico depende de conteúdos que tenham sido indexados pelos motores de busca. Imagens que tenham circulado inicialmente em plataformas ou grupos fechados podem, por isso, ficar fora do alcance da ferramenta. 

“É possível que algo tenha tido origem no TikTok, que não está indexado. Pode ter tido origem no WhatsApp, no Signal ou em qualquer outro grupo fechado”, alerta Bal Krishna. “Ao utilizar o Backstory, deve ter estas limitações em conta. Nós fazemo-lo sempre.” 

Verificação humana continua indispensável 

As limitações levam a India Today a não utilizar directamente os relatórios produzidos pelo Backstory nas suas verificações de factos publicadas. Qualquer informação obtida através da ferramenta tem de ser confirmada manualmente pelos jornalistas. 

Ainda assim, Bal Krishna considera que a ferramenta representa um avanço importante. Descreve o Backstory como a “primeira ferramenta robusta criada por uma grande empresa tecnológica que foi disponibilizada aos verificadores de factos” para a verificação de imagens e acredita que o sistema poderá melhorar à medida que o feedback dos utilizadores for incorporado. 

A DeepMind está também a considerar expandir as capacidades da ferramenta para além das imagens, incluindo vídeo e outras modalidades. 

O desenvolvimento do Backstory surge, contudo, num contexto particularmente complexo para a Google. A própria DeepMind está associada ao desenvolvimento de tecnologias de geração de imagens, enquanto ferramentas como o Nano Banana têm sido alvo de críticas pelo potencial contributo para a circulação de conteúdos falsos e enganosos. No final de Julho, o Google Earth chegou a ser criticado depois de integrar o Nano Banana numa funcionalidade que permitia manipular imagens de satélite em 3D, tendo a empresa anunciado posteriormente a sua retirada e o reforço das medidas de protecção. 

Zoe Darmé afirma, contudo, que o desenvolvimento do Backstory não resultou directamente dessas críticas, mas de uma percepção mais abrangente sobre a deterioração da confiança nos conteúdos disponíveis online. “Existe uma necessidade clara por parte dos utilizadores”, afirma, defendendo o investimento numa ferramenta de proveniência fácil de utilizar. 

Por enquanto, a principal conclusão da experiência da India Today é que a inteligência artificial pode acelerar significativamente a verificação, mas não substitui o jornalista. A tecnologia pode reunir ferramentas, identificar pistas e reconstruir parte da história de uma imagem, mas a decisão final continua a depender da validação humana. 

(Créditos da imagem: Google DeepMind)