Já estivemos nesta situação, em Janeiro de 1966, afirma o autor que cita o caso de Joseph Weizenbaum, cientista da computação do MIT, quando apresentou o programa Eliza.

Weizenbaum, concebeu um programa para mostrar que, embora as máquinas pudessem aparentemente copiar o comportamento humano, na verdade são um truque de mágica. Quando se descobre como o truque é feito, deixa de ser uma ilusão.

Não havia nada de secreto sobre o Eliza, ao ler-se o código, entendia-se perfeitamente como funcionava. O que surpreendeu o seu criador foi, mesmo quando as pessoas sabiam que era apenas um programa, pareciam levá-lo a sério.

A semelhança intrigante do Eliza com o ChatGPT, é que as pessoas consideram-no mágico, embora saibam como funciona.

Weizenbaum, ficou tão chocado quanto os educadores e artistas de hoje ficam sujeitos a escravidão contemporânea às ferramentas de IA. Essa indignação humanística alimentou a sua oposição ao determinismo tecnológico da inteligência artificial. No seu livro Computer Power and Human Reason, apresentou as suas reservas sobre o rumo que a humanidade está a levar em direcção à “automação de tudo”.

Naughton, com recurso a uma definição de Noam Chomsky, continua a explanar as suas preocupações sobre o classifica de “espécie de máquina para plágio de alta tecnologia”. Ainda não sabemos nem metade sobre esta ferramenta, nem sobre as emissões de CO2 incorridas no treino do modelo de linguagem subjacente ou sobre a pegada de carbono de todas as interacções fantásticas dos utilizadores com o programa”.

E questiona, continuando a seguir Chomsky, será que a tecnologia só existe por causa da apropriação não autorizada do trabalho criativo de milhões de pessoas que por acaso estão na web? Qual é o modelo de negócio por trás dessas ferramentas? Não sabemos afirma.

Em resumo John Naughton, conclui o artigo, afirmando que estamos a fazer “negócios da china” com essa nova tecnologia. Nesses contratos, ambos os lados ganham algo, mas o diabo fica com a alma humana, enquanto os humanos recebem os serviços que nos fascinam. Às vezes, a troca, funciona para nós, mas nestas coisas, se eventualmente viermos a decidir que não é bom, será tarde demais. Esta é a transacção que a IA generativa, está a colocar em cima da mesa. Será que estamos prontos para isso? Questiona.