Será que o chatbot está vivo? Não! afirma o autor que, acrescenta, “os chatbots não são conscientes e não são inteligentes, pelo menos da maneira que os humanos são inteligentes”.

“O chatbot do Bing, é alimentado por um tipo de inteligência artificial chamada rede neural. Isso pode soar como um cérebro computadorizado, mas, o termo é enganoso.

Uma rede neural, é apenas um sistema matemático que aprende habilidades analisando grandes quantidades de dados digitais. Quando uma rede neural examina milhares de fotos de gatos, por exemplo, ela pode aprender a reconhecer um gato”.

A maioria das pessoas - segundo o autor - usa redes neurais todos os dias. É a tecnologia que identifica pessoas, animais de estimação e outros objectos em imagens postadas em serviços de internet como o Google Fotos. Isso permite que a Siri e a Alexa, os assistentes virtuais falantes da Apple e Amazon, reconheçam as palavras que os humanos falam. E é por exemplo, o que permite a tradução entre inglês, espanhol e português ao usarmos serviços como o Tradutor Google.

“As redes neurais são muito boas a imitar a maneira como os humanos usam a linguagem. Isso pode levar-nos a pensar que a tecnologia é mais poderosa do que realmente é” sublinha Metz.

E continua “cerca de cinco anos atrás, investigadores da Google e OpenAI, começaram a construir redes neurais que aprendiam com enormes quantidades de texto digital, incluindo livros, artigos da Wikipédia, registros de grupos de discussão, etc., importados de post´s na Internet”.

Para Metz, “essas redes neurais são conhecidas como grandes modelos de linguagem. São capazes de usar uma grande quantidade de dados para construir o que se pode chamar de mapa matemático da linguagem humana. Usando esse mapa, as redes neurais podem realizar muitas tarefas diferentes, como escrever os seus próprios tweets, compor discursos, gerar programas de computador e, sim, conversar”.

Embora os chatbots, não conversem exactamente como um humano, mas muitas assemelham-se a nós na sua comunicação. Tem a capacidade de escrever trabalhos de conclusão de um curso, poesia ou praticamente sobre quase qualquer assunto.

Mas então por que é que algumas vezes entendem mal as perguntas e dão respostas erradas? O autor explica o motivo, “isso acontece porque eles aprendem com a Internet. Pense em quanta desinformação e outros tipos de lixo estão na web”.

“Esses sistemas também não repetem palavra por palavra o que está na Internet. Com base no que aprenderam, produzem novos textos por conta própria, no que os investigadores de IA chamam de «alucinação»”.

“É por isso que os chatbots podem dar respostas diferentes se fizer a mesma pergunta duas vezes. Eles dirão sempre qualquer coisa, quer seja baseada na realidade ou não”.

De acordo com Metz, “os investigadores de IA, adoram usar termos que façam esses sistemas parecerem humanos. Mas, alucinar, é apenas um termo cativante para dizer «eles inventam coisas»”.

Pode parecer assustador e até perigoso, mas, o facto é que os chatbots, “apenas geram textos com base nos padrões que encontram na Internet”. Em muitos casos, misturam e combinam padrões de maneiras surpreendentes e perturbadoras. Mas “não estão conscientes do que fazem. Não podem raciocinar como os humanos”, afirma Cade Metz.