Ao considerarmos o papel dos algoritmos no processo de decisão, como afirma o autor, “precisamos de pensar, não só nos casos em que um algoritmo é o árbitro completo e definitivo, mas também nos muitos casos em que os algoritmos desempenham um papel crucial na modelação desse processo, mesmo quando a decisão final é tomada por humanos”. 

Para ir ao fundo do problema, “muitas dessas peças de software já trazem tendenciosismo embutido”  - explica Joy Buolamwini, fundadora da Algorithmic Justice League: 

“É claro que o uso crescente de algoritmos para apoiar o processo de decisão, embora proporcionando oportunidades de eficiência na prática, transporta uma grande porção de risco de resultados injustos ou discriminatórios.” 

Como afirma o autor do artigo aqui citado, elementos como “género, raça, tribo e até mesmo a localização podem ter como resultado que uma comunidade inteira não receba benefícios, mantendo-a desse modo em desvantagem. Dito de modo simples, os algoritmos podem ser racistas.” 

E segundo a congressista americana Alexandria Ocasio-Cortez, os algoritmos “têm sempre estas desigualdades raciais traduzidas, porque continuam a ser feitos por humanos, e continuam ligados a pressupostos humanos básicos”: 

“São apenas automatizados. E pressupostos automatizados  - se não corrigirmos o preconceito, estamos simplesmente a automatizar o preconceito.” 

Voltando ao texto de David Lemayian, “não são só os especialistas em tecnologia que podem fazer alguma coisa a respeito do tendenciosismo algorítmico”:

“Nós podemos começar por reivindicar o nosso espaço digital explorando as nossas escolhas entre serviços de tecnologia. Por exemplo, usando motores de busca como o DuckDuckGo, porque, ao contrário do vampiro voraz de dados que é o Google, esse não armazena informação pessoal para ser usada em publicidade dirigida.”  (...) 

“Em último caso, temos de pedir mais a nós mesmos e às empresas de tecnologia. Não basta usarmos um pensamento crítico  -  precisamos também de usar um pensamento cívico sobre o modo como construímos e usamos essas tecnologias.”

 

 

O artigo aqui citado, na International Journalists’ Network  e no Code for Africa