#Estamos Lendo_8 // Algoritmos de Destruição em Massa, Cathy O’Neil

Por Mariana Antoun*

Opacidade. Escala. Dano. Para Cathy O’Neil essas três características são o que tornam um modelo matemático uma arma de destruição. A autora estadunidense é uma matemática, cientista de dados e mãe de três. Publicado originalmente em inglês como “Weapons of math destruction: how big data increases inequality and threatens democracy”, o livro se tornou best seller do The New York Times em 2017, mas só ganhou uma versão em português no fim de 2020. A tradução brasileira optou por usar no título do livro as palavras algoritmo e massa. No entanto, em todo o texto foi mantido o enunciado do conceito como “Armas de Destruição Matemática” (ADM). 

É do lugar de quem vive a matemática desde criança que O’Neil escreve e a reflexão sobre o papel da matemática e dos algoritmos. Segundo consta no texto, um dos gatilhos que motivaram a autora a escrever o livro foi seu trabalho no sistema financeiro estadunidense durante a crise bancária de 2008, onde o governo decidiu socorrer os bancos e deixar a população endividada entregue à própria sorte.

Foi ali que ela viu o algoritmo atuar de forma nociva para uma parcela imensa da população. “O colapso deixou bem claro que a matemática, outrora meu refúgio, não apenas estava profundamente emaranhada nos problemas mundiais como era também o combustível de muitos deles”.

De forma simples e didática ela explica como se concebe um algoritmo e como algoritmos sem nenhuma transparência operam grandes bancos de dados causando estragos na vida de pessoas, instituições e países. “Iremos explorar exemplos danosos que afetam pessoas em pontos-chave da vida: acessar a universidade, tomar empréstimos, ser sentenciado à prisão, ou encontrar e manter um emprego”, explica a autora na introdução.

Os primeiros dois capítulos se dedicam a conceituar as ADMs e também o lugar de onde a autora fala. Só uma mãe de três consegue usar como exemplo de modelo matemático dinâmico a decisão do cardápio para o jantar de uma família. Nos capítulos seguintes, sempre utilizando um vocabulário que remete a guerras e conflitos (campo lexical bélico), ela faz o exercício de apresentar exemplos reais de algoritmos opacos, utilizados em escala e prejudiciais, sempre apresentando primeiro seus dados de “eficiência”, para em seguida desmontar a argumentação evidenciando o que está oculto e visibilizando quem fica de fora da escala.

Já no capítulo “BAIXAS CIVIS”, por exemplo, ela apresenta o caso do sistema de previsão de crimes de uma startup chamada PredPol. Sistemas como esse já se proliferavam quando o livro foi escrito, e apesar da defesa dos desenvolvedores sobre sua suposta eficiência, O’Neil vai demonstrando como o algoritmo é enviesado: “por causa da forte correlação entre pobreza e notificação de crimes, os pobres continuam sendo pegos nessas diligências policiais digitais. O resto de nós mal precisa pensar a respeito.”. No penúltimo capítulo, “O CIDADÃO-ALVO”, ela joga lança luz sobre quão problemáticos são os algoritmos do Facebook e a voracidade do mercado de marketing digital, trazendo o caso, na ocasião ainda recente, de pesquisa apresentando os resultados de um experimento realizado pelo Facebook nas eleições presidenciais de 2016 nos EUA (e que abordamos na linha do tempo da Economia Psíquica do Algoritmo)

Muita coisa aconteceu desde o lançamento do livro em inglês quando o assunto é algoritmo (e a escolha da palavra para o título em português parece relacionada a isso) e a conclusão de “Algoritmos de destruição em massa” pode soar ingênua para a maioria dos pesquisadores do tema. Faltam também referências e apontamentos teóricos sobre os casos. No entanto, há um enorme mérito, ainda hoje, de problematizar para o público geral a presença e influência das ADMs não apenas nas plataformas de mídia social, mas em quase todos os campos da vida contemporânea.

“A questão não é se alguém sairá beneficiado. É que fazem muitos sofrer. Esses modelos, movidos por algoritmos, fecham portas na cara de milhões de pessoas, muitas vezes pelas mais frágeis das razões, e não oferecem recurso ou apelação. São injustos”.

O`Neil mantém o blog mathbabe.org e está no twitter: @mathbabedotorg. 

O’NEIL, C. Algoritmos de Destruição em Massa. 1. ed. Santo André, SP: Editora Rua do Sabão, 2020.

* Mariana Antoun é pesquisadora do MediaLab.UFRJ, mestranda em Comunicação e Cultura pela UFRJ e bolsista do CNPq.