Que nós consideramos a Meredith Broussard uma pesquisadora e pensadora fundamental, vocês já sabem. Lá em 2023, nós publicamos uma resenha do seu livro “More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech”, em que a autora mostra como injustiças e vieses de raça, gênero e habilidade estão incorporados no desenho de muitas tecnologias usadas amplamente. 

Broussard é jornalista de dados, especialista em inteligência artificial, e professora da NYU (onde também é diretora de pesquisa da NYU Alliance for Public Interest Technology). Ela trabalha há décadas com inteligência artificial em reportagens investigativas e tem pesquisado questões éticas relacionadas à inteligência artificial. 

Desta vez, viemos compartilhar a recomendação do livro “Artificial Unintelligence: How Computers Misunderstand the World”, publicado por Broussard em 2019. 

Estamos arrependidas de não ter lido este livro prontamente quando ele foi lançado há alguns anos. A obra é um guia excelente para quem quer entender o funcionamento interno e os limites externos da tecnologia e traz excelentes evidências do porquê nunca devemos presumir que os computadores estão sempre certos.

Computadores não compreendem o mundo e nem os problemas sociais que enfrentamos

“No final das contas, tudo que fazemos com computadores se limita à matemática, e existem limites fundamentais para o que podemos (e devemos) fazer com matemática. Eu acho que chegamos neste limite. (…) Quando olhamos para problemas sociais usando apenas tecnologia, tendemos a fazer os mesmos tipos de erros previsíveis que impedem o progresso e reforçam desigualdades (tradução livre).”

Em “Artificial Unintelligence”, Broussard apresenta a ideia de “tecnochauvinismo”, isto é, a crença de que a tecnologia é sempre a solução para problemas sociais. Para Broussard, esta é a convicção nociva que anima muitos dos desenvolvimentos tecnológicos que vemos hoje e que gers resultados indesejáveis, pouco eficientes e até mesmo injustos para nossa sociedade. Um otimismo injustificável sobre tecnologias e uma falta de cuidado na implementação de novas tecnologias são aspectos marcantes do tecnochauvinismo. 

Ao longo do livro, Broussard propõe formas de entender os limites do que a tecnologia pode, e deve, fazer. Ela mostra como os sonhos e objetivos de indivíduos específicos têm moldado o desenvolvimento de conhecimento científico, a cultura, a retórica usada em negócios, e até o aparato legal relacionado à tecnologia. Por isso, ela propõe que rejeitemos o “tecnochauvinismo” e que passemos a demandar mais qualidade nas tecnologias digitais. Assim como em More Than a Glitch, para a autora, prezar por qualidade significa exigir que as tecnologias que não causem danos à nossa sociedade e que não gerem ainda mais desigualdade. 

A história do desenvolvimento de muitas dessas tecnologias explica as crenças embutidas em algumas delas 

Nós particularmente gostamos do capítulo 6 do livro. Broussard oferece uma recapitulação da história da inteligência artificial e mostra como determinadas figuras – em sua maioria, homens brancos do norte global – tiveram um papel desproporcional no desenvolvimento das ideias que existem ainda hoje sobre a internet e sobre tecnologias. A autora mostra como é profunda a existência de vieses de gênero e raça na tecnologia e como decisões foram feitas em diferentes momentos da história para manter o poder de desenvolver tecnologias restrito a um determinado grupo. “A matemática, a física e as outras ciências nunca foram acolhedoras para mulheres e pessoas racializadas; e a tecnologia seguiu esta tradição” (tradução livre). 

Para Broussard, a situação se torna ainda mais grave quando consideramos que o setor da tecnologia tem sido dominado por pessoas associadas a ideologias de extrema-direita: “não devemos nos apressar para sermos governados por sistemas computacionais projetados por pessoas que não se importam ou não entendem os sistemas culturais nos quais estamos todos inseridos” (tradução livre).

“Para recapitular, temos um pequeno, elitizado grupo de homens que tendem a superestimar suas habilidades matemáticas, que sistematicamente excluíram mulheres e pessoas racializadas em favor de máquinas por séculos, que tendem a querer tornar ficção científica real, que dão pouca importância às convenções socieis, que não acreditam que as normas ou regras sociais se aplicam a eles, que têm pilhas de dinheiro governamental não usado, e que têm adotado a retórica ideológica da extrema-direita. O que poderia dar errado?”

Em um mundo onde parecemos estar cada vez mais obcecados pela adoção de tecnologias, como inteligência artificial, o livro de Broussard é um lembrete necessário de que o pensamento crítico e de que reflexões sobre as consequências sociais das tecnologias devem ser prioridades.

Para saber mais: 

• leia o livro (em inglês) aqui;
• conheça o site da Meredith Broussard.