Neste mês lemos o livro Race After Technology: Abolitionist Tools for the New Jim Code (em português, Raça Depois da Tecnologia: ferramentas abolicionistas contra o Novo Jim Code), escrito por Ruha Benjamin, professora de estudos afro-americanos da Universidade de Princeton. Na obra, a autora discute a relação entre tecnologia e racismo sistêmico, analisando casos específicos de “design discriminatório” e oferecendo ferramentas para adotarmos uma abordagem mais socialmente consciente para a tecnologia.

Pouca gente tem debatido o papel da tecnologia em perpetuar o racismo. Muitos ainda carregam a noção de que tecnologia é uma coisa neutra. O que Ruha Benjamin demonstra é que, na verdade, tecnologias digitais frequentemente escondem, aceleram e até aprofundam formas de discriminação. O livro desconstrói o hype da indústria da tecnologia e mostra como bots, algoritmos e códigos podem ser problemáticos, contribuindo para aprofundar desigualdade social e dando força à supremacia branca.

Race After Technology, de Ruha Benjamin

O que é o “Novo Jim Code”?

A Ruha Benjamin escreve de uma perspectiva estadunidense, então muitos dos exemplos usados são do contexto histórico daquele país. O subtítulo “the New Jim Code” faz alusão ao “Jim Crow”, conjunto de leis estaduais e locais que impunham a segregação racial no sul dos Estados Unidos durante parte dos séculos XIX e XX. No livro “The New Jim Crow: Mass Incarceration in the Age of Colorblindness”, de 2010, a pesquisadora e ativista de direitos civis Michelle Alexander mostra como o encarceramento em massa da população negra dos EUA é a mais recente manifestação do racismo.

O livro de Benjamin dialoga com essa ideia de novas formas de segregação que perpetuam o racismo. O conceito de “novo Jim Code” defende que cotidianamente estamos usando novas tecnologias que refletem e reproduzem desigualdades. A autora ainda explica que, como no passado o racismo se manifestava de formas que parecem mais explícitas e como tecnologias são vistas como “objetivas” ou “neutras”, frequentemente ignoramos a influência da tecnologia em questões raciais. Benjamin cita, por exemplo, algoritmos usados pelo poder público no EUA que indicam a probabilidade de uma determinada pessoa cometer ou não um crime novamente. Baseados em informações enviesadas, os algoritmos tendem a “prever” que pessoas negras serão reincidentes e pessoas brancas, não. Acontece que essa previsão se provando equivocada em muitos casos, prejudicando pessoas negras.

A realidade é que algoritmos estão em muitos setores das nossas vidas – impactando áreas como  justiça, saúde, arquitetura, educação, e mercado de trabalho. Esses algoritmos podem ser discriminatórios e refletir subjetividades da nossa sociedade. Por isso, é importante estarmos cientes das dimensões sociais da tecnologia e podemos trabalhar melhor contra opressões. Abaixo estão algumas das muitas coisas que aprendemos com essa leitura:

A tecnologia não é neutra e muitas vezes é deliberadamente racista.

• não temos como ignorar raça e outras questões sociais ao desenvolver tecnologia. as pessoas e empresas que criam tecnologias carregam um conjunto de perspectivas e preconceitos. nesse sentido, o livro mostra como tecnologias não só refletem questões raciais existentes, elas também podem ser usadas para reconstruir e reformular como as vidas de diferentes grupos raciais e os espaços que eles ocupam.

Precisamos desenvolver uma consciência de raça para avaliar tecnologias. 

• temos que avaliar as tecnologias pelos efeitos que elas produzem e não pela suposta intenção de quem as criou. isso inclui exigir que a tecnologia seja desenvolvida de forma a priorizar equidade e não a eficiência.
• para combater o racismo e outras práticas discriminatórias em diferentes tecnologias que fazem parte das infraestruturas das nossas vidas, precisamos de mais transparência por parte de quem está criando tecnologia. 
• precisamos desafiar as empresas criadoras de tecnologia coletivamente, garantir que elas se responsabilizem pelo desenvolvimento de ferramentas que não reproduzam racismo.

Precisamos reimaginar as tecnologias.

• isso inclui ir além de diversidade cosmética no setor da tecnologia. mais do que a mera presença de pessoas negras nos processos de criação de novas tecnologias, a autora defende que temos que garantir a adoção de uma abordagem anti-racista no desenvolvimento de tecnologia, incluindo inteligência artificial.
• os esforços para acabar com racismo na tecnologia virão também de organizações de base. a autora diz que desmistificar tecnologia é um passo para estimular mais participação de mais pessoas na construção de tecnologias.

As questões que estamos enfrentando hoje na relação entre raça e tecnologia são fundamentadas em um longo histórico de injustiça sistemática. O racismo não é uma fenômeno novo, mas as formas como ele se manifesta vão se alterando e se aprimorando. Na atualidade, o racismo tem se manifestado também no campo das tecnologias digitais. E para combatê-lo, precisamos adotar uma postura anti-racista no desenvolvimento de tecnologias mais justas e emancipatórias.

Esse texto é só uma breve coleção de algumas ideias que ficaram com a gente depois da leitura. Mas o livro é vasto em conteúdo. Recomendamos, então, para quem quer saber mais sobre o tema, os links abaixo:

• resenha do livro Race After Technology, por Tarcízio Silva (em português).
• site da Ruha Benjamin (em inglês).
• vídeo + podcast da Ruha Benjamin discutindo o livro, por Data & Society (em inglês).