Estamos de volta com as indicações de livros e desta vez queremos recomendar More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech, da pesquisadora Meredith Broussard. 

Como jornalista de dados, especialista em inteligência artificial, e professora da NYU (onde também é diretora de pesquisa da NYU Alliance for Public Interest Technology), Broussard tem trabalhado com inteligência artificial em reportagens investigativas e investigado questões éticas relacionadas à inteligência artificial. 

Em More than a Glitch, Broussard mostra como a justiça e o preconceito se manifestam dentro dos sistemas tecnológicos e sociais. O livro é um bom ponto de partida para entender as muitas maneiras pelas quais ideias sobre raça, gênero e habilidade estão incorporadas nas tecnologias de hoje. 

Mais do que falhas 

Em cada capítulo do livro, Broussard nos ajuda a entender um pouco do funcionamento de algumas das tecnologias que estão se tornando cada vez mais presentes no nosso dia-a-dia. Como autora, ela reconhece que, apesar de complexos, os temas não são impossíveis de serem compreendidos pelas leitoras, e apresenta o que tem de errado com estes sistemas, explicando como a tecnologia funciona (ou não) e suas consequências sociais. 

A autora mostra, por exemplo, como as tecnologias de reconhecimento facial estão sendo usadas no sistema policial nos EUA e explica as diferentes maneiras através das quais estas tecnologias são enviesadas negativamente contra pessoas negras, latinas e asiáticas. O resultado? Prisões e condenações injustas de pessoas racializadas em inúmeras ocasiões em diferentes estados nos EUA. Em consonância com organizações da sociedade civil e pesquisadores, Broussard defende que a melhor saída neste caso é banir o uso de tecnologias de reconhecimento facial em policiamento, segurança pública e sistemas de justiça. 

Em outro capítulo, entendemos como o uso de tecnologias para policiamento preditivo funciona. Em outras palavras, como modelos computacionais são treinados para “prever” atividades criminosas em potencial. Estes modelos, conforme Broussard ilustra, são criados com base em estatísticas enviesadas e resultam, principalmente, em perseguição a pessoas negras e latinas nos EUA. Um dos casos apresentados é o de Robert McDaniel, documentado pelo repórter Matt Stroud. Um modelo computacional usado pela polícia de sua cidade “previu” erroneamente que McDaniel seria envolvido em algum tiroteio, o que culminou em sucessivas perseguições da polícia local contra ele, ainda que ele não fosse culpado de nada. (Leia mais aqui!).

Com More than a Glitch, Broussard mostra que os vieses de gênero, raça e deficiência que estão presentes em muitas tecnologias não são “glitches”, isto é, falhas acidentais, e sim elementos estruturais de como estas tecnologias são criadas. 

Inovação tecnológica não é a mesma coisa que avanço social

No livro, Broussard lembra que muitos “tecno chauvinistas” vêem os dados e a tecnologia como coisas neutras e objetivas. Mas uma das conclusões de Broussard em More than a Glitch é justamente que é necessário desassociar a ideia de inovação tecnológica de progresso social. 

A autora mostra que usar mais tecnologia não vai necessariamente criar uma sociedade mais justa, principalmente se as tecnologias usadas estão causando violações de direitos humanos. 

As tecnologias precisam mudar conforme o mundo muda, e essa mudança precisa acontecer em direção a um mundo mais socialmente justo. Recomendamos muito a leitura de More than a Glitch para quem quiser entender mais sobre como criar esta mudança. Um dos caminhos possíveis apresentados pela autora é a realização de “auditorias de algoritmos” (algorithmic auditing), um conjunto de técnicas usadas para avaliar e auditar sistemas algorítmicos e responsabilizar as empresas pelas tecnologias que elas criam.

More than a Glitch é uma leitura essencial para pensar em um futuro mais justo. Conheça mais aqui:

• escute o episódio do nosso podcast sobre o livro aqui,
• conheça o site da Meredith Broussard, 
• escute esta entrevista (em inglês) com Broussard para o podcast Tech Policy Press, 
• e o documentário Coded Bias (disponível na Netflix).