Sobre a tradução
Como forma de tornar pública e acessível a discussão envolvendo ciência de dados, inteligência artificial e sociedade, o IBPAD decidiu traduzir o segundo capítulo do livro “From BIAS to Feminist AI”, publicado pela MIT Press em 2020. No livro, uma série de autoras discutem as relações entre Inteligência Artificial, opressões e questões sociais ligadas à programação, implementação e uso de tecnologias digitais autônomas. O livro parte da perspectiva de que os sistemas de informação e inteligência que utilizamos hoje não são neutros, mas formados pela nossa sociedade, normas e culturas. É no interior desse raciocínio que reflexões sobre as desigualdades e influências devem estar presentes.
Catherine D’Ignazio e Lauren Klein, autoras do capítulo, oferecem um panorama geral do que é o feminismo de dados e porque ele é importante para pensar a Inteligência Artificial (IA) hoje. Elas mostram como as técnicas utilizadas nos sistemas de IA não estão descoladas do racismo, do machismo, da LGBTQIA+fobia, entre outras estruturas de opressão e dominação. O texto tem como intuito apontar como o desenvolvimento de softwares, programas e serviços pode passar por uma releitura à luz do feminismo de dados. Segundo as autoras, este movimento (ao mesmo tempo teórico, metodológico e ativista), por sua vez, não diz respeito apenas a gênero, mas abarca outras questões, como raça, classe, orientação social e origem. Trata-se de uma visão interseccional, capaz de pensar os problemas e propor soluções que possam contemplar todas as pessoas, reconhecendo os privilégios e responsabilidades no âmbito individual e, em especial, coletivo.
Desejamos a todas(os) que nos acompanham uma ótima leitura!
Introdução ao Feminismo de Dados, por Catherine D’Ignazio e Lauren Klein
Muitas das técnicas usadas pelos sistemas de Inteligência Artificial – de estatísticas oficiais, registros de saúde e metadados online até sensores e satélites – dependem de um treinamento com uma grande quantidade de dados.
Vivemos em uma época de incrível crescimento do poder da computação. Quando os primeiros computadores pessoais foram apresentados ao público, em 1977, uma máquina top de linha – o Apple II – vinha com 4kB de memória RAM, uma tela que podia mostrar apenas 24 linhas de texto (e mesmo assim, apenas em letras maiúsculas) e uma interface de fita cassete (lembre-se delas!) para leitura e gravação de dados. Mas avance para o presente. Agora temos computadores na forma de telefones que cabem em nossos bolsos e – no caso do Apple iPhone 12 Pro 2020 – pode conter 1,5 milhão de bits de informação a mais em sua memória do que o primeiro Apple II. Essa taxa de crescimento é impressionante e testemunhamos um crescimento igualmente exponencial em nossa capacidade de coletar e registrar informações em formato digital. Infelizmente, testemunhamos o mesmo crescimento na capacidade de coletar informações sobre nós (figura 1b).
Evidentemente, o ato de coletar e registrar dados sobre as pessoas não é nada novo. Desde os registros de mortos que foram publicados por oficiais da Igreja no início da era moderna até as contagens de populações indígenas que apareceram nos relatos coloniais das Américas, a coleta de dados tem sido empregada há muito tempo como uma técnica de consolidação do conhecimento sobre as pessoas cujos dados estão sendo coletados e, consequentemente, consolidando poder sobre suas vidas.
A estreita relação entre dados e poder talvez seja mais claramente visível no arco histórico que começa com a massa de pessoas capturadas e colocadas a bordo nos navios negreiros, reduzindo vidas ricamente vividas a números e nomes. Passou também pelo movimento eugênico no final do século XIX e início do século XX, que buscou utilizar dados para quantificar a superioridade dos brancos sobre todos os demais. Isso continua hoje na proliferação de tecnologias biométricas que, como mostrou a socióloga Simone Browne, são desproporcionalmente implantadas para vigiar corpos negros.
Quando Edward Snowden, ex-contratado da Agência de Segurança Nacional dos Estados Unidos (NSA), vazou seu cache de documentos confidenciais para a imprensa em 2013, ele revelou o grau em que o governo federal rotineiramente coleta dados sobre seus cidadãos – muitas vezes sem um mínimo de respeito à legalidade ou à ética. Também no nível municipal, os governos estão começando a coletar dados sobre tudo, desde o movimento do tráfego até as expressões faciais, no interesse de tornar as cidades “mais inteligentes”. Isso geralmente se traduz em reinscrever os padrões urbanos tradicionais de poder, como a segregação, o policiamento excessivo sobre as comunidades de cor (1) e o racionamento dos serviços urbanos, cada vez mais escassos.
Mas o governo não está sozinho nesses esforços de coleta de dados; as empresas também fazem isso – tendo o lucro como guia. As palavras e frases que pesquisamos no Google, os horários do dia em que somos mais ativos no Facebook e o número de itens que adicionamos aos nossos carrinhos da Amazon são rastreados e armazenados como dados – dados que são convertidos em ganho financeiro corporativo. As ações mais triviais do dia a dia – como procurar uma maneira de contornar o trânsito, curtir o vídeo de um amigo sobre o gato ou até mesmo sair de casa pela manhã – agora são mercadorias em alta. Não porque qualquer uma dessas ações seja excepcionalmente interessante (embora façamos uma exceção para os gatos de Catherine), mas porque essas pequenas ações podem ser combinadas com outras pequenas ações para gerar anúncios segmentados e recomendações personalizadas – em outras palavras, para nos dar mais coisas para clicar, curtir ou comprar.
Esta é a economia de dados, e as empresas, muitas vezes auxiliadas por pesquisadores acadêmicos, estão atualmente lutando para ver quais comportamentos – tanto online quanto offline – permanecem para serem transformados em dados e monetizados. Nada está fora da dataficação, como esse processo às vezes é denominado – nem seu histórico de pesquisa, ou os gatos de Catherine, ou a bunda que Lauren está usando atualmente para se sentar em sua cadeira. Para saber: Shigeomi Koshimizu, um professor de engenharia de Tóquio, tem projetado matrizes de sensores que coletam dados em 360 posições diferentes em torno do bumbum enquanto ele está confortavelmente acomodado em uma cadeira. Ele propõe que as pessoas tenham marcas de bumbum únicas, tão únicas quanto suas impressões digitais. No futuro, ele sugere que nossos carros poderiam ser equipados com scanners de fundo, em vez de chaves ou alarmes, para identificar o motorista.
Embora a dataficação possa ocasionalmente cair no reino do absurdo, continua sendo um problema muito sério. Decisões de importância cívica, econômica e individual já estão, cada vez mais, sendo tomadas por sistemas automatizados que vasculham grandes quantidades de dados. Por exemplo, a PredPol, uma assim chamada empresa de policiamento preditivo fundada em 2012 por um professor de antropologia da Universidade da Califórnia, em Los Angeles, foi contratada pela cidade de Los Angeles por quase uma década para determinar quais bairros deveriam ser patrulhados com mais intensidade, e quais bairros ignorar (principalmente). Mas como a PredPol é baseada em dados históricos de crimes e pelo fato do policiamento dos EUA sempre monitorar e patrulhar de maneira desproporcional os bairros de cor (2), as previsões de onde os crimes acontecerão no futuro se parecem muito com as práticas racistas do passado. Esses sistemas criam o que a matemática e escritora Cathy O’Neil, em Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, chama de “ciclo de resposta pernicioso” (pernicious feedback loop), ampliando os efeitos do preconceito racial e da criminalização da pobreza que já são endêmicos nos Estados Unidos.
A solução de O’Neil é abrir os sistemas computacionais que produzem esses resultados racistas. Somente sabendo o que entra neles, ela argumenta, poderemos entender o que sai. A transparência é uma etapa fundamental no projeto de mitigação dos efeitos de dados enviesados. Podemos fazer mais do que auditar sistemas discriminatórios após o fato. Nosso mundo atual exige mais, e é aí que entra o feminismo de dados.
O feminismo de dados é uma forma de pensar sobre os dados, sua análise e sua exibição, informada pela rica história do ativismo feminista e do pensamento crítico feminista. O feminismo de dados começa com uma crença na igualdade de gênero e com o reconhecimento de que alcançar a igualdade para pessoas de todos os gêneros (de todas as raças, orientações sexuais e de todos os lugares do mundo) requer um compromisso de examinar a causa raiz das desigualdades que certos indivíduos e grupos enfrentam hoje. No caso da PredPol, o feminismo de dados também exigiria que rastreemos seus dados tendenciosos em direção à sua fonte. A causa raiz do preconceito racial nos “três data points mais objetivos” que a PredPol emprega é a longa história da criminalização da negritude nos Estados Unidos, que produz práticas de policiamento tendenciosas, produz dados históricos tendenciosos, que são então usados para desenvolver modelos de risco para o futuro. Traçar essas ligações com as forças de opressão históricas e contínuas pode nos ajudar a responder a esta questão ética: esse sistema deveria existir? Este é o trabalho do feminismo de dados também. E no caso da PredPol, a resposta é um retumbante não.
Entender essa longa e complicada reação em cadeia é o que motivou Yeshimabeit Milner, junto com ativistas, organizadores e matemáticos dos EUA a fundar a Data for Black Lives, uma organização dedicada em “usar a ciência de dados para criar mudanças concretas e mensuráveis nas vidas das comunidades negras”. Grupos como a coalizão Stop LAPD Spying estão usando métodos explicitamente feministas e antirracistas para quantificar e desafiar a coleta de dados invasivos da polícia. Os jornalistas de dados usam algoritmos de engenharia reversa e estão coletando dados qualitativos em grande escala sobre os danos maternos (maternal harm). Os artistas estão convidando participantes para fazer mapas ecológicos e utilizando Inteligência Artificial (IA) para fazer memórias de famílias intergeracionais (figura 2a).
Este trabalho não se limita de forma alguma ao Norte. Na Tanzânia, por exemplo, o grupo DataZetu (“Nossos Dados”, em Swahili) trabalhou com parceiros da comunidade para realizar um competição de design para a criação de tecidos com estatísticas sobre a violência de gênero incorporadas nos padrões [visuais das peças] e, em seguida, realizou um desfile de moda com os vencedores ( figura 2b). Ativistas na América Latina estão documentando casos de mulheres, meninas e pessoas trans assassinadas em feminicídios, e grupos da sociedade civil estão criando padrões e construindo redes para usar os dados e desafiar a violência de gênero. Na Argentina, grupos como Economia Feminista (“Feminist Economy” em espanhol) estão usando dados de crowdsourcing para construir guias eleitorais feministas, distribuídos por meio de um site chamado Feminindex (figura 2c). A lista continua.
Todos esses projetos são ciência de dados. Muitas pessoas pensam nos dados apenas como números, mas, como esses projetos demonstram, os dados também podem consistir em palavras ou histórias, cores ou sons, ou qualquer tipo de informação que seja sistematicamente coletada, organizada e analisada. A ciência da ciência de dados simplesmente implica no compromisso com métodos sistemáticos de observação e experimento. Ao longo deste artigo, colocamos deliberadamente diversos exemplos de ciência de dados lado a lado. Eles vêm de indivíduos e pequenos grupos, de organizações acadêmicas, artísticas, sem fins lucrativos, jornalísticas, comunitárias e com fins lucrativos. Isso se deve à nossa crença na definição ampla de ciência de dados, que busque incluir em vez de excluir, e que não levante barreiras com base em credenciais formais, afiliação profissional, tamanho dos dados, complexidade dos métodos técnicos ou outros marcadores externos de perícia. Afinal de contas, esses marcadores têm sido usados há muito tempo para impedir que as mulheres se envolvessem totalmente em qualquer campo profissional, mesmo que esses campos – que incluem ciência de dados e ciência da computação, entre muitos outros – fossem amplamente construídos com base no conhecimento que as mulheres eram obrigadas a ensinar para si mesmas. Uma tentativa de resistir a esta história de gênero também é fundamental para o feminismo de dados.
Qual feminismo? Feminismo de quem?
O feminismo foi definido e usado de muitas maneiras. Aqui e em nosso livro, empregamos o termo feminismo como uma abreviatura para os diversos e abrangentes projetos que nomeiam e desafiam o sexismo e outras forças de opressão, bem como aqueles que buscam criar futuros mais justos, equitativos e habitáveis. Por causa dessa amplitude, alguns estudiosos preferem usar o termo feminismos, que sinaliza claramente a gama de – e, às vezes, as incompatibilidades entre – essas várias correntes de ativismo feminista e pensamento político. Por razões de legibilidade, escolhemos usar o termo feminismo aqui, mas nosso feminismo pretende ser tão expansivo quanto. Ele inclui o trabalho de pessoas comuns e de intelectuais públicos, bem como a organização de grupos que tomaram medidas diretas para alcançar a igualdade dos sexos. Também inclui o trabalho de estudiosas e outras críticas culturais que usaram a escrita para explorar as razões sociais, políticas, históricas e conceituais por trás da desigualdade dos sexos que enfrentamos hoje.
No processo, essas escritoras e ativistas deram voz às muitas maneiras em que o status quo de hoje é injusto. Essas injustiças são frequentemente o resultado de diferenciais históricos e contemporâneos de poder, incluindo aqueles entre homens, mulheres e pessoas não binárias, bem como entre pessoas cisgênero e transgêneros, mulheres brancas e negras, pesquisadores acadêmicos e comunidades indígenas, e pessoas do Norte Global e do Sul Global. As feministas analisam esses diferenciais de poder para que possam mudá-los. Embora um foco tão amplo – que incorpore raça, classe, deficiência (3) e muito mais – possa soar estranho para aqueles que pensam que o feminismo é apenas sobre gênero, a realidade é que qualquer movimento pela igualdade de gênero deve considerar as maneiras pelas quais as várias formas do privilégio, de um lado, e a opressão, do outro, serem interseccionais.
Como o conceito de interseccionalidade é essencial para compreender e aplicar o feminismo de dados, vamos ser um pouco mais específicos. O termo foi cunhado pela teórica jurídica Kimberlé Crenshaw no final dos anos 1980. Na faculdade de direito, Crenshaw havia se deparado com o caso de discriminação DeGraffenreid vs. General Motors. Emma DeGraffenreid era uma mãe trabalhadora negra que havia procurado emprego em uma fábrica da General Motors em sua cidade. Ela não foi contratada e processou a GM por discriminação. A fábrica tinha um histórico de contratação de negros: muitos negros trabalhavam em empregos industriais e de manutenção. Eles também tinham um histórico de contratação de mulheres: muitas mulheres brancas trabalhavam lá como secretárias. Essas duas evidências forneceram a justificativa para o juiz rejeitar o caso. Como a empresa contratou negros e mulheres, ela não poderia ser discriminatória com base em raça ou gênero. Mas Crenshaw queria saber: e quanto à discriminação com base na raça e no gênero? Isso era algo diferente, era real e precisava ser nomeado.
A chave para a ideia de interseccionalidade é que ela não apenas descreve os aspectos de intersecção da identidade de qualquer pessoa em particular (ou posicionalidade, como às vezes são denominadas). Também descreve a intersecção das forças de privilégio e opressão em ação numa determinada sociedade. A opressão envolve maus tratos sistemáticos de certos grupos de pessoas por outros grupos. Acontece quando o poder não é distribuído igualmente – quando um grupo controla as instituições de direito, educação e cultura, e usa seu poder para excluir sistematicamente outros grupos, enquanto dá ao seu próprio grupo vantagens injustas (ou simplesmente mantém o status quo). No caso da opressão de gênero, podemos apontar para o sexismo, o cissexismo e o patriarcado, que é evidente em tudo, desde a representação política até a diferença salarial para quem fala mais frequentemente (ou mais alto) em uma reunião. No caso da opressão racial, isso assume a forma de racismo e supremacia branca. Outras formas de opressão incluem o capacitismo, o colonialismo e o classismo. Cada um tem sua história particular e se manifesta de maneira distinta em diferentes culturas e contextos, mas todos envolvem um grupo dominante que acumula poder e privilégio às custas de outros. Além disso, essas forças de poder e privilégio, de um lado, e a opressão, do outro, se misturam de maneiras que multiplicam seus efeitos.
Os efeitos de privilégio e opressão não são distribuídos uniformemente por todos os indivíduos e grupos, no entanto. Para alguns, eles se tornam uma parte óbvia e inevitável da vida diária, especialmente para mulheres e pessoas de cor, pessoas queer e imigrantes: a lista é longa. Se você é membro de algum ou de todos esses (ou outros) grupos minoritários, você experimenta seus efeitos em todos os lugares, moldando as escolhas que você faz (ou não faz) a cada dia. Esses sistemas de poder são tão reais quanto a chuva. Mas as forças de opressão podem ser difíceis de detectar quando você se beneficia delas (chamamos isso de risco de privilégio em nosso livro). E é aí que voltamos à ideia do feminismo de dados. Nosso ponto de partida é algo que as feministas sabem de uma verdade básica, mas que em grande parte não é reconhecida no campo da ciência de dados: o poder não é distribuído igualmente no mundo. Aqueles que detêm o poder são desproporcionalmente elitistas, heterossexuais, brancos, sem deficiência, homens cisgêneros do Norte Global. O trabalho do feminismo de dados é, primeiro, sintonizar como as práticas padrões da ciência de dados servem para reforçar essas desigualdades existentes e, em segundo lugar, usar a ciência de dados para desafiar e mudar a distribuição de poder. O feminismo de dados subjacente é a crença e o compromisso com a co-libertação: a ideia de que sistemas opressivos de poder prejudicam a todos nós, que prejudicam a qualidade e a validade de nosso trabalho e que nos impedem de criar um impacto social verdadeiro e duradouro com ciência de dados.
Ao longo de sua própria história, o feminismo teve de trabalhar consistentemente para convencer o mundo de que é relevante para pessoas de todos os gêneros. Fazemos o mesmo argumento: o feminismo de dados é para todos. (E aqui pegamos emprestado um verso de bell hooks). Você já deve ter notado que os exemplos que usamos não são apenas sobre mulheres, nem são criados apenas por mulheres. Isso é porque o feminismo de dados não é apenas sobre mulheres. É necessário mais de um gênero para haver desigualdade de gênero e mais de um gênero para trabalhar em prol da justiça. Da mesma forma, o feminismo de dados não é apenas para mulheres. Homens, pessoas não binárias e queers têm orgulho de se intitularem como feministas e usarem o feminismo em seus trabalhos. Além disso, o feminismo de dados não é apenas sobre gênero. Feministas interseccionais nos ensinaram como raça, classe, sexualidade, deficiência, idade, religião, geografia, entre outros, são fatores que, juntos, influenciam a experiência e as oportunidades de cada pessoa no mundo. O feminismo de dados tem a ver com poder – sobre quem tem e quem não tem. O feminismo interseccional examina o poder desigual. E em nosso mundo contemporâneo, dados também são poder. Como o poder dos dados é exercido injustamente, ele deve ser desafiado e alterado.
Feminismo de Dados em Ação
Os dados são uma faca de dois gumes. Em um sentido muito real, os dados têm sido usados como uma arma por aqueles que estão no poder para consolidar seu controle – tanto sobre pessoas quanto sobre lugares e coisas. De fato, um objetivo central do Feminismo de Dados é mostrar como governos e corporações há muito tempo empregam dados e estatísticas como técnicas de gerenciamento para preservar um status quo desigual. Trabalhar com dados em uma perspectiva feminista requer conhecer e reconhecer essa história. Mas [conhecer e reconhecer] essa história falha não significa ceder o controle do futuro aos poderes do passado. Os dados são parte do problema, com certeza. Mas também fazem parte da solução. Outro objetivo central do projeto de feminismo de dados é mostrar como o poder dos dados pode ser exercido de volta.
Para nos guiar neste trabalho, desenvolvemos sete princípios básicos. Individualmente e juntos, esses princípios emergem da fundação do pensamento feminista interseccional. Cada um dos capítulos de nosso livro é estruturado em torno de um único princípio. Os sete princípios do feminismo de dados são os seguintes:
Examinar o poder. O feminismo de dados começa analisando como o poder opera no mundo.
Desafiar o poder. O feminismo de dados se compromete a desafiar as estruturas de poder desiguais e a trabalhar em prol da justiça.
Elevar a emoção e a corporalidade. O feminismo de dados nos ensina a valorizar as múltiplas formas de conhecimento, incluindo o conhecimento proveniente das pessoas enquanto corpos vivos e sensíveis no mundo.
Repensar os binarismo e as hierarquias. O feminismo de dados requer que desafiemos o binarismo de gênero, assim como outros sistemas de contagem e classificação que perpetuam opressão.
Abrace o pluralismo. O feminismo de dados insiste que o mais completo conhecimento vem da síntese de múltiplas perspectivas, com prioridade para as formas de conhecimento locais, indígenas e experienciais.
Considere o contexto. O feminismo de dados afirma que os dados não são neutros ou objetivos. Eles são produtos de relações sociais desiguais, e este contexto é essencial para conduzir análises precisas e éticas.
Tornar o trabalho visível. O trabalho de ciência de dados, como todo o trabalho no mundo, é um trabalho de muitas mãos. O feminismo de dados torna este trabalho visível, por isso precisa ser reconhecido e valorizado.
Em nosso livro, exploramos cada um desses princípios com mais detalhes, utilizando exemplos do campo da ciência de dados, amplamente definidos, para mostrar como esses princípios podem ser colocados em ação. Ao longo do caminho, apresentamos os principais conceitos feministas, como a matriz de dominação (Patricia Hill Collins), conhecimento situado (Donna Haraway) e trabalho emocional (Arlie Hochschild), bem como algumas de nossas próprias ideias sobre como o feminismo de dados se parece na teoria e na prática. Para esse fim, apresentamos aos leitores uma gama de pessoas na vanguarda em dados e justiça. Isso inclui engenheiras e desenvolvedoras de software, ativistas e organizadoras de comunidade, jornalistas de dados, artistas e acadêmicas. Essa variedade de pessoas, e a variedade de projetos que ajudaram a criar, é nossa maneira de responder à pergunta: O que torna um projeto de ciência de dados feminista? Como ficará claro, um projeto de ciência de dados pode ser feminista em conteúdo na medida em que desafia o poder pela escolha do assunto; na forma, na medida em que desafia o poder ao mudar os registros estéticos e/ou sensoriais da comunicação de dados; e/ou em processo, na medida em que desafia o poder ao construir processos participativos e inclusivos de produção de conhecimento. O que une esse amplo escopo de trabalho com dados é um compromisso com a ação e um desejo de refazer o mundo para ser mais igualitário e inclusivo.
Nosso objetivo geral é nos posicionarmos contra o status quo – contra um mundo que nos beneficia, duas professoras universitárias brancas, cisgêneros e sem deficiência localizados no Norte Global, às custas de outros. Nossos princípios têm o objetivo de funcionar como etapas concretas de ação para cientistas de dados que buscam aprender como o feminismo pode ajudá-los a trabalhar em prol da justiça, e para feministas que buscam aprender como seu próprio trabalho pode ser transportado para o campo crescente da ciência de dados. Eles também são dirigidos a profissionais em todas as áreas em que decisões baseadas em dados estão sendo tomadas, bem como a comunidades que desejam resistir ou mobilizar os dados que os cercam. Eles foram escritos para todas(os) que buscam entender melhor os gráficos e as estatísticas que encontram no dia a dia e para todas(os) que procuram comunicar a importância de tais gráficos e estatísticas a outras pessoas.
Nossa afirmação, mais uma vez, é que o feminismo de dados é para todos. É para pessoas de todos os gêneros. E o mais importante: trata-se de muito mais do que gênero. O feminismo de dados tem a ver com poder, quem tem e quem não tem e como esses diferenciais de poder podem ser desafiados e alterados usando dados. Convidamos você a se juntar a nós nesta jornada em direção à justiça e à reconstrução de nosso mundo movido a dados.
Mais sobre feminismo de dados
Feminismo de Dados é um livro de acesso aberto publicado pela MIT Press em 2020. Você pode lê-lo online no endereço https://data-feminism.mitpress.mit.edu ou comprá-lo da sua livraria independente local.
Este conteúdo está licenciado sob Creative Commons 4.0 (CC BY 4.0). A versão original (em inglês), pode ser encontrada no site Feminist AI.
Notas da tradução
(1) Comunidades de cor é o termo comumente utilizado para se referir às populações não brancas nos Estados Unidos, incluindo negros e hispânicos.
(2) Do mesmo modo que comunidade de cor, bairros de cor se referem às comunidades e regiões predominantemente ocupadas por negros e hispânicos nos EUA.
(3) No original, o termo utilizado é ability. Preferimos, porém, utilizar deficiência para evitar sentidos equivocados na tradução.
Referências
Alexander, Michelle. The New Jim Crow. The New Press, 2012.
Anderson, Margo J. The American Census: A Social History. Yale University Press, 2015.
Benjamin, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. 1st edition. Medford, MA: Polity, 2019.
Browne, Simone. Dark Matters: On the Surveillance of Blackness. Duke University Press, 2015.
CHM. ‘Home’. CHM. Accessed 23 May 2021. https://computerhistory.org/.
Cooper, Brittney C., Susana M. Morris, and Robin M. Boylorn, eds. The Crunk Feminist Collection. New York: The Feminist Press at CUNY, 2017.
Crenshaw, Kimberle. ‘Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine, Feminist Theory and Antiracist Politics’. University of Chicago Legal Forum 1989, no. 1 (7 December 2015). https://chicagounbound.uchicago.edu/uclf/vol1989/iss1/8.
———. ‘Mapping the Margins: Intersectionality, Identity Politics, and Violence against Women of Color’. Stanford Law Review 43, no. 6 (1991): 1241–99. https://doi.org/10.2307/1229039.
Crossman, Ashley. ‘What Sociology Can Teach Us About Oppression’. ThoughtCo. Accessed 23 May 2021. https://www.thoughtco.com/social-oppression-3026593.
D’Ignazio. ‘Catherine D’Ignazio on Instagram: “There’s Truly Nothing More Pleasing than a #MaineCoonCat in a Rainbow Lei”’. Accessed 23 May 2021. https://www.instagram.com/p/BgxGicVhhTW/.
DuVernay, Ava. 13th. Documentary, Crime, History. Forward Movement, Kandoo Films, Netflix, 2016.
Ehrenreich, Barbara. Witches, Midwives, and Nurses: A History of Women Healers. 2nd edition. New York City: The Feminist Press at CUNY, 2010.
Eubanks, Virginia. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York, NY: St. Martin’s Press, 2018.
Fake, Caterina. ‘Should This Exist’. Should This Exist? Accessed 23 May 2021. https://shouldthisexist.com/.
Farrell, Molly. Counting Bodies: Population in Colonial American Writing. Oxford University Press, 2016.
Gallardo, Adriana. ‘How We Collected Nearly 5,000 Stories of Maternal Harm’. ProPublica. Accessed 23 May 2021. https://www.propublica.org/article/how-we-collected-nearly-5-000-stories-of-maternal-harm?token=gKXJz8oaquJjtQQXfWohwVdXFUbpvysX.
Hooks, Bell. Feminism Is for Everybody: Passionate Politics. Pluto Press, 2000.
Hugs, Robot. ‘Having Trouble Explaining Oppression? This Comic Can Do It for You’. Everyday Feminism, 30 January 2017. https://everydayfeminism.com/2017/01/trouble-explaining-oppression/.
Intellectual Genealogies, Intersectionality, and Anna Julia Cooper: Vivian M. May. Feminist Solidarity at the Crossroads. Routledge, 2012. https://doi.org/10.4324/9780203145050-12.
Johnson, Jessica Marie. ‘Markup Bodies: Black [Life] Studies and Slavery [Death] Studies at the Digital Crossroads’. Social Text 36, no. 4 (137) (1 December 2018): 57–79. https://doi.org/10.1215/01642472-7145658.
Koh, Yoree. ‘Forget Fingerprints: Car Seat IDs Driver’s Rear End’. Wall Street Journal, 18 January 2012, sec. Driver’s Seat. https://www.wsj.com/articles/BL-DSB-8296.
Light, Jennifer S. ‘When Computers Were Women’. Technology and Culture 40, no. 3 (1999): 455–83.
Logipix Ltd. ‘Safe and Smart Cities’. Logipix. Accessed 23 May 2021. http://www.logipix.com/index.php/safe-and-smart-cities.
Mattern, Shannon. ‘Mission Control: A History of the Urban Dashboard’. Places Journal, 9 March 2015. https://doi.org/10.22269/150309.
Mattu, Julia Angwin, Jeff Larson,Lauren Kirchner,Surya. ‘Machine Bias’. ProPublica. Accessed 23 May 2021. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing?token=z-JINiwkIjlB5pxCVLzVjG9Q2IGCjWJS.
Mogel, Lize. ‘Walking the Watershed-The Project’. Accessed 23 May 2021. https://www.walkingthewatershed.com/home/.
Moraga, Cherríe. This Bridge Called My Back, Fourth Edition: Writings by Radical Women of Color. Edited by Gloria Anzaldúa. 4th edition. Albany: State University of New York Press, 2015.
O’Neil, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Penguin UK, 2016.
PredPol. ‘About Us’. PredPol (blog). Accessed 23 May 2021. https://www.predpol.com/about/.
———. ‘Predictive Policing Technology’. PredPol (blog). Accessed 23 May 2021. https://www.predpol.com/technology/.
Raley, Rita. ‘Dataveillance and Countervailance’, 2013. https://escholarship.org/uc/item/2b12683k.
Simon, Patrick. ‘Collecting Ethnic Statistics in Europe: A Review’. Ethnic and Racial Studies 35, no. 8 (1 August 2012): 1366–91. https://doi.org/10.1080/01419870.2011.607507.
Spade, Dean, and Rori Rohlfs. ‘Legal Equality, Gay Numbers and the (After?)Math of Eugenics’. S&F Online. Accessed 23 May 2021. http://sfonline.barnard.edu/navigating-neoliberalism-in-the-academy-nonprofits-and-beyond/dean-spade-rori-rohlfs-legal-equality-gay-numbers-and-the-aftermath-of-eugenics/.
Stop LAPD Spying Coalition. ‘To Observe and to Suspect”: A People’s Audit of the Los Angeles Police Department’s Special Order 1’, 19 March 2013. https://stoplapdspying.org/wp-content/uploads/2013/04/PEOPLES-AUDIT-UPDATED-APRIL-2-2013-A.pdf.
The Latin American Initiative for Open Data. ‘( Guía Para Protocolizar Procesos de Identificación de Feminicidios’. ILDA (blog), 1 September 2020. http://idatosabiertos.org/guia-para-protocolizar-procesos-de-identificacion-de-feminicidios/.
Vaz, Kim Marie, and Gary L Lemons. Feminist Solidarity at the Crossroads: Intersectional Women’s Studies for Transracial Alliance. New York: Routledge, 2012.
Wernimont, Jacqueline. Numbered Lives: Life and Death in Quantum Media. MIT Press, 2019.