Nenhuma a menos, um dado por vez: o feminismo de dados em ação no projeto Dados Contra o Feminicídio

Por Thais Lassali

Nos debates recentes sobre ciência e tecnologia, poucos temas ganharam tanta evidência quanto as inteligências artificiais. O Blog do GEICT, inclusive, tem abordado ultimamente essa questão sob múltiplas perspectivas: os impactos ambientais dos datacenters necessários para alimentar tal tecnologia, os novos regimes de trabalho precarizado que ela introduz, os vieses que ela apresenta, a opacidade de seu uso no cotidiano, dentre muitas outras abordagens possíveis. Tais abordagens têm em comum olhar para as inteligências artificiais de maneira crítica, sem entendê-las como um desenvolvimento tecnológico inevitável que teremos que aceitar de qualquer maneira, mas também sem tratá-las de modo tecnofóbico, como se qualquer tipo de inteligência artificial fosse imediatamente problemática e nociva. Em um dos textos presentes no Blog sobre inteligência artificial, a cientista da computação e mestranda em Política Científica e Tecnológica na Unicamp Nina da Hora aponta que “o grande desafio atual não é técnico, mas político: como transformar algoritmos que reproduzem desigualdades em ferramentas de libertação?”

Foi exatamente esse tipo de reflexão que conduziu a palestra “Co-desenvolvendo tecnologias feministas contra o feminicídio”, apresentada de modo online por Isadora Cruxên no último dia 27 de abril, a convite da pesquisadora pós-doutoranda Sara Munhoz, do GEICT. Cruxên é professora de Política, Negócios e Desenvolvimento da Queen Mary University of London, e desde 2023 co-lidera o projeto Dados Contra o Feminicídio (Data Against Feminicide), sobre o qual ela falou em detalhes em sua apresentação. O projeto existe desde 2019, tendo sido criado por Catherine D’Ignazio, Silvana Fumega e Helena Suárez Val a partir da constatação de que existiam poucos dados oficiais confiáveis ​​sobre feminicídio, acreditando, conforme aponta o site do projeto, que “mudanças na produção e no uso de dados poderiam contribuir para a compreensão e, em última instância, para o combate ao feminicídio na América Latina e no Caribe”.

O Dados Contra o Feminicídio, entretanto, não existe apenas para encontrar dados mais precisos sobre o problema da violência de gênero. Segundo a pesquisadora, esse

é só um primeiro passo, digamos assim, para poder responsabilizar as instituições estatais, para apoiar a ação coletiva e também para criar espaços de memória da vida dessas mulheres e meninas assassinadas. (…) Então, no contexto do nosso projeto, a gente entende esses esforços de coleta e produção de dados como formas de ativismo de dados. Esse é o conceito principal com o qual a gente trabalha, que são maneiras de produzir e usar dados para promover a mudança social, para apoiar estratégias políticas e construir novas formas de ação coletiva. 

Com esse objetivo, o projeto trabalha para o desenvolvimento participativo de ferramentas baseadas em inteligência artificial que promovem o monitoramento do feminicídio em diferentes contextos, apoiando a produção ativista de dados e também a comunicação sobre a violência contra mulheres. Uma dessas ferramentas é um sistema de alertas por e-mail que filtra notícias com alta probabilidade de serem sobre feminicídio e as envia às ativistas (que também podem consultá-las em uma plataforma). Um segundo dispositivo técnico, chamado de destacador, consiste em uma extensão para o navegador Chrome que, quando ativada, realça palavras-chave que as ativistas, durante seu trabalho de monitoramento, comumente encontram relacionadas a feminicídios.

Além de todos os problemas comumente associados às inteligências artificiais, os modelos mais populares com os quais lidamos no nosso dia a dia são de propriedade de grandes empresas de tecnologia (o ChatGPT da OpenAI, o Gemini do Google e a Claude AI da Anthropic, etc). Tais tecnologias carregam em si decisões que as fazem privilegiar a escalabilidade (a capacidade de um sistema suportar um aumento visitas, por exemplo) e uma construção em formato de caixa-preta, no qual o conhecimento utilizado para produzir tais tecnologias não é coletivizado, pelo contrário, é tratado como um segredo industrial. Como aponta Cruxên, todas essas escolhas são também políticas no sentido “tanto das estruturas de tomada de decisão, como também da produção de conhecimento e de dados, a questão de quem se beneficia e de quem arca com os custos desses sistemas”.

As ferramentas criadas pelo Dados Contra o Feminicídio, em contraste com esses modelos corporativos, são baseadas em processos colaborativos e coletivos de decisão, que encaram a política por trás da criação de uma tecnologia não a partir dos interesses de uma empresa privada. Elas funcionama partir de um outro viés, que tem como centro um conhecimento situado, que busca levar em conta contextos locais, e que tem como norte o cuidado coletivo. Cruxên chamou isso de feminismo de dados, a partir do conceito debatido no livro homônimo de Catherine D’Ignazio e Lauren Klein (2020).

O feminismo de dados é um conjunto de princípios para pensar sobre os dados, tanto nos seus usos quanto nos seus limites, de maneiras que são informadas pela experiência vivida, pelo compromisso com a ação e pelo pensamento feminista interseccional. Esses princípios incluem tanto examinar e questionar as estruturas de poder desiguais que sustentam a produção de dados, como outros princípios, como tornar o trabalho visível, abraçar o pluralismo e considerar o contexto.

E como isso se dá na prática do trabalho realizado pelo projeto? Conforme Cruxên conta, uma das principais dificuldades identificadas pelas pesquisas do Dados Contra o Feminicídio é que as ativistas precisam ler muito conteúdo violento. Isso não apenas leva muito tempo, como também é muito desgastante do ponto de vista emocional. Foi justamente por esse motivo que surgiu a ideia de automatizar, ao menos parcialmente, o processo de filtrar notícias sobre feminicídio. Assim, ao invés de buscar o uso de ferramentas de inteligência artificial apenas para tornar o trabalho mais eficiente, o projeto fez isso com o objetivo de promover o autocuidado entre as ativistas participantes. 

Outra diferença dos modelos de IA criados pelo Dados Contra o Feminicídio é que, diferente daqueles produzidos pelas Big Techs, eles não são generalistas e muito menos pretendem substituir o trabalho humano. Pelo contrário, as ferramentas disponibilizadas pelo projeto às ativistas são encaradas como produtos imperfeitos e inacabados. Isso traz relevo para a importância, como aponta Cruxên, do cuidado ao se

desenvolver ferramentas computacionais para conceitos que são politicamente contestados. Como eu falei, existem diferentes interpretações de feminicídio (…) em diferentes contextos, diferentes culturas, e essas diferenças não são fáceis de reconciliar com requerimentos da construção de um sistema de inteligência artificial que requer alguma forma de consenso na forma como um caso é interpretado, como ele é categorizado. A gente acha que isso é uma tensão importante na construção de sistemas sócio-técnicos plurais e que por isso também a ferramenta funciona melhor em alguns contextos que outros, como a gente tem enfatizado desde o começo no nosso trabalho com as ativistas, ela não existe para substituir o trabalho que elas fazem cotidianamente de monitoramento, mas para apoiar de alguma forma.

A apresentação completa de Isadora Cruxên pode ser encontrada aqui, no canal do GEICT no YouTube.