Um olhar sociotécnico para a IA

Por Manuela Antonia Gomes da Rocha

Manuela Gomes é pesquisadora do GEICT, doutoranda e mestra em Política Científica e Tecnológica (Unicamp). Graduada em Engenharia Civil (UFG), com período sanduíche na National University of Ireland Galway (NUIG).

Analisar a IA a partir de uma perspectiva sociotécnica traz à tona as associações entre atores humanos e não-humanos, que são necessárias para construir e manter o sistema em operação. Essas associações podem ser pensadas desde a extração de metais e matérias-primas para a produção dos artefatos, até a interação com os usuários finais ou até os modos pelos quais o contato com a IA altera as interações entre as pessoas. Sob o termo Inteligência Artificial estão incluídos sistemas computacionais e dispositivos eletrônicos capazes de reagir às entradas ou aos inputs de dados, formulando respostas e tomando decisões com base nas informações recebidas. Os resultados podem abranger atividades como recomendações personalizadas de conteúdo, identificação de padrões e classificações de dados, modelos de predição e projeção de futuro, sistemas de comando por voz para direcionar o funcionamento de dispositivos eletrônicos, análises de dados do ambiente em tempo real, processamento de linguagem e até criação de conteúdo. 

A agência não-humana é um fator essencial para o funcionamento da IA e, como o próprio nome sugere, a inteligência das máquinas incorpora mecanismos de tomada de decisão executados por sistemas computacionais. Uma inteligência que, fundamentalmente, é baseada em cálculos matemáticos e modelos algorítmicos formulados por seres humanos. Em contrapartida, é tão extensa e complexa, com inúmeras camadas e associações entre variáveis, fórmulas e códigos, que chega a ser impossível rastrear qual comando ou qual instrução foi capaz de gerar os resultados. Isso faz com que o sistema atue, por vezes, de forma incompreensível até para quem o construiu. 

Crawford (2021) argumenta que a IA não é nem inteligente e nem artificial, mas incorporada e material, produzida pela combinação de recursos naturais, trabalho humano, infraestrutura, logística e esquemas de classificação. A autonomia, a racionalidade, o ordenamento lógico e a capacidade de discernir são obtidos através de treinamentos extensos e com alto nível de intensidade, realizados em imensos conjuntos de dados e fundamentados em regras predeterminadas que definem critérios de desempenho. 

Outro fator primordial para o funcionamento da IA são os trabalhadores responsáveis por fazer o tratamento e o treinamento dos dados, sem os quais a máquina não conseguiria aprender. O aprendizado é derivado de inúmeros e repetidos processos de tentativa e erro, nos quais se testa o modelo proposto em um conjunto de dados, visando reduzir, ao máximo possível, o erro. Considerando um modelo preditivo, a máquina aprende a percorrer o caminho que leva a um modelo de erro mínimo, isto é, um modelo que consiga prever e projetar o comportamento futuro com certa acurácia. Neste sentido, os dados gerados pelo modelo devem ser próximos dos dados reais utilizados na testagem e o erro é calculado a partir de uma relação entre eles. Todos esses processos dependem de dados tratados e organizados, com espaços vazios reduzidos e poucos valores discrepantes. No entanto, as diversas fontes de coleta de dados disponíveis nos diferentes dispositivos digitais, com os quais interagimos cotidianamente, geram imensos conjuntos de dados fragmentados e desordenados. O tratamento desses dados, geralmente, é realizado por milhares de trabalhadores mal remunerados, vinculados às plataformas globais de microtrabalho. Crawford (2021, p.15) chamou esses trabalhadores de “digital pieceworkers paid pennies”, por receberem centavos a cada microtarefa realizada.

Braz, Tubaro e Casilli (2023), enfatizam que o aprendizado de máquina depende profundamente do trabalho humano de geração, tratamento, classificação, anotação e verificação de dados. Apesar de essenciais para o treinamento dos algoritmos de machine learning, estas atividades são externalizadas, em âmbito global, para as plataformas de microtrabalho (BRAZ, 2021). Em muitos casos, como na classificação de imagens e na avaliação de conteúdo, as habilidades humanas cognitivas, criativas e intuitivas são imprescindíveis (BRAZ; TUBARO; CASILLI, 2024). A Organização Internacional do Trabalho (BERG, 2018) realizou uma pesquisa com 3500 trabalhadores que residiam em 75 países e trabalhavam para as cinco maiores plataformas globais de microtrabalho, a Amazon Mechanical Turk, a Clickworker, a CrowdFlower, a Microworker e a Prolific. Os resultados mostraram que a remuneração média recebida pelos trabalhadores foi de 5,92 dólares por hora, em 2015, e 4,43 dólares por hora, em 2017. Esses valores representam rendimentos, consideravelmente, menores do que o salário-mínimo dos países de origem das plataformas, os Estados Unidos, a Alemanha e o Reino Unido. 

A inteligência da IA é também material, ancorada nos data centers que salvam e resguardam a enorme quantidade de dados que alimenta o sistema. Todos os dados, incluindo os de treinamento e teste, precisam estar armazenados em dispositivos de memória. O que se entende por computação em nuvem reúne serviços de armazenamento e processamento de dados em larga escala. Serviços estes, que são amplamente utilizados na produção da IA e necessitam de uma infraestrutura física, composta por data centers, computadores, servidores, cabos de rede, dispositivos de memória, processadores, dentre outros equipamentos de hardware. Pode-se dizer que a nuvem, e consequentemente a IA, possuem profundas raízes materialmente localizadas. 

Para demonstrar essa vinculação física, os sistemas de armazenamento podem servir de exemplo. Os Solid State Drives funcionam por meio de nanotecnologias que retêm elétrons em suas minúsculas partículas, alterando a possibilidade de condução de corrente. Os dados são, então, representados em linguagem binária, sendo que os sinais lógicos, 0 ou 1, são determinados de acordo com a passagem ou a interrupção da corrente elétrica no momento da leitura. Os sistemas de armazenamento do tipo Hard Disk Drives salvam dados magnetizando pequenas regiões em discos rígidos giratórios, de forma que as orientações dos campos magnéticos criados representam os sinais lógicos 0 ou 1. Nesse sentido, cada dado está fisicamente salvo em algum lugar, seja na forma de campos magnéticos gravados em discos rígidos ou na forma de carga elétrica armazenada em nanomateriais. 

Em síntese, o digital não existe sem a infraestrutura física que armazena, distribui e processa os dados. As máquinas não conseguem aprender sem todo o trabalho humano depositado no tratamento e no treinamento dos dados. Se por um lado a IA é baseada em modelagem computacional feita por pessoas reais, por outro lado, ela automatiza sistemas de tomada de decisão e projeta comportamentos futuros. Compreender a IA, então, implica em romper com as distinções que separam o técnico do social, os humanos dos não-humanos, e o digital do material.

Referências