{"id":717,"date":"2025-10-29T18:48:20","date_gmt":"2025-10-29T21:48:20","guid":{"rendered":"https:\/\/www.blogs.unicamp.br\/geict\/?p=717"},"modified":"2025-11-12T23:01:45","modified_gmt":"2025-11-13T02:01:45","slug":"alem-do-mito-da-neutralidade-a-socio-tecnicidade-da-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.blogs.unicamp.br\/geict\/2025\/10\/29\/alem-do-mito-da-neutralidade-a-socio-tecnicidade-da-inteligencia-artificial\/","title":{"rendered":"Al\u00e9m do Mito da Neutralidade: A S\u00f3cio Tecnicidade da Intelig\u00eancia Artificial"},"content":{"rendered":"\n
Por Jos\u00e9 Victor Rodrigues Catalano\n\nJos\u00e9 Victor Rodrigues Catalano possui gradua\u00e7\u00e3o em Administra\u00e7\u00e3o e mestrado em Ci\u00eancia, Tecnologia e Sociedade (UFSCar). Atualmente, est\u00e1 cursando doutorado em Economia na UNESP, no qual desenvolve uma pesquisa focada na intelig\u00eancia artificial e nos desafios relacionados \u00e0 governan\u00e7a tecnol\u00f3gica.<\/code><\/pre>\n\n\n\n
A Intelig\u00eancia Artificial (IA) constitui um campo voltado \u00e0 simula\u00e7\u00e3o de capacidades humanas por meio de sistemas tecnol\u00f3gicos (Luger, 2025). Profissionais de diversas \u00e1reas s\u00e3o respons\u00e1veis por projetar algoritmos e desenvolver infraestruturas capazes de processar grandes volumes de dados \u2014 big data \u2014 ampliando as fronteiras da automa\u00e7\u00e3o e da tomada de decis\u00e3o computacional (Mitchell, 2019).<\/p>\n\n\n\n
Embora frequentemente apresentada sob uma \u00f3tica t\u00e9cnica e neutra, a IA resulta de arranjos sociot\u00e9cnicos complexos que desafiam vis\u00f5es deterministas e lineares de progresso tecnol\u00f3gico (Catalano, 2023). Sua constru\u00e7\u00e3o envolve decis\u00f5es humanas opacas permeadas por interesses, valores e disputas, revelando uma escolha sociot\u00e9cnica \u2014 sujeita \u00e0 cr\u00edtica, \u00e0 contesta\u00e7\u00e3o e \u00e0 reorienta\u00e7\u00e3o.<\/p>\n\n\n\n
\n
A IA embora apresentada como neutra e t\u00e9cnica, \u00e9 fruto de decis\u00f5es humanas imersas em contextos sociais e pol\u00edticos, enquanto seus processos internos permanecem opacos, tornando invis\u00edveis as escolhas que moldam suas sa\u00eddas.<\/em><\/p>\n<\/blockquote>\n\n\n\n
<\/p>\n\n\n\n
\"\"<\/a>
Yasmine Boudiaf & LOTI. Fonte: Better Images of AI.<\/figcaption><\/figure>\n\n\n\n
A (des)constru\u00e7\u00e3o da objetividade cient\u00edfica e tecnol\u00f3gica<\/strong><\/h4>\n\n\n\n
Daston e Galison (2007) demonstram que o ideal de objetividade cient\u00edfica foi constru\u00eddo ao longo dos s\u00e9culos como um padr\u00e3o epistemol\u00f3gico orientado \u00e0 exclus\u00e3o de julgamentos subjetivos e vieses pessoais nos processos de produ\u00e7\u00e3o do conhecimento. Esse ideal foi, posteriormente, transferido ao campo tecnol\u00f3gico, originando uma \u201cest\u00e9tica da neutralidade\u201d que confere aos artefatos t\u00e9cnicos a apar\u00eancia de imparcialidade e confiabilidade.<\/p>\n\n\n\n
No \u00e2mbito da IA, essa est\u00e9tica atua como uma ret\u00f3rica poderosa de legitima\u00e7\u00e3o de decis\u00f5es automatizadas, apresentadas como desprovidas de valores ou interesses humanos, o que contribui para a naturaliza\u00e7\u00e3o e aceita\u00e7\u00e3o social desses sistemas. A cren\u00e7a na racionalidade e objetividade dos sistemas de IA consolidou-se, assim, como um mito institucional que orienta decis\u00f5es organizacionais e pol\u00edticas p\u00fablicas frequentemente dissociadas de avalia\u00e7\u00f5es cr\u00edticas quanto aos seus impactos sociais e distributivos (Rudko et al., 2025).<\/p>\n\n\n\n
Essa mitifica\u00e7\u00e3o n\u00e3o resulta apenas de desconhecimento t\u00e9cnico, mas tamb\u00e9m de uma estrat\u00e9gia discursiva que, ao atribuir neutralidade \u00e0s tecnologias, naturaliza a ado\u00e7\u00e3o de sistemas que viabilizam pr\u00e1ticas como a coleta massiva de dados, a apropria\u00e7\u00e3o do trabalho impl\u00edcito dos usu\u00e1rios e a automa\u00e7\u00e3o em larga escala de decis\u00f5es (Catalano, 2023), gerando impactos diretos sobre a cria\u00e7\u00e3o de valor econ\u00f4mico e o controle informacional por parte de corpora\u00e7\u00f5es e institui\u00e7\u00f5es.<\/p>\n\n\n\n
A lente cr\u00edtica dos Estudos de Ci\u00eancia, Tecnologia e Sociedade<\/strong><\/h4>\n\n\n\n
Nesse contexto, a perspectiva dos Estudos de Ci\u00eancia, Tecnologia e Sociedade (CTS) oferece uma lente cr\u00edtica essencial para desmistificar o mito da \u201cneutralidade algor\u00edtmica da IA\u201d. Latour (2012) desenvolve o conceito de h\u00edbridos sociot\u00e9cnicos para caracterizar os sistemas tecnol\u00f3gicos como artefatos resultantes da articula\u00e7\u00e3o insepar\u00e1vel entre elementos humanos e n\u00e3o humanos, dissolvendo a dicotomia entre o t\u00e9cnico e o social.<\/p>\n\n\n\n
Assim, a IA n\u00e3o pode ser compreendida como entidade aut\u00f4noma ou neutra, mas como produto de redes complexas \u2014 sociot\u00e9cnicas \u2014 que envolvem desenvolvedores, usu\u00e1rios, dados, infraestruturas, normas e institui\u00e7\u00f5es, nas quais decis\u00f5es s\u00e3o tomadas \u00e0 luz de interesses, valores e disputas normativas (Catalano, 2023). Essa abordagem evidencia que algoritmos s\u00e3o constru\u00e7\u00f5es pol\u00edticas e sociais, imersas em redes de poder e conhecimento, cuja aparente objetividade mascara processos cont\u00ednuos de negocia\u00e7\u00e3o e conflito.<\/p>\n\n\n\n
A mitifica\u00e7\u00e3o da autonomia algor\u00edtmica sustenta a ilus\u00e3o de que os sistemas de IA operam como entidades autossuficientes, capazes de tomar decis\u00f5es objetivas e desvinculadas dos contextos institucionais e sociais. Na pr\u00e1tica, tais algoritmos resultam de escolhas t\u00e9cnicas e pol\u00edticas, baseados em dados historicamente situados e continuamente ajustados por atores humanos (Catalano, 2023).<\/p>\n\n\n\n
Empresas e institui\u00e7\u00f5es, nesse cen\u00e1rio, frequentemente adotam solu\u00e7\u00f5es algor\u00edtmicas n\u00e3o com base em sua efic\u00e1cia comprovada, mas como forma de sinalizar inova\u00e7\u00e3o, moderniza\u00e7\u00e3o ou conformidade com expectativas externas e regulat\u00f3rias (Rudko et al., 2025). Essa l\u00f3gica \u00e9 intensificada pela centralidade das grandes empresas de tecnologia, que moldam padr\u00f5es t\u00e9cnicos e normativos em escala transnacional (Zuboff, 2019).<\/p>\n\n\n\n
Consequentemente, a difus\u00e3o dessas tecnologias \u00e9 impulsionada por press\u00f5es reputacionais e de conformidade, em detrimento de an\u00e1lises cr\u00edticas de seus efeitos sociais, \u00e9ticos e distributivos. A partir da \u00f3ptica dos CTS, esse processo evidencia como o discurso da objetividade tecnol\u00f3gica opera como instrumento de poder, legitimando pr\u00e1ticas de explora\u00e7\u00e3o e despolitizando os processos de desenvolvimento e governan\u00e7a tecnol\u00f3gica.<\/p>\n\n\n\n
\n
A IA n\u00e3o \u00e9 neutra nem aut\u00f4noma: sob a apar\u00eancia de objetividade, esconde escolhas historicamente situadas, interesses institucionais e rela\u00e7\u00f5es de poder.<\/em><\/p>\n<\/blockquote>\n\n\n\n
\"\"<\/a>
Hanna Barakat\u00a0 & Archival Images of AI + AIxDESIGN. Fonte: Better Images of AI.<\/figcaption><\/figure>\n\n\n\n
Autores dos CTS (Latour, 2000; Suchman, 2006; Collins e Pinch, 2014) destacam que os valores orientadores do \u201cfazer\u201d cient\u00edfico e tecnol\u00f3gico n\u00e3o s\u00e3o universais, mas resultados de disputas entre grupos sociais, culturais e geopol\u00edticos diversos. A partir de uma an\u00e1lise interseccional, torna-se evidente que os sistemas algor\u00edtmicos frequentemente reproduzem e amplificam desigualdades estruturais e sociais.<\/p>\n\n\n\n
O\u2019Neil (2016) demonstra que algoritmos baseados em big data refor\u00e7am desigualdades pr\u00e9-existentes ao estabelecer ciclos de retroalimenta\u00e7\u00e3o que perpetuam disparidades em decis\u00f5es automatizadas. De forma complementar, Benjamin (2019) revela que a suposta neutralidade t\u00e9cnica desses sistemas encobre a incorpora\u00e7\u00e3o desses vieses nas arquiteturas algor\u00edtmicas. Noble (2018), por sua vez, evidencia o papel desses algoritmos na reprodu\u00e7\u00e3o de estere\u00f3tipos e pr\u00e1ticas discriminat\u00f3rias, enquanto Aum\u00fcller-Wagner (2019) demonstra como as decis\u00f5es automatizadas internalizam esses vieses estruturais.<\/p>\n\n\n\n
Na mesma dire\u00e7\u00e3o, Buolamwini (2023) mostra que o desenvolvimento e a implementa\u00e7\u00e3o da IA frequentemente refletem preconceitos sist\u00eamicos, contribuindo para a exclus\u00e3o de grupos historicamente marginalizados. De maneira convergente, Eubanks (2018) revela como ferramentas tecnol\u00f3gicas avan\u00e7adas segmentam, policiam e penalizam popula\u00e7\u00f5es vulner\u00e1veis, aprofundando desigualdades socioecon\u00f4micas j\u00e1 existentes.<\/p>\n\n\n\n
Coletivamente, essas contribui\u00e7\u00f5es sublinham a urg\u00eancia de abordagens cr\u00edticas e inclusivas capazes de confrontar os m\u00faltiplos vieses presentes nas tecnologias algor\u00edtmicas, promovendo solu\u00e7\u00f5es mais justas e equitativas.Al\u00e9m dos vieses interseccionais, outro desafio relevante diz respeito \u00e0 forma como tais sistemas s\u00e3o governados e auditados. O fortalecimento dos regimes de governan\u00e7a algor\u00edtmica intensificou dificuldades relacionadas \u00e0 responsabiliza\u00e7\u00e3o e transpar\u00eancia. Ananny e Crawford (2018) identificam uma \u201cl\u00f3gica da opacidade\u201d nos sistemas automatizados, que dificulta o rastreamento das decis\u00f5es e a identifica\u00e7\u00e3o de seus respons\u00e1veis.<\/p>\n\n\n\n
Essa opacidade possui dimens\u00f5es t\u00e9cnicas e pol\u00edticas, envolvendo desde decis\u00f5es de projeto at\u00e9 estruturas de poder e interesses corporativos que limitam o escrut\u00ednio p\u00fablico (Crawford, 2021). A governan\u00e7a algor\u00edtmica, portanto, n\u00e3o deve ser concebida apenas como um desafio t\u00e9cnico, mas como uma quest\u00e3o democr\u00e1tica central em sociedades cada vez mais mediadas por sistemas digitais.<\/p>\n\n\n\n
\n
As tecnologias algor\u00edtmicas, sob a fachada da neutralidade, reproduzem antigos regimes de poder e exclus\u00e3o; quem tece o c\u00f3digo tamb\u00e9m define quem \u00e9 desfeito por ele.<\/em><\/p>\n<\/blockquote>\n\n\n\n
\"\"<\/a>
Nadia Nadesan & Digit. Fonte: Better Images of AI.<\/figcaption><\/figure>\n\n\n\n
A import\u00e2ncia \u00e0 cr\u00edtica da neutralidade<\/strong><\/h4>\n\n\n\n
\u00c0 luz dessas perspectivas, torna-se evidente que a IA n\u00e3o deve ser abordada como for\u00e7a aut\u00f4noma que imp\u00f5e transforma\u00e7\u00f5es \u00e0 sociedade, mas como fen\u00f4meno sociot\u00e9cnico (Catalano, 2023). Isso implica reconhecer os m\u00faltiplos atores implicados em sua concep\u00e7\u00e3o e implementa\u00e7\u00e3o, bem como os conflitos e interesses que moldam suas trajet\u00f3rias, usos e consequ\u00eancias.<\/p>\n\n\n\n
A cr\u00edtica dos CTS revela os fundamentos sociopol\u00edticos que estruturam os sistemas algor\u00edtmicos, oferecendo instrumentos te\u00f3ricos e metodol\u00f3gicos para reconfigurar os marcos normativos que orientam sua concep\u00e7\u00e3o, opera\u00e7\u00e3o e regula\u00e7\u00e3o. Essa abordagem desloca o foco anal\u00edtico das propriedades t\u00e9cnicas dos artefatos para os contextos em que s\u00e3o produzidos e legitimados, rompendo a dicotomia entre t\u00e9cnica e sociedade, e evidenciando que toda decis\u00e3o tecnol\u00f3gica \u00e9 atravessada por valores, interesses e disputas normativas.<\/p>\n\n\n\n
As abordagens interdisciplinares discutidas ao longo do texto sustentam que a concep\u00e7\u00e3o e a governan\u00e7a da IA devem estar ancoradas na delibera\u00e7\u00e3o democr\u00e1tica, na pluralidade epist\u00eamica e na participa\u00e7\u00e3o ativa de diversos atores sociais. Princ\u00edpios como justi\u00e7a social, equidade epist\u00eamica e diversidade cultural n\u00e3o devem ser considerados complementares, mas sim centrais em todas as etapas do ciclo de desenvolvimento e regula\u00e7\u00e3o dessas tecnologias.<\/p>\n\n\n\n
Sob essa perspectiva, a cr\u00edtica \u00e0 neutralidade algor\u00edtmica n\u00e3o se limita a uma demanda \u00e9tica ou acad\u00eamica \u2014 ela assume o car\u00e1ter de uma exig\u00eancia democr\u00e1tica fundamental, \u00e0 medida que a IA se consolida como vetor de reconfigura\u00e7\u00e3o das estruturas sociot\u00e9cnicas de poder, das formas de cidadania e dos arranjos institucionais que moldam a vida social contempor\u00e2nea.<\/p>\n\n\n\n
<\/p>\n\n\n\n
\n
Refer\u00eancias<\/strong><\/h4>\n\n\n\n
ANANNY, Mike.; CRAWFORD, Kate. Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society<\/strong>, v. 20, n. 3, p. 973\u2013989, 2016. Dispon\u00edvel em: https:\/\/doi.org\/10.1177\/1461444816676645<\/a>.<\/p>\n\n\n\n
AUM\u00dcLLER-WAGNER, Sophia. Encoded Bias in Recruitment Algorithms: A practical, intersectional approach to fairness in Machine Learning Algorithms. Excellent Student Paper Series<\/strong>: STS Encounters, [s. l.], 2019. Dispon\u00edvel em: https:\/\/www.dasts.dk\/wp-content\/uploads\/Sophia-Aumueller-Wagner_2019.pdf<\/a>.<\/p>\n\n\n\n
BENJAMIN, Ruha. Race After Technology<\/strong>: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.<\/p>\n\n\n\n
BUOLAMWINI, Joy. Unmasking AI<\/strong>: My Mission to Protect What Is Human in a World of Machines. Nova Iorque: Random House, 2023.<\/p>\n\n\n\n
CATALANO, Jos\u00e9 V. R. Intelig\u00eancia Artificial e Teoria Ator-Rede em di\u00e1logo<\/strong>: analisando atores e associa\u00e7\u00f5es. 2023. Disserta\u00e7\u00e3o (Mestrado em Ci\u00eancia, Tecnologia e Sociedade) \u2013 Universidade Federal de S\u00e3o Carlos, S\u00e3o Carlos, 2023. Dispon\u00edvel em: https:\/\/repositorio.ufscar.br\/handle\/20.500.14289\/18866<\/a>.<\/p>\n\n\n\n
CRAWFORD, Kate. Atlas of AI<\/strong>: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021<\/p>\n\n\n\n
COLLINS, Harry M.; PINCH, Trevor. The Golem at Large<\/strong>: What You Should Know about Technology. Cambridge: Cambridge University Press, 2014.<\/p>\n\n\n\n
DASTON, L.; GALISON, P. Objectivity<\/strong>. Nova Iorque: Zone Books, 2007.<\/p>\n\n\n\n
LATOUR, Bruno.; Ci\u00eancia em A\u00e7\u00e3o<\/strong>: Como seguir cientistas e engenheiros sociedade afora. S\u00e3o Paulo: Editora UNESP, 2000.<\/p>\n\n\n\n
LATOUR, Bruno. Reagregando o Social<\/strong>: uma introdu\u00e7\u00e3o \u00e0 Teoria do Ator-Rede. Bauru: EDUSC, 2012.<\/p>\n\n\n\n
LUGER, George. F. Artificial Intelligence<\/strong>: Principles and Practice. Cham: Springer Nature, 2025.<\/p>\n\n\n\n
MITCHELL, Melanie. Artificial Intelligence<\/strong>: A Guide for Thinking Humans. Nova Iorque: Farrar, Straus and Giroux, 2019.<\/p>\n\n\n\n
NOBLE, Safiya U. Algorithms of Oppression<\/strong>: How Search Engines Reinforce Racism. Nova Iorque: New York University Press, 2018.<\/p>\n\n\n\n
O’NEIL, Cathy. Weapons of Math Destruction<\/strong>: How Big Data Increases Inequality and Threatens Democracy. Nova Iorque: Crown, 2016.<\/p>\n\n\n\n
RUDKO, Ihor; BONAB, Aysan B.; FEDELE, Maria; FORMISANO, Anna V. New institutional theory and AI: toward rethinking of artificial intelligence in organizations. Journal of Management History<\/strong>, v. 31, n. 2, p. 261-284, 2025. Dispon\u00edvel em: https:\/\/biopen.bi.no\/bi-xmlui\/handle\/11250\/3129186<\/a>.<\/p>\n\n\n\n
SUCHMAN, Lucy. Human-Machine Reconfigurations<\/strong>: Plans and Situated Actions. Cambridge: Cambridge University Press, 2006.<\/p>\n\n\n\n
EUBANKS, Virginia. Automating Inequality<\/strong>: How High-Tech Tools Profile, Police, and Punish the Poor. Nova Iorque: St. Martin’s Press, 2018.
ZUBOFF, Shoshana. A Era do Capitalismo de Vigil\u00e2ncia<\/strong>: A Luta por um Futuro Humano na Nova Fronteira do Poder. Rio de Janeiro: Editora Intr\u00ednseca, 2019.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"
A Intelig\u00eancia Artificial (IA) constitui um campo voltado \u00e0 simula\u00e7\u00e3o de capacidades humanas por meio de sistemas tecnol\u00f3gicos (Luger, 2025). Profissionais de diversas \u00e1reas s\u00e3o respons\u00e1veis por projetar algoritmos e desenvolver infraestruturas capazes de processar grandes volumes de dados \u2014 big data \u2014 ampliando as fronteiras da automa\u00e7\u00e3o e da […]<\/p>\n","protected":false},"author":726,"featured_media":720,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"pgc_sgb_lightbox_settings":"","_vp_format_video_url":"","_vp_image_focal_point":[],"footnotes":""},"categories":[67],"tags":[240,242,70,19,239,243,122,238,241,175],"class_list":["post-717","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-dossie-inteligencia-artificial","tag-bruno-latour","tag-critica-a-neutralidade","tag-dossie-inteligencia-artificial","tag-esct","tag-estudos-sociais-em-ciencia-e-tecnologia","tag-fazer-cientifico","tag-inteligencia-artificial","tag-neutralidade","tag-shoshana-zuboff","tag-sts"],"jetpack_featured_media_url":"https:\/\/www.blogs.unicamp.br\/geict\/wp-content\/uploads\/sites\/296\/2025\/10\/1.Jose-Victor-Hanna-Barakat-Archival-Images-of-AI-AIxDESIGN.jpg","_links":{"self":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/717","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/users\/726"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/comments?post=717"}],"version-history":[{"count":3,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/717\/revisions"}],"predecessor-version":[{"id":723,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/717\/revisions\/723"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/media\/720"}],"wp:attachment":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/media?parent=717"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/categories?post=717"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/tags?post=717"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}