{"id":528,"date":"2025-08-27T18:59:01","date_gmt":"2025-08-27T21:59:01","guid":{"rendered":"https:\/\/www.blogs.unicamp.br\/geict\/?p=528"},"modified":"2025-08-27T18:59:03","modified_gmt":"2025-08-27T21:59:03","slug":"imagem-algoritmo-e-poder","status":"publish","type":"post","link":"https:\/\/www.blogs.unicamp.br\/geict\/2025\/08\/27\/imagem-algoritmo-e-poder\/","title":{"rendered":"Imagem, Algoritmo e Poder"},"content":{"rendered":"\n
Por Nina da Hora\n\nNina da Hora \u00e9 cientista da computa\u00e7\u00e3o (PUC - Rio), hacker antirracista e pesquisadora de mestrado do Laborat\u00f3rio de Intelig\u00eancia Artificial (Recod.ai\/IC\/Unicamp) e do DPTC\/IG\/Unicamp. Fundadora do Instituto da Hora.<\/code><\/pre>\n\n\n\n
Introdu\u00e7\u00e3o<\/b><\/h4>\n\n\n\n
Na contemporaneidade digital, testemunhamos uma transforma\u00e7\u00e3o radical na forma como as imagens s\u00e3o criadas, distribu\u00eddas e interpretadas. Sistemas de intelig\u00eancia artificial generativa revolucionaram a produ\u00e7\u00e3o visual ao criar imagens complexas a partir de simples descri\u00e7\u00f5es textuais. Essa revolu\u00e7\u00e3o tecnol\u00f3gica, aparentemente neutra e objetiva, carrega consigo quest\u00f5es profundas sobre representa\u00e7\u00e3o, poder e exclus\u00e3o social que Walter Benjamin (1936) j\u00e1 antecipava em sua an\u00e1lise sobre a reprodutibilidade t\u00e9cnica.<\/span><\/p>\n\n\n\n
Segundo Zhou e Nabus (2023), esses sistemas combinam padr\u00f5es aprendidos em vastos bancos de dados atrav\u00e9s de redes neurais profundas. Como explicam LeCun, Bengio e Hinton (2015), o funcionamento desses sistemas \u00e9 puramente estat\u00edstico, baseado em probabilidades e correla\u00e7\u00f5es matem\u00e1ticas. No entanto, essa aparente objetividade matem\u00e1tica esconde processos sociais complexos que Benjamin j\u00e1 identificava na fotografia: a media\u00e7\u00e3o t\u00e9cnica como ve\u00edculo de ideologia.<\/span><\/p>\n\n\n\n
Pesquisas recentes, como as conduzidas por Buolamwini e Gebru (2018), demonstram que sistemas de reconhecimento facial frequentemente falham na identifica\u00e7\u00e3o correta de pessoas negras. Noble (2018) aprofunda essa an\u00e1lise ao demonstrar que os algoritmos n\u00e3o s\u00e3o ferramentas neutras, mas artefatos culturais que carregam as marcas das sociedades que os produziram \u2013 exatamente como Benjamin argumentava sobre a c\u00e2mera fotogr\u00e1fica.<\/span><\/p>\n\n\n
\n
\"Foto:
Foto: Christian Naccarato. Fonte: Pexels.<\/a><\/figcaption><\/figure>\n<\/div>\n\n\n
\u00c9 neste contexto que a obra de Walter Benjamin se torna surpreendentemente atual. Sua an\u00e1lise sobre a reprodutibilidade t\u00e9cnica oferece insights fundamentais para compreendermos os dilemas contempor\u00e2neos da produ\u00e7\u00e3o algor\u00edtmica de imagens. Este artigo prop\u00f5e uma leitura cr\u00edtica que demonstra como a reprodu\u00e7\u00e3o t\u00e9cnica evoluiu para uma s\u00edntese algor\u00edtmica que n\u00e3o apenas desloca a aura da obra, mas reconstr\u00f3i a pr\u00f3pria realidade visual segundo padr\u00f5es hegem\u00f4nicos, realizando o que Benjamin temia: a completa expropria\u00e7\u00e3o da experi\u00eancia aut\u00eantica.<\/span><\/p>\n\n\n\n
A Reprodutibilidade T\u00e9cnica em Benjamin: Da Aura ao Algoritmo<\/b><\/h4>\n\n\n\n
Walter Benjamin, em “A obra de arte na era de sua reprodutibilidade t\u00e9cnica” (BENJAMIN, 1936), estabeleceu as bases para compreendermos as transforma\u00e7\u00f5es que a tecnologia imprime sobre a arte e a cultura. Para Benjamin, a reprodu\u00e7\u00e3o t\u00e9cnica transforma fundamentalmente a natureza da experi\u00eancia est\u00e9tica e social, deslocando o que ele chamou de “aura”  a singularidade, autenticidade e presen\u00e7a \u00fanica que uma obra de arte original possui.<\/span><\/p>\n\n\n\n
O conceito de aura est\u00e1 intrinsecamente ligado ao “aqui e agora” da obra, sua exist\u00eancia \u00e9 \u00fanica neste lugar. Sua inser\u00e7\u00e3o em um contexto espec\u00edfico de tradi\u00e7\u00e3o e ritual. Quando uma pintura \u00e9 fotografada e reproduzida milhares de vezes, algo essencial se perde. Benjamin observava que a fotografia e o cinema n\u00e3o apenas reproduziam a realidade, mas a reconstru\u00edam segundo l\u00f3gicas pr\u00f3prias atrav\u00e9s de enquadramentos, \u00e2ngulos e escolhas sobre o que incluir ou excluir do campo visual.<\/span><\/p>\n\n\n
\n
\"Foto
Foto do autor alem\u00e3o Walter Benjamin. Sem autor, 1928 – Akademie der K\u00fcnste, Berlin – Walter Benjamin Archiv, Dom\u00ednio p\u00fablico.<\/a><\/figcaption><\/figure>\n<\/div>\n\n\n
Essa percep\u00e7\u00e3o benjaminiana ganha nova relev\u00e2ncia quando consideramos a intelig\u00eancia artificial generativa. Se a fotografia j\u00e1 representava uma media\u00e7\u00e3o t\u00e9cnica entre o olhar humano e a realidade, a IA generativa adiciona camadas ainda mais complexas de media\u00e7\u00e3o. <\/span><\/p>\n\n\n\n
A distin\u00e7\u00e3o entre IA preditiva e generativa ecoa diretamente a an\u00e1lise benjaminiana sobre reprodu\u00e7\u00e3o t\u00e9cnica e percep\u00e7\u00e3o. Para Benjamin, a fotografia n\u00e3o era mera c\u00f3pia, mas uma reconstru\u00e7\u00e3o ideol\u00f3gica da realidade atrav\u00e9s de enquadramentos. Da mesma forma, podemos identificar dois regimes distintos de media\u00e7\u00e3o algor\u00edtmica:<\/span><\/p>\n\n\n\n
IA Preditiva<\/b> opera como a c\u00e2mera fotogr\u00e1fica analisada por Benjamin: reproduz o existente, mas com vieses de enquadramento. Ela mant\u00e9m uma rela\u00e7\u00e3o, ainda que mediada, com um referente externo. Corresponde \u00e0 primeira fase da reprodutibilidade t\u00e9cnica \u2013 a media\u00e7\u00e3o humana traduzida em algoritmos. Quando falha em identificar rostos negros, est\u00e1 reproduzindo os vieses do mundo real, mas ainda est\u00e1 vinculada a ele.<\/span><\/p>\n\n\n\n
IA Generativa<\/b> vai al\u00e9m, realizando o que Benjamin temia e Baudrillard (1991) posteriormente teorizou: cria realidades sem original, baseadas em correla\u00e7\u00f5es estat\u00edsticas de datasets colonizados. Realiza o simulacro perfeito \u2013 uma imagem sem aura e sem hist\u00f3ria. Se para Benjamin a reprodu\u00e7\u00e3o em massa dilu\u00eda o “aqui e agora” da obra, a IA generativa produz imagens completamente desenraizadas, que cristalizam hierarquias sem consci\u00eancia hist\u00f3rica.<\/span><\/p>\n\n\n
\n
\"Foto:
Foto: Ron Lach. Fonte: Pexels.<\/figcaption><\/figure>\n<\/div>\n\n\n
A tabela abaixo, agora integrada \u00e0 teoria benjaminiana, explicita essa diferen\u00e7a fundamental:<\/span><\/p>\n\n\n\n
Conceito Benjaminiano<\/b><\/td>IA Preditiva<\/b><\/td>IA Generativa<\/b><\/td><\/tr>
Reprodutibilidade<\/b><\/td>Reproduz com vieses (reconhecimento facial falho)<\/span><\/td>Gera sem referente (m\u00e9dicos sempre brancos)<\/span><\/td><\/tr>
Status da Aura<\/b><\/td>Aura dilu\u00edda (ainda h\u00e1 conex\u00e3o com o real)<\/span><\/td>Aura inexistente (puro simulacro)<\/span><\/td><\/tr>
Media\u00e7\u00e3o Ideol\u00f3gica<\/b><\/td>Enquadramentos humanos codificados<\/span><\/td>Padr\u00f5es hist\u00f3ricos naturalizados como “objetivos”<\/span><\/td><\/tr>
Rela\u00e7\u00e3o com o Ritual<\/b><\/td>Mant\u00e9m vest\u00edgios do contexto original<\/span><\/td>Cria novos rituais de exclus\u00e3o automatizados<\/span><\/td><\/tr>
Tipo de Viol\u00eancia<\/b><\/td>Invisibiliza\u00e7\u00e3o (n\u00e3o reconhece)<\/span><\/td>Impossibilidade (n\u00e3o consegue imaginar)<\/span><\/td><\/tr>
Expropria\u00e7\u00e3o<\/b><\/td>Da capacidade de ser visto<\/span><\/td>Da capacidade de existir no imagin\u00e1rio<\/span><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
Para Benjamin, a arte pr\u00e9-moderna tinha fun\u00e7\u00e3o ritual\u00edstica \u2013 estava inserida em contextos de culto e tradi\u00e7\u00e3o. Com a reprodutibilidade t\u00e9cnica, essa fun\u00e7\u00e3o ritual se dissolve. Paradoxalmente, a IA generativa cria novos rituais.<\/span><\/p>\n\n\n\n
Quando o Stable Diffusion gera “pessoas felizes” predominantemente brancas, ele n\u00e3o est\u00e1 sendo “neutro”, est\u00e1 reproduzindo o ritual colonial ocidental de associar felicidade \u00e0 branquitude, agora matematizado em distribui\u00e7\u00f5es de probabilidade. Cada itera\u00e7\u00e3o do algoritmo \u00e9 uma repeti\u00e7\u00e3o ritual dessa associa\u00e7\u00e3o, cristalizando-a como verdade estat\u00edstica.<\/span><\/p>\n\n\n\n
Saidiya Hartman (2008) desenvolveu o conceito de “escravid\u00e3o visual” ao analisar como fotografias do s\u00e9culo XIX n\u00e3o apenas documentavam, mas perpetuavam a viol\u00eancia atrav\u00e9s do olhar colonial. Ela prop\u00f5e “virar a c\u00e2mera” \u2013 expor a viol\u00eancia do olhar que criou essas imagens. Na IA podemos exemplificar tr\u00eas exemplos atuais deste conceito de Hartman:<\/span><\/p>\n\n\n\n
    \n
  1.  Google Photos (2015) – A Desumaniza\u00e7\u00e3o Matem\u00e1tica<\/b> O sistema classificou pessoas negras como “gorilas”. Tecnicamente, a rede neural convolucional havia sido treinada com pouqu\u00edssimas imagens de pessoas negras. Sem dados suficientes, o algoritmo \u2018defaultou\u2019 para a categoria mais “pr\u00f3xima” em seu espa\u00e7o matem\u00e1tico \u2013 uma desumaniza\u00e7\u00e3o literal codificada em n\u00fameros. Benjamin diria: a t\u00e9cnica n\u00e3o apenas reproduz, mas intensifica a viol\u00eancia simb\u00f3lica.<\/span><\/li>\n\n\n\n
  2.  CEOs Imagin\u00e1rios (2023) – O Teto de Vidro Digital<\/b> Sistemas generativos produzem quase exclusivamente homens brancos quando solicitados a gerar “CEO brasileiro”. O processo de difus\u00e3o parte de ru\u00eddo aleat\u00f3rio e o transforma seguindo padr\u00f5es aprendidos. Como a correla\u00e7\u00e3o “CEO = homem branco” domina estatisticamente, <\/span>o algoritmo realiza o que Benjamin chamaria de “expropria\u00e7\u00e3o da imagina\u00e7\u00e3o” \u2013 ele n\u00e3o consegue conceber alternativas ao padr\u00e3o hegem\u00f4nico<\/b>.<\/span><\/li>\n\n\n\n
  3.  Filtros de “Beleza” (2020-presente) – A Eugenia Algor\u00edtmica<\/b> Aplicativos clareiam automaticamente a pele de pessoas negras ao “melhorar” selfies. Os algoritmos foram treinados para maximizar m\u00e9tricas de “qualidade” definidas por datasets majoritariamente brancos. <\/span>\u00c9 o que Benjamin alertava: a reprodu\u00e7\u00e3o t\u00e9cnica n\u00e3o \u00e9 neutra, ela carrega e amplifica os valores da sociedade que a produziu.<\/b><\/li>\n<\/ol>\n\n\n\n
    A Atualidade de Benjamin no S\u00e9culo XXI<\/b><\/h4>\n\n\n\n
    A travessia te\u00f3rica empreendida neste artigo revela a atualidade surpreendente de Walter Benjamin para compreendermos os dilemas \u00e9ticos e pol\u00edticos da intelig\u00eancia artificial generativa. Se o diagn\u00f3stico benjaminiano sobre a perda da aura na reprodu\u00e7\u00e3o t\u00e9cnica nos serviu de b\u00fassola, os casos analisados – do Google Photos aos CEOs algor\u00edtmicos – demonstram que a IA generativa opera uma muta\u00e7\u00e3o qualitativa: n\u00e3o mais a reprodu\u00e7\u00e3o que desloca, mas a s\u00edntese que inventa realidades dist\u00f3picas a partir dos arquivos coloniais do digital.<\/span><\/p>\n\n\n
    \n
    \"Foto:
    Foto: Beyza Kaplan. Fonte: Pexels.<\/figcaption><\/figure>\n<\/div>\n\n\n
    Os tr\u00eas eixos que estruturam nossa an\u00e1lise – (1) a metamorfose da aura em simulacro estat\u00edstico, (2) a matematiza\u00e7\u00e3o da viol\u00eancia colonial e (3) os novos rituais de exclus\u00e3o automatizada – convergem para um paradoxo crucial: quanto mais “realistas” as imagens geradas por IA, mais elas escamoteiam seu car\u00e1ter ideol\u00f3gico. A li\u00e7\u00e3o de Hartman e Kilomba nos ensina que essa n\u00e3o \u00e9 uma falha do sistema, mas sua opera\u00e7\u00e3o perfeita.<\/span><\/p>\n\n\n\n
    A proposta de uma est\u00e9tica da resist\u00eancia algor\u00edtmica aqui esbo\u00e7ada n\u00e3o sugere meros ajustes t\u00e9cnicos, mas exige:<\/span><\/p>\n\n\n\n
      \n
    1. A desnaturaliza\u00e7\u00e3o radical dos datasets como artefatos pol\u00edticos<\/span><\/li>\n\n\n\n
    2. A cria\u00e7\u00e3o de protocolos de desobedi\u00eancia visual<\/span><\/li>\n\n\n\n
    3. A reapropria\u00e7\u00e3o coletiva da imagina\u00e7\u00e3o computacional<\/span><\/li>\n<\/ol>\n\n\n\n
      Quando Benjamin nos alertava sobre a estetiza\u00e7\u00e3o da pol\u00edtica, n\u00e3o podia prever seu desdobramento algor\u00edtmico: a pol\u00edtica da est\u00e9tica computacional, onde cada imagem gerada \u00e9 um ato de governamentalidade. O desafio que se coloca n\u00e3o \u00e9 de otimiza\u00e7\u00e3o, mas de reinven\u00e7\u00e3o – n\u00e3o como corrigir os algoritmos, mas como ressignificar coletivamente o que \u00e9 vis\u00edvel, imagin\u00e1vel e, portanto, poss\u00edvel.<\/span><\/p>\n\n\n\n
      Se a fotografia, segundo Benjamin, nos privou da ‘aura’ das obras de arte ao reproduzi-las mecanicamente, a intelig\u00eancia artificial generativa vai al\u00e9m: ela amea\u00e7a nos impedir at\u00e9 mesmo de perceber essa perda. Nesse contexto onde as imagens artificiais substituem a realidade, devemos construir novas formas de ver. O grande desafio atual n\u00e3o \u00e9 t\u00e9cnico, mas pol\u00edtico: como transformar algoritmos que reproduzem desigualdades em ferramentas de liberta\u00e7\u00e3o? Isso exigir\u00e1 n\u00e3o apenas an\u00e1lise, mas a\u00e7\u00e3o criativa, n\u00e3o para recuperar um passado idealizado, mas, para criar uma autenticidade digital onde a justi\u00e7a visual seja regra, n\u00e3o exce\u00e7\u00e3o.<\/span><\/p>\n\n\n\n
      Refer\u00eancias<\/b><\/h4>\n\n\n\n
      \n
      BAUDRILLARD, J. <\/span>Simulacros e simula\u00e7\u00e3o<\/b>. Lisboa: Rel\u00f3gio d’\u00c1gua, 1991.<\/span><\/p>\n\n\n\n
      BENJAMIN, R. <\/span>Race after technology<\/b>: abolitionist tools for the new Jim code. Cambridge: Polity Press, 2019.<\/span><\/p>\n\n\n\n
      BENJAMIN, W. <\/span>A obra de arte na era de sua reprodutibilidade t\u00e9cnica<\/b>. In: Obras escolhidas I: Magia e t\u00e9cnica, arte e pol\u00edtica. S\u00e3o Paulo: Brasiliense, 1936.<\/span><\/p>\n\n\n\n
      BUOLAMWINI, J.; GEBRU, T. Gender shades: intersectional accuracy disparities in commercial gender classification. <\/span>Proceedings of Machine Learning Research<\/b>, v. 81, p. 77-91, 2018.<\/span><\/p>\n\n\n\n
      CRAWFORD, K. <\/span>Atlas of AI<\/b>: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.<\/span><\/p>\n\n\n\n
      GEBRU, T. et al. On the dangers of stochastic parrots: can language models be too big? <\/span>FAccT ’21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency<\/b>, p. 610-623, 2021.<\/span><\/p>\n\n\n\n
      HARTMAN, S. <\/span>Scenes of subjection<\/b>: terror, slavery, and self-making in nineteenth-century America. Oxford: Oxford University Press, 2008.<\/span><\/p>\n\n\n\n
      KILOMBA, G. <\/span>Mem\u00f3rias da planta\u00e7\u00e3o<\/b>: epis\u00f3dios de racismo cotidiano. Rio de Janeiro: Cobog\u00f3, 2019.<\/span><\/p>\n\n\n\n
      NOBLE, S. U. <\/span>Algorithms of oppression<\/b>: how search engines reinforce racism. New York: New York University Press, 2018.<\/span><\/p>\n\n\n\n
      LECUN, Y.; BENGIO, Y.; HINTON, G. Deep learning. <\/span>Nature<\/b>, v. 521, n. 7553, p. 436-444, 2015.<\/span><\/p>\n\n\n\n
      ZHOU, K.-Q.; NABUS, H. The ethical implications of DALL-E: opportunities and challenges. <\/span>Mesopotamian Journal of Computer Science<\/b>, v. 7, p. 16-21, 2023.<\/span><\/p>\n<\/div>\n\n\n\n
      <\/p>\n\n\n\n
      <\/p>\n","protected":false},"excerpt":{"rendered":"
      Introdu\u00e7\u00e3o Na contemporaneidade digital, testemunhamos uma transforma\u00e7\u00e3o radical na forma como as imagens s\u00e3o criadas, distribu\u00eddas e interpretadas. Sistemas de intelig\u00eancia artificial generativa revolucionaram a produ\u00e7\u00e3o visual ao criar imagens complexas a partir de simples descri\u00e7\u00f5es textuais. Essa revolu\u00e7\u00e3o tecnol\u00f3gica, aparentemente neutra e objetiva, carrega consigo quest\u00f5es profundas sobre representa\u00e7\u00e3o, […]<\/p>\n","protected":false},"author":726,"featured_media":531,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"pgc_sgb_lightbox_settings":"","_vp_format_video_url":"","_vp_image_focal_point":[],"footnotes":""},"categories":[67],"tags":[157,159,162,161,160,156,163,158,155],"class_list":["post-528","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-dossie-inteligencia-artificial","tag-algoritmos","tag-fotografia","tag-ia-generativa","tag-ia-preditiva","tag-imagem","tag-politica","tag-racismo-algoritimico","tag-reprodutibilidade-tecnica","tag-walter-benjamin"],"jetpack_featured_media_url":"https:\/\/www.blogs.unicamp.br\/geict\/wp-content\/uploads\/sites\/296\/2025\/08\/9.Nina-da-Hora-3-scaled.jpg","_links":{"self":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/528","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/users\/726"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/comments?post=528"}],"version-history":[{"count":5,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/528\/revisions"}],"predecessor-version":[{"id":537,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/528\/revisions\/537"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/media\/531"}],"wp:attachment":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/media?parent=528"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/categories?post=528"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/tags?post=528"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}