{"id":778,"date":"2025-11-27T16:08:11","date_gmt":"2025-11-27T19:08:11","guid":{"rendered":"https:\/\/www.blogs.unicamp.br\/geict\/?p=778"},"modified":"2025-11-27T16:08:13","modified_gmt":"2025-11-27T19:08:13","slug":"nosso-sonho-alucinacao-algoritmica-e-o-esvaziamento-da-escolha","status":"publish","type":"post","link":"https:\/\/www.blogs.unicamp.br\/geict\/2025\/11\/27\/nosso-sonho-alucinacao-algoritmica-e-o-esvaziamento-da-escolha\/","title":{"rendered":"\u201cNosso\u201d sonho: Alucina\u00e7\u00e3o algor\u00edtmica e o esvaziamento da escolha"},"content":{"rendered":"\n

<\/p>\n\n\n\n

Por Maria J\u00falia Denega\n\nMaria J\u00falia Denega \u00e9 pesquisadora nas \u00e1reas de Comunica\u00e7\u00e3o e Linguagem, Educa\u00e7\u00e3o Popular e Economia Solid\u00e1rias. Colabora com a Incubadora Tecnol\u00f3gica de Cooperativas Populares da Universidade Federal do Paran\u00e1 (ITCP - UFPR) investigando tecnologias educacionais e populares.<\/code><\/pre>\n\n\n\n
O que tornaria uma m\u00e1quina capaz de opinar sobre como devemos ser? A promessa das intelig\u00eancias artificiais generativas n\u00e3o est\u00e1 apenas na automa\u00e7\u00e3o de tarefas, mas na capacidade de fornecer respostas prontas sobre o mundo, sobre outros e sobre n\u00f3s mesmos. De conselhos profissionais \u00e0 terapia, cresce o apelo por solu\u00e7\u00f5es oferecidas por sistemas que, na pr\u00e1tica, operam como espelhos – ainda que distorcidos (BENDER et al., 2021). <\/p>\n\n\n\n
A caracter\u00edstica de uma IA operar como um espelho n\u00e3o \u00e9 apenas uma associa\u00e7\u00e3o est\u00e9tica, mas um efeito estrutural dos sistemas informacionais antigos, que se desdobram tamb\u00e9m na atualidade. Luciano Floridi (2010) aponta que toda informa\u00e7\u00e3o \u00e9 produzida, mediada e interpretada a partir de filtros e seus contextos, n\u00e3o existindo dado \u201cpuro\u201d ou neutro. No caso das IAs generativas, esses filtros s\u00e3o formados por bases de dados, regras estat\u00edsticas e modelos de linguagem que moldam, distorcem e at\u00e9 completam lacunas quando as informa\u00e7\u00f5es dispon\u00edveis se mostram insuficientes. O que chamamos de \u201calucina\u00e7\u00e3o” n\u00e3o \u00e9 um acidente isolado, mas um subproduto inevit\u00e1vel da arquitetura desses sistemas, que est\u00e3o cada dia mais presentes no nosso cotidiano.<\/p>\n\n\n\n
\"\"
Foto: Tara Winsted. Fonte: Pexels.<\/figcaption><\/figure>\n\n\n\n
<\/p>\n\n\n\n
Segundo o Google Cloud (2024), essa \u201calucina\u00e7\u00e3o\u201d acontece quando um modelo de linguagem cria dados ou narrativas que soam como verdades, mas s\u00e3o, na pr\u00e1tica, constru\u00e7\u00f5es fict\u00edcias geradas pelas limita\u00e7\u00f5es do sistema. No entanto, como aponta S\u00e9rgio Silveira (2020), as alucina\u00e7\u00f5es nos revelam algo maior: uma sociedade cada vez mais disposta a aceitar o repetido discurso informacional dos sistemas como uma inst\u00e2ncia de autoridade. Se a IA erra e n\u00e3o se redime, mas n\u00f3s seguimos consultando-a como um or\u00e1culo, o que isso diz sobre n\u00f3s mesmos? <\/p>\n\n\n\n
Assim delegamos \u00e0s m\u00e1quinas n\u00e3o apenas desejos, sonhos e fun\u00e7\u00f5es, mas ag\u00eancia: esperamos que elas definam o tom de voz ideal, otimizem emo\u00e7\u00f5es em linguagem perform\u00e1tica, filtrem o que \u00e9 socialmente aceito e indiquem o que \u00e9 adequado sentir ou dizer (e de que forma dizer). Em vez de media\u00e7\u00e3o, temos orienta\u00e7\u00e3o e decis\u00e3o.<\/p>\n\n\n\n
\"\"
Foto: Ron Lach. Fonte: Pexels.<\/figcaption><\/figure>\n\n\n\n
<\/p>\n\n\n\n
Como sugere Latour (2013, apud STIVAL, 2021), sempre estivemos enredados com nossas t\u00e9cnicas, que s\u00e3o express\u00f5es de nossas escolhas e valores. Ent\u00e3o, cabe perguntar: o que est\u00e1 em jogo quando renunciamos \u00e0 hesita\u00e7\u00e3o, \u00e0 escuta e \u00e0 contradi\u00e7\u00e3o em nome da efici\u00eancia comunicacional algor\u00edtmica? Que subjetividades se apagam quando deixamos que modelos de linguagem \u2013 treinados a partir de padr\u00f5es passados \u2013 ditem o futuro de nossas escolhas? <\/p>\n\n\n\n
Em tempos em que a sa\u00fade mental ganha visibilidade, cresce tamb\u00e9m o uso dessas ferramentas como substitutos da conex\u00e3o humana e do acolhimento. Segundo reportagem da Folha de S\u00e3o Paulo (2025), o estado norte-americano de Illinois proibiu temporariamente o uso de IAs em terapia por considerar risco a sa\u00fade e a privacidade dos cidad\u00e3os, enquanto outros estados iniciam investiga\u00e7\u00f5es sobre a \u00e9tica e a seguran\u00e7a dos chatbots na sa\u00fade mental de adultos e adolescentes. <\/p>\n\n\n\n
Os riscos s\u00e3o aumentados para os mais jovens, que por menor maturidade emocional e psicol\u00f3gica, podem interpretar as falhas e alucina\u00e7\u00f5es como uma orienta\u00e7\u00e3o final, sem filtros cr\u00edticos, desencadeando mais crises em vez de ameniz\u00e1-las (GUERRA, 2025).<\/p>\n\n\n\n
\"\"
Foto: Ron Lach. Fonte: Pexels.<\/figcaption><\/figure>\n\n\n\n
<\/p>\n\n\n\n
Se esses modelos alucinam, talvez o maior del\u00edrio seja o nosso: crer que h\u00e1 neutralidade em um compilado informacional que s\u00f3 repete o que j\u00e1 foi dito, s\u00f3 que sem sil\u00eancios, ambiguidades e vulnerabilidade. No fundo, talvez o que mais tememos n\u00e3o seja o que a m\u00e1quina pode vir a pensar, mas a possibilidade de pensarmos diferente dela. <\/p>\n\n\n\n
Assim, o risco maior n\u00e3o reside tanto nos eventuais descompassos dessas m\u00e1quinas, mas na ren\u00fancia volunt\u00e1ria \u00e0 inerente complexidade humana. Escolha que pode, paradoxalmente, nos tornar mais vulner\u00e1veis \u00e0s falhas de um sistema que, embora sofisticado, continua alicer\u00e7ado em um repert\u00f3rio do passado. <\/p>\n\n\n\n
REFER\u00caNCIAS BIBLIOGR\u00c1FICAS<\/strong>: <\/p>\n\n\n\n
\n
BENDER, Emily M. et al. On the dangers of stochastic parrots<\/strong>: Can language models be too big?. Proceedings of the 2021 Association of Computing Machinery Conference on fairness, accountability, and transparency. 2021. p. 610-623.<\/p>\n\n\n\n
BORELLI, Patr\u00edcia Capelini; SENISE, P\u00e2mela Garrido. Agricultura Digital<\/strong>: uma An\u00e1lise a Partir do Colonialismo de Dados. Media\u00e7\u00f5es, v. 29, n. 2, p. e50058, 2024. Dispon\u00edvel em: <https:\/\/www.scielo.br\/j\/mediacoes\/a\/MFX3s7JqtQ8yXBbhrB3gKWk\/?format=pdf&lang=pt>. Acesso em 19 maio 2025. <\/p>\n\n\n\n
DA SILVEIRA, S\u00e9rgio Amadeu. Sistemas algor\u00edtmicos, subordina\u00e7\u00e3o e colonialismo de dados. Algoritarismos, p. 158, 2020. <\/p>\n\n\n\n
FLORIDI, Luciano. Information<\/strong>: A very short introduction. Oxford University Press, 2010. Dispon\u00edvel em: <https:\/\/academic.oup.com\/book\/410<\/a>>. Acesso em 10 ago. 2025.<\/p>\n\n\n\n
WU, Daniel. Estado dos EUA pro\u00edbe psicoterapia com uso de intelig\u00eancia artificial. The Washington Post, 2025. Republicado em: Folha de S\u00e3o Paulo, 2025. Dispon\u00edvel em: <https:\/\/www1.folha.uol.com.br\/equilibrioesaude\/2025\/08\/illinois-proibe-terapia-com-ia-enquanto-alguns-estados-comecam-a-examinar-chatbots.shtml<\/a>>. Acesso em: 12 ago. 2025.<\/p>\n\n\n\n
GOOGLE CLOUD. O que s\u00e3o alucina\u00e7\u00f5es de IA? 2024. Dispon\u00edvel em: <https:\/\/cloud.google.com\/discover\/what-are-ai-hallucinations?hl=pt-BR>. Acesso em: 21 maio 2025. <\/p>\n\n\n\n
GUERRA, Arthur. Os Riscos Ocultos Da Terapia via IA para Adolescentes. Forbes Sa\u00fade, 2025. Dispon\u00edvel em: <https:\/\/forbes.com.br\/forbessaude\/2025\/08\/arthur-guerra-os-riscos-ocultos-da-terapia-via-ia-para-adolescentes\/<\/a>>. Acesso em: 13 ago. 2025. <\/p>\n\n\n\n
HARAWAY, Donna. Saberes localizados<\/strong>: a quest\u00e3o da ci\u00eancia para o feminismo e o privil\u00e9gio da perspectiva parcial. Cadernos pagu, n. 5, p. 7-41, 1995. <\/p>\n\n\n\n
SILVA, Tarc\u00edzio. Colonialidade automatizada<\/strong>: algoritmos e aprendizado de m\u00e1quina nas plataformas de m\u00eddias sociais. In: E-book Congresso 2021. Outubro de 2021. Dispon\u00edvel em: <https:\/\/www.researchgate.net\/profile\/Tarcizio-Silva-3\/publication\/355169930_Colonialidade_ automatizada_algoritmos_e_aprendizado_de_maquina_nas_plataformas_de_midias_sociais \/links\/6163a908e7993f536cbe2a9e\/Colonialidade-automatizada-algoritmos-e-aprendizado-d e-maquina-nas-plataformas-de-midias-sociais.pdf>. Acesso em: 21 maio 2025. <\/p>\n\n\n\n
STIVAL, M. L.. Da arqueologia \u00e0s redes: jamais fomos modernos?. Trans\/Form\/A\u00e7\u00e3o, v. 44, n. 2, p. 255\u2013276, abr. 2021.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"
O que tornaria uma m\u00e1quina capaz de opinar sobre como devemos ser? A promessa das intelig\u00eancias artificiais generativas n\u00e3o est\u00e1 apenas na automa\u00e7\u00e3o de tarefas, mas na capacidade de fornecer respostas prontas sobre o mundo, sobre outros e sobre n\u00f3s mesmos. De conselhos profissionais \u00e0 terapia, cresce o apelo por […]<\/p>\n","protected":false},"author":726,"featured_media":782,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"pgc_sgb_lightbox_settings":"","_vp_format_video_url":"","_vp_image_focal_point":[],"footnotes":""},"categories":[67],"tags":[288,70,292,289,293,122,291,290],"class_list":["post-778","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-dossie-inteligencia-artificial","tag-alucinacao-algoritmica","tag-dossie-inteligencia-artificial","tag-gen-ai","tag-ias","tag-ias-generativas","tag-inteligencia-artificial","tag-large-language-model","tag-llm"],"_links":{"self":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/778","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/users\/726"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/comments?post=778"}],"version-history":[{"count":3,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/778\/revisions"}],"predecessor-version":[{"id":784,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/posts\/778\/revisions\/784"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/media\/782"}],"wp:attachment":[{"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/media?parent=778"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/categories?post=778"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/geict\/wp-json\/wp\/v2\/tags?post=778"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}