“Nosso” sonho: Alucinação algorítmica e o esvaziamento da escolha

Por Maria Júlia Denega

Maria Júlia Denega é pesquisadora nas áreas de Comunicação e Linguagem, Educação Popular e Economia Solidárias. Colabora com a Incubadora Tecnológica de Cooperativas Populares da Universidade Federal do Paraná (ITCP - UFPR) investigando tecnologias educacionais e populares.

O que tornaria uma máquina capaz de opinar sobre como devemos ser? A promessa das inteligências artificiais generativas não está apenas na automação de tarefas, mas na capacidade de fornecer respostas prontas sobre o mundo, sobre outros e sobre nós mesmos. De conselhos profissionais à terapia, cresce o apelo por soluções oferecidas por sistemas que, na prática, operam como espelhos – ainda que distorcidos (BENDER et al., 2021). 

A característica de uma IA operar como um espelho não é apenas uma associação estética, mas um efeito estrutural dos sistemas informacionais antigos, que se desdobram também na atualidade. Luciano Floridi (2010) aponta que toda informação é produzida, mediada e interpretada a partir de filtros e seus contextos, não existindo dado “puro” ou neutro. No caso das IAs generativas, esses filtros são formados por bases de dados, regras estatísticas e modelos de linguagem que moldam, distorcem e até completam lacunas quando as informações disponíveis se mostram insuficientes. O que chamamos de “alucinação” não é um acidente isolado, mas um subproduto inevitável da arquitetura desses sistemas, que estão cada dia mais presentes no nosso cotidiano.

Segundo o Google Cloud (2024), essa “alucinação” acontece quando um modelo de linguagem cria dados ou narrativas que soam como verdades, mas são, na prática, construções fictícias geradas pelas limitações do sistema. No entanto, como aponta Sérgio Silveira (2020), as alucinações nos revelam algo maior: uma sociedade cada vez mais disposta a aceitar o repetido discurso informacional dos sistemas como uma instância de autoridade. Se a IA erra e não se redime, mas nós seguimos consultando-a como um oráculo, o que isso diz sobre nós mesmos? 

Assim delegamos às máquinas não apenas desejos, sonhos e funções, mas agência: esperamos que elas definam o tom de voz ideal, otimizem emoções em linguagem performática, filtrem o que é socialmente aceito e indiquem o que é adequado sentir ou dizer (e de que forma dizer). Em vez de mediação, temos orientação e decisão.

Como sugere Latour (2013, apud STIVAL, 2021), sempre estivemos enredados com nossas técnicas, que são expressões de nossas escolhas e valores. Então, cabe perguntar: o que está em jogo quando renunciamos à hesitação, à escuta e à contradição em nome da eficiência comunicacional algorítmica? Que subjetividades se apagam quando deixamos que modelos de linguagem – treinados a partir de padrões passados – ditem o futuro de nossas escolhas? 

Em tempos em que a saúde mental ganha visibilidade, cresce também o uso dessas ferramentas como substitutos da conexão humana e do acolhimento. Segundo reportagem da Folha de São Paulo (2025), o estado norte-americano de Illinois proibiu temporariamente o uso de IAs em terapia por considerar risco a saúde e a privacidade dos cidadãos, enquanto outros estados iniciam investigações sobre a ética e a segurança dos chatbots na saúde mental de adultos e adolescentes. 

Os riscos são aumentados para os mais jovens, que por menor maturidade emocional e psicológica, podem interpretar as falhas e alucinações como uma orientação final, sem filtros críticos, desencadeando mais crises em vez de amenizá-las (GUERRA, 2025).

Se esses modelos alucinam, talvez o maior delírio seja o nosso: crer que há neutralidade em um compilado informacional que só repete o que já foi dito, só que sem silêncios, ambiguidades e vulnerabilidade. No fundo, talvez o que mais tememos não seja o que a máquina pode vir a pensar, mas a possibilidade de pensarmos diferente dela. 

Assim, o risco maior não reside tanto nos eventuais descompassos dessas máquinas, mas na renúncia voluntária à inerente complexidade humana. Escolha que pode, paradoxalmente, nos tornar mais vulneráveis às falhas de um sistema que, embora sofisticado, continua alicerçado em um repertório do passado. 

REFERÊNCIAS BIBLIOGRÁFICAS: