Texto de: Lucy Sousa Pereira Graduanda em Letras na Unicamp
Thiago Motta Sampaio: Docente na área de Psicolinguística na Unicamp
Ao longo da história, os humanos desenvolveram tecnologias que foram se tornando nossas companheiras inseparáveis, ou ao menos até surgir a próxima. Um exemplo está nas tecnologias utilizadas para transmitir informação. A invenção do rádio no final do século XIX nos acompanha até hoje, mesmo que em menor escala após invenções posteriores como a TV e a internet.
A rádio iniciou uma época em que uma empresa de comunicação detentora de uma frequência em determinado território consegue transmitir entretenimento e notícias relevantes ao público de maneira quase instantânea. Com o tempo as emissoras de rádio se tornaram fontes frequentes de notícias para as populações locais. E aqui vem nossa primeira pergunta:
Podemos confiar em toda informação que nos passam?
A confiança dessas emissoras fez com que nos EUA em 1938 nos EUA e o Brasil de 1978 no Brasil, muitas pessoas acreditassem de pés juntos que nosso planeta estava sendo atacado por alienígenas durante a transmissão de A Guerra dos Mundos. É importante lembrar que o início do programa informa se tratar de uma versão radiofônica da história de ficção científica de H.G. Wells. Por outro lado, nem todos os ouvintes prestaram atenção ou escutaram desde o início, fazendo com que a interpretação dos atores soasse bastante realista na época.
Com a invenção e popularização da televisão seria muito mais complicado que as pessoas se enganassem da mesma forma, afinal, não bastaria mais que os atores atuassem bem com a voz, eles também precisariam atuar com sua expressão corporal. Ademais, como seria possível filmar os alienígenas de maneira convincente?
Esse questionamento seria correto no caso dos alienígenas da Guerra dos Mundos, considerando as dificuldades técnicas. Mas isso não isenta que, após ganhar a confiança do público, a fonte da informação transmita informações falsas ou enviesadas, seja na televisão, seja na rádio, seja em jornais impressos.
Tudo bem. Mas desde que eu conheça diferentes fontes de informação eu posso escolher aquelas em que confio mais, correto? Além disso, para cada tema eu posso preferir fontes diferentes e mais especializadas. Para informações sobre vida saudável, posso confiar mais em uma entrevista ou programa apresentado por um profissional da saúde, por exemplo.
A questão agora passa a ser o como estas pessoas alcançam algum canal de transmissão em massa de informação. E caso eles consigam, seria possível que eles estejam totalmente imunes a perguntas e cortes tendenciosos das gravações?
É possível dizer que a internet acabou solucionando essa questão. Hoje existem blogs, podcasts e canais no youtube sobre diferentes temas, tocados ou não por especialistas, o que evita perguntas e cortes mal intencionados em seus próprios canais de comunicação. Isso facilita e amplia nosso trabalho de escolher nossas fontes de informação. Assim, mesmo que de maneira bastante fragmentada, nossos problemas passam a ser aos poucos “solucionados”!
Até que surgem…….
Os diferentes usos das IAs generativas
Aquilo que até poucos anos parecia estar alocado no campo da ficção científica tem sido objeto de atuação cada vez mais recorrente na sociedade, acendendo um alerta quanto a vulnerabilidade e os limites éticos de usos maliciosos da inteligência artificial.
Acompanhamos, frente ao desenvolvimento de tecnologias, em especial as de IA, um vasto processo de artificialização de diferentes tipos de tarefas, em que atividades humanas estão sendo cada vez mais automatizadas por meio do aprendizado de máquina (machine learning). Isso permite que, ao analisar uma vasta quantidade de dados, a IA identifique padrões, realize previsões e, consequentemente, tome decisões que há não tanto tempo atrás precisariam ser realizadas por humanos.
Embora (ainda?) não estejamos em uma realidade distópica de filmes, em que robôs humanoides buscam a dominação do planeta, assistimos um cenário fortemente influenciado pelo uso de tecnologias generativas em que passamos a depender cada vez mais desses instrumentos.
Guiado por esse ritmo, a linguagem também tem sido objeto desse processo. Como seria bom se uma IA fizesse o agendamento automático de restaurantes para mim. Ou seria bastante interessante se os algoritmos de leitura de textos lessem em voz alta esse livro pois estou com os olhos cansados. Há alguns anos isso ainda era um desafio considerando características como a prosódia (grosso modo, o ritmo de fala) de cada língua e de seus sotaques. O resultado dessa tarefa sempre foi bastante artificial a ponto de muitos detestarem a experiência. Hoje esse desafio já está razoavelmente “passável”. Será que uma IA por voz já passaria no teste do quarto chinês?
Até aqui, tudo bem, mas o que acontece no momento em que não se trata mais de voz “sintetizada”, mas de voz copiada?
Já existem algoritmos de clonagem de voz?? 🙀
Sim existem. As vozes clonadas talvez não sejam exatamente perfeitas (ainda?), mas são perfeitamente “passáveis” ao ouvido humano, especialmente em situações de pressa, estresse e pressão emocional, situações em que golpistas já conseguiam enganar algumas pessoas tentando imitar muito mal a voz de alguém. Imagina agora?
Aqui voltamos para o caso da Guerra dos Mundos na rádio. Eu sei que pode ser perigoso que eu tenha minha voz clonada e utilizada de maneira indevida. Mas ainda assim, meu rosto está à salvo!
Sinto dizer que não!
Uma tecnologia capaz de clonar rostos e vozes!? 🙀 🙀
DeepFakes se espalham pelas redes.
A situação que já era delicada fica ainda mais complicada no momento em que a voz não vem sozinha, mas também acompanhada do rosto da pessoa, com movimentos labiais que condizem com a articulação da fala que estamos escutando.
Por mais que existam utilidades para essa tecnologia como na localização de materiais audiovisuais e no cinema, é importante observar que o uso dessas tecnologias também adentra em questões éticas, uma vez que podem ser utilizadas para a prática de golpes, auxílio na desinformação, práticas de crimes cibernéticos e ameaça a segurança dos indivíduos e da sociedade.
Seu uso para a aplicação de golpes, especialmente financeiros, tem sido de grande repercussão, como no caso do grupo que usava deepfake de Gisele Bündchen para aplicar golpes milionários, o que chama a atenção para consequências como os efeitos colaterais dos vídeos de IA ultrarrealistas.
Um pouco mais sobre as DeepFakes
Deepfake, originado dos termos em inglês deep learning e fake, são mídias que sintetizam imagens e/ou sons humanos a partir do aprendizado de padrões e características de dados. Ou seja, para que se possa produzir esse tipo de material é necessária a alimentação do algoritmo com essas informações que, neste caso, são produzidas por seres humanos e originados de conteúdos já existentes, como aqueles disponíveis em redes sociais ou mesmo a partir de uma chamada telefônica falsa.
Como é gerado um áudio por deepfake?
Considerando a fala enquanto objeto de estudo, geralmente o processo se inicia por meio da coleta de áudios produzidos por distintos falantes — é importante destacar que essa manipulação pode ser viabilizada através de uma gravação de 15 segundos. Em seguida, esses dados são convertidos em formatos alternativos para facilitar o trabalho do modelo generativo, alimentando-o para que ele aprenda as suas características e padrões. Após o aprendizado da máquina, é possível criar um perfil de voz que podemos usar para sintetizar fala através de um texto qualquer, com um algoritmo de Text-to-speech (TTS). Podemos visualizar esse processo no esquema abaixo, retirado de um artigo científico da equipe de Kimberly Mai em 2023.
Disponível em: < https://doi.org/10.1371/journal.pone.0285333.g001.>.
É possível identificar um deepfake?
É interessante observar que embora possa gerar conteúdos distintos, como imagens e vídeos, o grande foco no debate e na prevenção acerca de tal mecanismo está associado a uma análise imagética, o que é decorrente de inconsistências padronizadas nessa utilização. São considerados enquanto critérios de análise, por exemplo, a quantidade média que o(s) indivíduo(s) piscam durante um vídeo, ou mesmo, em casos mais nítidos, formatos e expressões humanas irregulares, o que, ao menos em teoria, facilita a identificação da manipulação. Entretanto, tais medidas não são necessariamente fáceis de aplicar, bem como não seriam aplicáveis às mídias de áudio, o que dificulta sua análise isolada, demonstrando a importância do desenvolvimento de pesquisas nesta área.
Ao longo dos anos, tivemos o desenvolvimento de pesquisas que visavam entender acerca da nossa percepção das vozes sintetizadas. O objetivo era melhorar o uso da voz sintética para aplicações práticas (máquinas de leitura ou vozes de sistemas de comunicação) ou mesmo refinar os algoritmos de conversão de texto, como demonstrado na década de 70 por pesquisadores como Nye e Gaitenby (1973), que avaliaram a percepção do ouvinte da fala sintética e natural, não apenas para quantificar a lacuna de inteligibilidade entre os dois tipos de fala, mas também para isolar e tentar identificar quais segmentos da fala sintética eram difíceis para os ouvintes perceberem corretamente. Atualmente, nos deparamos com modelos mais rebuscados de sintetização da voz, especialmente devido à mudança de relacionamento com as IAs, o que nos traz um questionamento acerca da nossa capacidade de perceber quando se trata de deepfake ou não.
Em um estudo realizado por Mai KT et al. (2023), os autores buscaram identificar a capacidade de detecção humana, realizando, também, os experimentos em inglês e mandarim, para verificar se havia alguma diferença de percepção entre distintos idiomas, além de diferenciar a percepção humana em relação a sistemas de detecção automatizadas. Para tal, eles utilizaram tanto áudios de sentenças genéricas, faladas por falantes reais, por meio de corpus como LJ Speech e o Chinese Standard Mandarin Speech Corpus (CMSC), e sintetizados por modelos de TTS (Text-to-speech) e VITS*.
A atividade foi dividida em dois modelos para participantes fluentes em mandarim e inglês: um modelo pautado na escolha com 20 trechos aleatórios, em que os participantes não foram informados da proporção, tendo que identificar se era falso ou verdadeiro, e outro em que se teve essa “informação extra”, indicando um áudio A e B, de modo que um seria necessariamente falso e o outro verdadeiro, visando identificar se a informação contextual auxiliaria na percepção. No cenário mais adaptado à realidade, o primeiro, a taxa de precisão foi de 73%. Além disso, foi detectado que os recortes menores de deep fakes são mais difíceis de interpretar — dado que, embora não seja extremamente relevante em termos estatísticos, abre precedente para um cenário marcado por produções de caráter curto e rápido nas redes sociais. Foi verificado, ainda, que com o treinamento e a familiarização dos falantes por meio de feedbacks, a performance foi relativamente melhor.
Logo, se obteve como resultado uma limitação na percepção humana, o que demonstra a importância de desenvolver pesquisas e métodos preventivos frente ao aumento de recursos computacionais para o aprendizado de máquinas. Nesse sentido, avançar na produção de ferramentas de detecção e avaliação de áudios, assim como o desenvolvimento de pesquisas que atuem para essa formulação, é possibilitar a abertura de um caminho para nos protegermos contra as ameaças do deepfake.
* VITS é um modelo de síntese de fala que converte texto diretamente em áudio natural e expressivo.
Lucy Sousa Pereira
Lucy Sousa Pereira desenvolve pesquisa de iniciação científica em psicolinguística visando observar potenciais diferenças comportamentais sutis na recepção de palavras originadas de fala real, sintetizada e clonada, de modo a colaborar para toda essa discussão. Seu trabalho poderá ser visto em fase final de desenvolvimento no Congresso de Iniciação Científica da Unicamp em 2026.
Referências
COSTA, Mirla. Direto ao ponto: o que é Machine Learning com exemplos reais. Alura: 2022. Disponível em: <https://www.alura.com.br/artigos/machine-learning> . Acesso em: 07/12/2025
LEONG, Dimples. Don’t play it by ear: Audio deepfakes in a year of global elections The interpreter: 2024. Disponível em: <https://www.lowyinstitute.org/the-interpreter/don-t-play-it-ear-audio-deepfakes-year-global-elections>. Acesso em: 09/12/2025.
MAI KT, BRAY S, DAVIES T, GRIFFIN LD (2023). Warning: Humans cannot reliably detect speech deepfakes. PLoS ONE 18(8): e0285333. https://doi.org/10.1371/journal.pone.0285333
WINTERS, S.J.; PISONI D.B. Perception and Comprehension of Synthetic Speech, Research on spoken language processing – Progress Report No. 26, Indiana University, 2004 https://citeseerx.ist.psu.edu/document?repid=rep1&type=pdf&doi=8e10a4c4d279e9540cd5af5aae692fe9907409ff
Faça um comentário