Este ano, mais precisamente no dia 2 de Janeiro, comemorou-se o centenário de Isaac Asimov, um dos maiores escritores de ficção científica que já passou por este planeta. Este post para lá de atrasado no tema (desculpe, eu tava de férias) vai iniciar uma série de postagens que, de alguma forma, sempre me fizeram pensar sobre os meandros da pesquisa, da ciência, da importância do conhecimento para a humanidade, dentre outras coisas…
Eu poderia avisar que tem spoiler sim. Mas os livros foram publicados há mais de 40 anos, então né? Acho que é uma preocupação a menos.
No post de hoje, eu gostaria de falar um pouco sobre a saga dos robôs, mais especificamente as leis da robótica e as noções de sujeito (lá vem a nerd, socorro!). Como assim?
As leis da Robótica
Bom, iniciemos com as leis em si, Asimov idealizou 3 princípios para controle dos robôs e segurança dos humanos em seus livros de ficção científica. Com uma vasta produção sobre o desenvolvimento tecnológico em nosso planeta, ele versou sobre a criação em um futuro não muito distante de robôs que nos substituiriam em tarefas básicas cotidianas. Assim, todos os robôs produzidos já saiam de fábrica com as três leis embutidas em seus cérebros positrônicos:
1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.
Aparentemente, as leis oferecem essa segurança para os seres humanos, a partir do controle do comportamento dos robôs. Entretanto, em várias de suas obras, Asimov faz inúmeros exercícios de pensamento, com hipóteses e acontecimentos, a fim de demonstrar que estas leis apresentam fragilidades que nos colocam em risco.
Os Robôs e o Império
Uma das narrativas que mais me agrada, nesta linha, está em Os Robôs e o Império, que conta a história de Baley (descendente de sétima geração do terráqueo Elijahh Baley), Gladia Delmare (Solariana e amante de Elijahh Baley) e os robôs R. Daneel Olivaw (que é um robô humanoide) e R. Giskard Reventlov (um robô telepata – habilidade explicada no livro Os robôs do amanhecer).
Neste livro, as personagens (humanos e robôs) desembarcam no planeta Solaria que, ao que tudo indica, não possui mais seres humanos e é habitado somente por robôs. A tensão é criada quando os robôs do planeta não reconhecem os humanos da nave como seres humanos e tentam atacá-los e, eventualmente, matá-los. Tal ato gera surpresa, uma vez que o ataque contradiz a primeira lei que está inserida nos cérebros positrônicos dos robôs solarianos, o que deveria fazer com que os robôs se “desativassem” (ou entrassem em pane).
O que é ser humano?
Eu gostaria de destacar novamente: os robôs solarianos, ao verem os humanos que desembarcaram da nave espacial, não os reconhecem como humanos. Os robôs olham aqueles seres com cabelos, pele, nariz, boca, olhos, mãos, pés falando, usando a linguagem que seres humanos (e robôs) usam e, mesmo assim, atacam. Pareceu confuso? Pense comigo: seria possível olharmos para um ser humano e não o compreendermos como tal? Seria “ser humano” algo simples de ser detectado à primeira vista? Como reconhecemos outros seres humanos, se nunca virmos um?
Este trecho da obra é incrível (desculpe gente, é que eu sou fã sim), pois Asimov insere uma questão que é o cerne de muitos debates filosóficos (que me interessam como bióloga – e eu já debati em outras postagens, como esta): quem ou o que é o ser humano? O autor apresenta, neste debate, muito mais elementos do que o questionamento da certeza operacional e tácita das três leis como indiscutivelmente seguras. E Asimov faz isso através da “simples” noção de que ser humano é um conceito.
Os robôs de Solaria só interrompem o ataque aos humanos (este é o spoiler tá? Sorry, not sorry), pois Gladia (que é solariana, mas não vivia mais no planeta há muitos anos) começa a conversar com os robôs e eles a reconhecem como humana pelo sotaque solariano. Eita! Como assim?
Isso mesmo! O que os salva da morte e conceitua aquelas pessoas como humanas, para os robôs, é o sotaque de Gladia. Dessa forma, Asimov apresenta a ideia de que não é o DNA humano, pele, cabelos, olhos, rim – nem mesmo a existência da fala (robôs falam, não é mesmo?) – que faz com que sejamos identificados como tal.
Sim, é preciso mais do que um DNA humano para sermos humanos!
– Ah tá, Ana Arnt. Só faltava essa agora!
Sério gente…
A ideia de que ser humano não é algo dado na natureza, mas uma compreensão social é inserida por Asimov nesta obra (e rapidamente resolvida e, enfim, vida que segue no livro, claro…) de forma a apontar uma falha severa nas três leis, especialmente em se tratando de explorações espaciais e a necessidade de uniformizar esse entendimento em todos os planetas habitados por quatrilhões de seres humanos na formação do Império Galáctico.
O humano, assim, não é aquele que possui um genoma humano, mas alguém que age, fala, se comporta como tal. Lewontin, por exemplo, aborda isto apontando que somos constituídos, como sujeitos, através da cultura, inseridos nesta cultura. E é a partir disto que nos tornamos humanos. Não bastando nosso código genético para que desenvolvamos tudo o que significa pertencermos à nossa espécie.
De modo algum isso seria negar nossa biologia, nossa fisiologia, nossa materialidade. É apenas apontar que isto não basta. A cultura e a linguagem fazem parte do que somos e de como nos constituímos dentro de uma sociedade. Foucault também aborda a ideia de sujeito a partir desta noção: não existe um sujeito prévio à sociedade em que se nasce. Assim, é a partir das relações biossociais que nos configuramos sujeitos, ou para ser específico com o termo usado neste post, humanos.
Por hoje é só, pessoal…
Não adianta… quando a pauta é ficção científica, especialmente Isaac Asimov, eu me empolgo mesmo. Vou encerrar por aqui, por enquanto, pois hoje eu gostaria apenas de dar uma pincelada em um dos temas que me fazem sempre retomar a leitura deste autor! Só acerca da noção de sujeito neste trecho do livro, há um mundo de conversas a traçar! Nos próximos posts, vou desenvolver um pouco mais sobre isso e, também, trazer mais elementos para pensarmos sobre a psicohistória na saga da Fundação, a importância do conhecimento e sua (in)completude nas distopias dos Nove Amanhãs, a relação entre os conceitos de humanos e humanidade na saga dos robôs… (ih, tem pauta a passos largos, quando eu começo a falar disso…).
Calma lá que estou só começando (risos, de nervosa).
Para Saber Mais
ASIMOV, Isaac (1974) Os Robôs. São Paulo: Hemus.
___ (1983) Os robôs do amanhecer. Rio de Janeiro: Record.
___ (1986) Os Robôs e o Império. Rio de Janeiro: Record.
FONSECA, Márcio Alves. (2003). Michael Foucault e a constituição do sujeito. São Paulo: Educ.
FOUCAULT, Michael (2002). Microfísica do poder. Rio de Janeiro: Graal.
LEWONTIN, Richard (2002) O Sonho do Genoma Humano. Revista Adusp.
Podcast Café da Manhã (2020) Inteligência Artificial.
AAAAAAAhhhh que artigo maravilhoso!!!! eu realmente adorei muito e espero ver mais temas discutidos sobre os universos do asimov.
Oi Samuel! Que bom que gostastes! Em breve daremos seguimento a mais textos sobre alguns pontos da Saga Fundação e também sobre Os Robôs... 🙂
Grande abraço
Olá, Ana. Essa postagem mostra não só que você é fã do Asimov, mas também que é criativa e habilidosa em escrever para um blog de DC! Além disso, há links claros e leves com áreas como filosofia, análise de discurso, linguagem,...
Realmente ser humano é ser dual, ambíguo, vulnerável e um Conceito.
Sou biólogo também e curso especialização em Jornalismo Científico na Unicamp. Estou lendo essa postagem por sugestão da Erica Mariosa, coordenadora da Rede. Achei legal, ousado esse recurso que fez do risco nas palavras entre parênteses. Conseguiu o efeito do humor para um leitor como eu.
Obrigado.
Muito bom!
Excelente texto, e nem falo isso porque sou fã incondicional do Asimov rsrs. Chegamos às mesmas conclusões, fico feliz por isso. Parabéns!!
O ser humano é tão vasto é vário que, se não nos atermos à filiação: humanos porque filhos de humanos, corremos o risco de permitir que o robôs os firam. Meu filho, autista severo, muito provavelmente não seria reconhecido por como humano.
As três leis me deixaram curioso: como um robô agiria ao presenciar conflitos sangrentos entre humanos?
Parabéns pelo post!
Nas histórias clássicas não me recordo de nenhuma questão relacionada ao Autismo, então vou responder tal como me parece lógico de onde já li os livros... O caso específico de Solária, descrito neste texto, era de um planeta isolado e sem humanos convivendo com humanos por séculos. Os robôs - em sua maioria provenientes da Terra - reconheceriam os humanos em sua diversidade (por se vincularem às nossas culturas e vivências). Então sim: teu filho seria reconhecido como humano 🙂
Quanto à tua segunda pergunta, a questão dos conflitos sangrentos, nos primeiros robôs causavam pane no sistema. Em contos mais avançados, os robôs conseguiam calcular como causar o menor dano possível, se fosse necessário e imprescindível interferir - salvando humanos e, eventualmente, os ferindo minimamente (mas ainda assim salvando da morte). E são cálculos como estes que levam os robôs (em vários contos diferentes) a criar a LEI 0 (Lei Zero), em que os robôs percebem que salvar a humanidade está acima de salvar o ser humano (caso de Os Robôs do Amanhecer e Os Robôs e o Império). No caso do Eu Robô (se não me engano, este livro eu li há décadas já), a robô central estabelece que a única forma de salvar a humanidade (que está acima de humanos) é a partir de um sistema ditatorial.
Sobre as três leis da robótica segundo Isaac Asimov sou Analista de Sistemas: não é “ou” é “e” 1a. e 3a. Leis, não é “or” é “and”.
Um robô não deve ferir um ser humano “e” por inação permitir que um ser sofra algum mal.
3a. Um robô deve obedecer um ser humano a não ser que isto contrarie a 3a. “e” segunda Leis.
Mas eu não coloquei condicional. Não entendi...
Na minha busca por matérias que divulguem autores e livros que gosto nas minhas redes sociais, achei o seu blog 🙂 Obrigado por ajudar a aprofundar o entendimento da literatura fantástica. Quanto a questão de que o "ser humano" é um conceito que valeria mais culturalmente do que biologicamente, é um argumento tão válido que não precisamos nem de aliens ou robôs para verificá-lo, já que durante milhares de anos (e até hoje) civilizações e impérios trataram outros seres humanos como escravos e objetos porquê não se encaixavam dentro da sua visão do que seria um "ser humano". E até mesmo a ciência colaborou com a dissminação de tais ideias por um bom tempo.