As Leis da Robótica
Sempre que surge uma discussão sobre ética (como a suscitada pela minha postagem anterior) eu me lembro das Três Leis da robótica de Isaac Asimov. Quase todo mundo já ouviu falar nelas, provavelmente:
1. Um robô não pode ferir um ser humano ou permitir, por omissão, que um ser humano seja ferido.
2. Um robô deve obedecer a todas as ordens que receber de um ser humano, exceto no caso de a obediência acarretar numa violação da primeira lei.
3. Um robô deve preservar a própria existência, exceto no caso de essa preservação acarretar uma violação da primeira ou da segunda leis.
Boa parte da série de histórias de robôs desenvolvida por Asimov dos anos 30 aos 80 gira em torno de desafios, violações ou inconsistências dessas leis; nesse aspecto, o filme Eu, Robô é bastante fiel ao espírito da obra asimoviana.
Em termos humanos, as leis da robótica representam um paralelo interessante com nossos ideais éticos. Mas o mais interessante, ao menos para mim, é a forma como as leis são implementadas nas histórias asimovianas. Elas não são parte de um programa instalado nos robôs, como o Windows do meu computador, que poderia muito bem ser um MAC OS ou um Linux; elas são estruturais. Um robô asimoviano é tão incapaz de contemplar violá-las quanto um ser humano é incapaz de visualizar as duas interpretações de um cubo de Necker simultaneamente.
O que me faz imaginar: haverá algum tipo de ética estrutural, construída no cérebro humano, como as leis da robótica são construídas no cérebro dos robôs ficcionais?
Certamente essas regras, se regras houver, estão impressas com menos força do que as leis robóticas — provavelmente não há uma definição de decência que não tenha sido violada por alguém em algum momento da história, e aqui eu uso “decência” num sentido bem mais amplo que o de moral sexual ou boas maneiras — mas sempre que me surge a idéia de que a ética é uma construção puramente cultural eu me lembro do paradoxo de Platão: os deuses amam as boas ações porque são boas ou as ações são boas porque os deuses as amam?
No primeiro caso, existe algum tipo de intuição universal sobre o que é uma “boa ação”, partilhada por homens e deuses; no segundo, fazer o bem é apenas uma forma arbitrária de puxassaquismo místico.
Felizmente, a evidência científica parece apontar para o primeiro caso: por exemplo, no curioso experimento que revelou um senso de justiça entre macacos.
Discussão - 18 comentários
O robô, por maior que seja a inventiva, evoluirá de robô para robô.
O ser humano detém na inconsciência todos os códigos que o conduzirão da imperfeição e fatores instintivos animal-homem e homem-animal, para a ética do condicionamento cultural.
Penso que a ética não o transformará nunca, e ele poderá ser mau e ético ao mesmo tempo, porque a ética ele somente adiciona.
Finalmente, o homem terá todas as oportunidades de libertar-se da artificialidade da ética, dos condicionamentos culturais, das prisões dos atavismos raciais e sangüíneos e dos nacionalismos, passando a ser ele mesmo com sua própria e experimentada consciência, - o que é um tipo de meta do bem. Um eventual cibernético robô jamais a isso deterá.
Mas para realizar somente metade dessas coisas, precisará viver muitas vidas. Ok, reencarnações!
Um belo raciocínio quebrado por um primeiro comentário totalmente sem conteúdo. Tsc. Felizmente, cada vez mais esses posts descartáveis são ignorados.
Pra não ficar totalmente off-topic. Carlos, como seria um impedimento estrutural para as três leis? Nos computadores que conhecemos, qualquer comportamento de hardware é, no fundo, software, nem que seja programação de gates lógicos. Se um robô tivesse programação para, por exemplo, atacar (podendo matar) um ser vivo qualquer, o software é que faria a diferenciação sobre se o ser vivo é humano ou não, e aí dispararia a rotina que impedisse o robô de matar o humano. Não vejo como podia haver uma "estrutura" que impedisse isso, pois o algoritmo de tomada de decisão depende de muitos outros algoritmos auxiliares rodando por baixo. Já mexi com softwares de tomada de decisão de microcontroladores há alguns anos atrás e nunca vi nada que potencialmente permitisse isso.
É só hackear a programação desses 'robôs'.
Asimov teve a vantagem (ou desvantagem) de escrever as primeiras histórias de robô antes que a distinção entre hardware e software se cristalizasse no mundo real; os robôs dele são construídos de forma tal que a incapacidade de ferir seres humanos está imbuída no hardware... basicamente, não dá para fazer um robô asimoviano passar a ferir pessoas sem destruí-lo, fisicamente, no processo.
(Claro, nada impedia que um robô fosse construído sem esses impedimentos, mas aí seria preciso criar uma "tecnologia alternativa", fazer todo o R&D a partir do zero.)
Patola:
Acho que vou concordar com você. Realmente houve uma quebra na beleza do texto pela inserção do pensamento esotérico.
Deve realmente ser um saco se ligar a essas coisas, procurar ler e se informar, quando há blogs de ciências que dizem tudo o que se quer saber com a ilimitada competência do saber humano.
Tem justa razão não desejar entender o que os esotéricos e místicos teriam a acrescentar sobre a progênie das raças e endogenia, num plano de causas-efeitos-causas-efeitos..., se o que a ciência sabe sobre o assunto é como comparar o tamanho de uma agulha com o Himalaia.
Quanto a robôs, adorei. Está divertidíssimo, e nos remete às engraçadas histórias da Marvel Comics.
Só pra acrescentar, o paradoxo escrito por Platão é por este atribuído à Sócrates que na verdade parece acreditar que há princípios éticos fundamentais. Apenas não definiu qual seriam.
Caro Carlos Magno, perdoe-me a ignorância, mas poderia me explicar melhor o que vc quis dizer aqui:
"Tem justa razão não desejar entender o que os esotéricos e místicos teriam a acrescentar sobre a progênie das raças e endogenia, num plano de causas-efeitos-causas-efeitos…, se o que a ciência sabe sobre o assunto é como comparar o tamanho de uma agulha com o Himalaia."
Sinto que não entendi bem qual a relaçao entre endogênese, progênese e Ética. Vc pode falar mais sobre o que os místicos sabem sobre isso?
Acho bonita sua determinação em ir de blog em blog expor sua opinião alternativa.
Gosto de sua argumentação sobre a abrangência da leitura. Ainda mais quando dois terços das livrarias falam de algum modo sobre esoterismo e empirismo, enquanto ciência limita-se à didática e seus autores é ínfima.
Próxima vez que for no sebo não hesitarei em pegar um livro esotérico, quais me sugeres? E após lê-los, onde poderemos conversar sobre?
Carlos, sim, entendo que a distinção entre hardware e software tenha vindo depois. Mas é justamente esse o ponto, independentemente de ser em software ou em hardware, não consigo imaginar como seria um algoritmo que *estruturalmente* forçasse as três leis da robótica. Obrigatoriamente o encapsulamento de níveis de abstração teria que ser quebrado para o funcionamento dessas leis, e onde há quebra de encapsulamento, há flexibilidade que impede que qualquer coisa seja "estrutural" (espero não estar sendo muito abstrato).
Em outras palavras, eu tenho lá minhas dúvidas se construir um robô com as 3 leis da robótica como cláusulas pétreas seja *possível*, mesmo por um engenheiro ou programador idealmente competente.
Sinto que não entendi bem qual a relaçao entre endogênese, progênese e Ética. Vc pode falar mais sobre o que os místicos sabem sobre isso?
Meu palpite:
Nada do que ele diz faz muito sentido, é coerente ou consistente. Ele usa apenas do chamado "jargão pseudocientífico" dos charlatães, que é jogar de forma desordenada palavras impressionantes e que parecem científicas; o golpe é velho e ilude muito bem as menininhas deslumbradas...
Patola, sua sensibilidade continua me assustando.
Não falo de pseudociência porque não sou pseudo cientista. Além do mais você chamar alguém de charlatão é não se olhar no espelho. Será que você imagina mesmo que citar algoritmo, leis de robótica e outras coisas mais lhe dão direito de se achar ligado à ciência, ser conhecedor?
Será que teorizar, copiar excertos de livros e do Google é realmente entrar no âmbito da ciência? Por favor! Blogs são feitos para se comentar, e quem realmente pode demonstrar algo na internet que não seja a mais ínfima e capenga teoria? Que você espera de você mesmo quando teoriza, ou cita teorias alheias?
E você deseja que eu demonstre sobre esoterismo, achando que uso jargão, se é um fugaz crítico da ciência esotérica sem nada dela saber, e ri e debocha feito um jumento ornejante?. Tenha paciência!
Odete:
Teria a sugerir-lhe dezenas de obras, mas perdoe-me por não fazê-lo, porque essa escolha é pessoal.
Poderia, no entanto, sugerir-lhe procurar se informar sobre as escolas esotéricas que mais realizem práticas voltadas ao auxílio da humanidade, porque elas seguem linhas doutrinárias coerentes com as obras que realizam.
Abraços.
John:
Tentarei abordar em poucas linhas. Você certamente saberia que tanto Platão quanto Sócrates foram iniciados em escolas de mistérios. Platão introduziria na Grécia a sabedoria iniciática egípcia.
Os talvez inexistentes diálogos entre Sócrates e Platão se revelam não somente filosóficos, mas da tradição iniciática. A ética e a epistemologia socrática são, sem dúvidas, abordagens metafísicas, pois estão implícitas no que se convencionou dizer, abstrações. Ética e moral na linguagem socrática, no fundo querem dizer a mesma coisa, sabemos também disso.
O que me refiro de progênie e endogenia e causas-efeitos-causas, é a inerência dos processos de nascimento das primeiras raças humanas e suas formações endógenas, desculpe a redundância, anteriores ao corpo humano.
Ou seja, o mundo em que vivemos é um mundo de efeitos resultantes de causas que produziram anteriores efeitos que se transformaram em novas causas numa seqüência lógica e perfeita, mas improvável de ser reconhecida por aqueles que somente admitem a existência das leis de regência da matéria.
Platão e Sócrates conheciam do assunto através de suas iniciações, bem como, é certo inferir-se, sabiam da posterior evolução do animal-homem até atingir os refinamentos de uma personalidade consolidada, nem sempre ética na acepção de moralidade, porém, também artificializada por conceituações diversas e até idiossincráticas.
Mas esse processo é longo e penoso e não há como o abordarmos sem nos bastarmos a uma sabedoria muito antiga, - até empírica, - e sem nos antepormos ao darwinismo, pois o processo reafirma uma linha evolucionária através de muitas encarnações, sem que o homem jamais se tenha originado do macaco. Não é nenhum um segredo essas afirmativas dos reencarnacionistas.
Essas controvérsias persistirão para animar os blogs e encher laudas de literatura científica e pseudo científica, como queiram.
Mas não é assim que o cérebro humano é feito -- nós não nascemos com alguns comportamentos e predisposições já "hardwired" no cérebro?
Mas, certo, são predisposições, não mandamentos absolutos...
Correção e adendo:
Os talvez inexistentes diálogos de Sócrates que Platão lhe teria colocado na boca, se revelam....
Obs. Sobre diálogos, talvez os que mais influenciariam a metafísica da época, seriam os de Aristóteles e Platão; a busca da melhor aplicativa ou sentido nos desdobramentos do sensível ao inteligível ou inversamente, que ambos discutiam.
Por que você não cria um blog para expressar tudo isto que escreve aqui. Tenho certeza que céticos irão adiciona-lo aos favoritos e usarão a área de comentários para refutar sua perspectiva empírica do cosmos.
"Esculhambar idéias" parece-me algo que o faz quem "não tem idéias" ou ainda quem "não tem a capacidade" de melhorá-las.
Por outro lado, demonstrar o que pensa é exercer o direito de liberdade de pensar ao mesmo tempo que expor suas fraquezas e imperfeições. É manter-se vulnerável e susceptível ao contra-ataque.
essa remendaçao esta otima....
As Três Leis da Robótica são leis que foram elaboradas pelo escritor Isaac Asimov em seu livro de ficção I, Robot ("Eu, Robô"# que dirigem o comportamento dos robôs. São elas:
1ª lei: um robô não pode fazer mal a um ser humano e nem, por inacção, permitir que algum mal lhe aconteça.
2ª lei: um robô deve obedecer às ordens dos seres humanos, excepto quando estas contrariarem a primeira lei.
3ª lei: um robô deve proteger a sua integridade física, desde que com isto não contrarie as duas primeiras leis.
Mais tarde foi introduzida uma "lei zero": um robô não pode fazer mal à humanidade e nem, por inacção, permitir que ela sofra algum mal. Desse modo, o bem da humanidade é primordial ao dos indivíduos.
A chamada lei zero, porém, tem o sério problema de transferir ao robô o poder #possibilidade# de avaliar, diante das situações concretas, se o interesse da humanidade se sobrepõe ao interesse individual. Tal possibilidade abre uma perigosa brecha para a ditadura das máquinas, que elegeriam por si qual é o bem maior, sendo-lhe permitido, inclusive, fazer o mal a um ser humano #indivíduo#, caso entendam que isso é melhor para a humanidade. Por essa razão, a chamada lei zero da robótica é questionada e sua existência não é um consenso.