{"id":337,"date":"2009-05-11T09:45:32","date_gmt":"2009-05-11T12:45:32","guid":{"rendered":"http:\/\/scienceblogs.com.br\/cretinas\/2009\/05\/moralidade_para_maquinas\/"},"modified":"2009-05-11T09:45:32","modified_gmt":"2009-05-11T12:45:32","slug":"moralidade_para_maquinas","status":"publish","type":"post","link":"https:\/\/www.blogs.unicamp.br\/cretinas\/2009\/05\/11\/moralidade_para_maquinas\/","title":{"rendered":"Moralidade para m\u00e1quinas"},"content":{"rendered":"<p>A edi\u00e7\u00e3o mais recente da revista brit\u00e2nica <em>Philosophy Now<\/em> (p\u00f4, sou chique pra burro, assino uma revista chamada <em>Philosophy Now<\/em>, e a editora Abril insiste em me mandar exemplares de cortesia de <em>Caras<\/em>; deve haver algum significado oculto nisso&#8230;) tem como tema a moralidade das m\u00e1quinas &#8212; ou, faz sentido falar em \u00e9tica e moral, culpa e puni\u00e7\u00e3o, elogio e recompensa, para aparatos artificiais?<br \/>\nA quest\u00e3o \u00e9 menos fic\u00e7\u00e3o cient\u00edfica do que parece, argumentam os editores da revista, porque cada vez mais m\u00e1quinas v\u00eam sendo chamadas a tomar <em>decis\u00f5es<\/em>, e historicamente foi nesse ponto que a humanidade acostumou-se a tra\u00e7ar a linha da ag\u00eancia moral &#8212; isto \u00e9, a partir de que momento uma entidade qualquer passa a merecer reprova\u00e7\u00e3o ou elogio? a partir do momento em que \u00e9 capaz de fazer escolhas.<br \/>\nE as m\u00e1quinas, tanto em software quanto em hardware, est\u00e3o escolhendo. Os algoritmos do Google e da Amazon, por exemplo, decidem quais resultados de busca lhe apresentar; a inje\u00e7\u00e3o eletr\u00f4nica do autom\u00f3vel decide de quanta gasolina o motor precisa; os chamados rob\u00f4s de publica\u00e7\u00e3o usados por websites noticiosos decidem quais not\u00edcias v\u00e3o ao ar.<br \/>\nCerto, atualmente muitas dessas decis\u00f5es, ou a maior parte delas, est\u00e3o sob controle nominal de um ser humano ou de uma equipe de humanos. A despeito do fato de essa supervis\u00e3o ser realmente cada vez mais nominal, ainda h\u00e1 um humano por tr\u00e1s da m\u00e1quina para ser culpado se algo der errado (geralmente, quando as coisas d\u00e3o certo, ningu\u00e9m \u00e9 elogiado).<br \/>\nMas isso n\u00e3o vai durar para sempre.<br \/>\nInstintivamente, j\u00e1 nos acostumamos a tratar as m\u00e1quinas como se tivessem ag\u00eancia moral &#8212; quem nunca teve vontade de esmurrar o monitor do micro que atira a primeira pedra &#8212; mas o processo cultural de est\u00edmulo e repreens\u00e3o n\u00e3o funciona com m\u00e1quinas, porque embora decidam, elas ainda n\u00e3o entendem o que est\u00e3o decidindo, e n\u00e3o adianta nada passar um sab\u00e3o (metaf\u00f3rico) em algo que n\u00e3o entende o que est\u00e1 sendo dito, nem sente vergonha ou culpa.<br \/>\nTalvez a\u00ed esteja a raiz do problema: o ser humano \u00e9 uma criatura onde essas diversas capacidades &#8211; de decidir, de entender, de orgulhar-se ou de envergonhar-se &#8211; aparecem mais ou menos ao mesmo tempo. J\u00e1 nossas m\u00e1quinas t\u00eam parte de nosso poder de decis\u00e3o, mas nada dos outros.<br \/>\nPor enquanto essa despropor\u00e7\u00e3o \u00e9 apenas curiosa, mas um dia, \u00e0 medida que crescer o n\u00famero e import\u00e2ncia das decis\u00f5es que confiamos a nossas m\u00e1quinas, poder\u00e1 vir a ser um problema.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>A edi\u00e7\u00e3o mais recente da revista brit\u00e2nica Philosophy Now (p\u00f4, sou chique pra burro, assino uma revista chamada Philosophy Now, e a editora Abril insiste em me mandar exemplares de cortesia de Caras; deve haver algum significado oculto nisso&#8230;) tem como tema a moralidade das m\u00e1quinas &#8212; ou, faz sentido falar em \u00e9tica e moral, [&hellip;]<\/p>\n","protected":false},"author":545,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"pgc_sgb_lightbox_settings":"","_vp_format_video_url":"","_vp_image_focal_point":[],"footnotes":""},"categories":[3],"tags":[],"class_list":["post-337","post","type-post","status-publish","format-standard","hentry","category-geral"],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/posts\/337","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/users\/545"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/comments?post=337"}],"version-history":[{"count":0,"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/posts\/337\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/media?parent=337"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/categories?post=337"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blogs.unicamp.br\/cretinas\/wp-json\/wp\/v2\/tags?post=337"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}