A edição mais recente da revista britânica Philosophy Now (pô, sou chique pra burro, assino uma revista chamada Philosophy Now, e a editora Abril insiste em me mandar exemplares de cortesia de Caras; deve haver algum significado oculto nisso…) tem como tema a moralidade das máquinas — ou, faz sentido falar em ética e moral, culpa e punição, elogio e recompensa, para aparatos artificiais?
A questão é menos ficção científica do que parece, argumentam os editores da revista, porque cada vez mais máquinas vêm sendo chamadas a tomar decisões, e historicamente foi nesse ponto que a humanidade acostumou-se a traçar a linha da agência moral — isto é, a partir de que momento uma entidade qualquer passa a merecer reprovação ou elogio? a partir do momento em que é capaz de fazer escolhas.
E as máquinas, tanto em software quanto em hardware, estão escolhendo. Os algoritmos do Google e da Amazon, por exemplo, decidem quais resultados de busca lhe apresentar; a injeção eletrônica do automóvel decide de quanta gasolina o motor precisa; os chamados robôs de publicação usados por websites noticiosos decidem quais notícias vão ao ar.
Certo, atualmente muitas dessas decisões, ou a maior parte delas, estão sob controle nominal de um ser humano ou de uma equipe de humanos. A despeito do fato de essa supervisão ser realmente cada vez mais nominal, ainda há um humano por trás da máquina para ser culpado se algo der errado (geralmente, quando as coisas dão certo, ninguém é elogiado).
Mas isso não vai durar para sempre.
Instintivamente, já nos acostumamos a tratar as máquinas como se tivessem agência moral — quem nunca teve vontade de esmurrar o monitor do micro que atira a primeira pedra — mas o processo cultural de estímulo e repreensão não funciona com máquinas, porque embora decidam, elas ainda não entendem o que estão decidindo, e não adianta nada passar um sabão (metafórico) em algo que não entende o que está sendo dito, nem sente vergonha ou culpa.
Talvez aí esteja a raiz do problema: o ser humano é uma criatura onde essas diversas capacidades – de decidir, de entender, de orgulhar-se ou de envergonhar-se – aparecem mais ou menos ao mesmo tempo. Já nossas máquinas têm parte de nosso poder de decisão, mas nada dos outros.
Por enquanto essa desproporção é apenas curiosa, mas um dia, à medida que crescer o número e importância das decisões que confiamos a nossas máquinas, poderá vir a ser um problema.