Anos atrás, poderia parecer absurdo se alguém sugerisse que as máquinas
iriam nos superar. Hoje, depois de vários filmes e séries nos mostrando as inúmeras
possibilidades de dominação tecnológica, aprendemos a respeitar e temer uma
revolução robótica.
Dado o atual ritmo de desenvolvimento tecnológico, um “robôcalipse”
parece mais profético ou possível a você?
Enquanto muitos pesquisadores da área de ciência da computação discordam
sobre a estrada que as máquinas percorrerão, eles dizem que a nossa relação com
elas provavelmente será harmoniosa, não assassina (graças
a Deus).
No entanto, há uma série de cenários que poderiam levar a uma situação
na qual esses seres não biológicos teriam o objetivo de nos exterminar.
“Já existe tecnologia para construir um sistema que poderia destruir
todo o mundo, intencionalmente ou não, se detectasse as condições adequadas”,
disse Shlomo Zilberstein, professor de ciência da computação na Universidade de
Massachusetts.
Vamos primeiro considerar o ponto de
vista otimista: que as máquinas sempre atuarão como nossos servos, e
não o contrário.
Para que isso aconteça, “uma abordagem é não desenvolver sistemas que
podem ser tão perigosos que podem sair fora de controle”, disse Zilberstein.
Algo como Skynet – a rede de defesa computadorizada de “O Exterminador
do Futuro”, que decide acabar com a humanidade, já é possível. Então, por que
um sistema deste tipo ainda não foi construído?
Porque nações com armas nucleares, como os Estados Unidos, não gostariam
de dar a responsabilidade de lançar ogivas para um computador. “E se ocorre um
erro no sistema? Ninguém vai correr esse risco”, disse Zilberstein.
Em menor escala, no entanto, um elevado grau de autonomia foi concedido
a algumas máquinas. “O número de sistemas robóticos que pode realmente puxar o
gatilho de forma autônoma já está crescendo”, disse Zilberstein.
Ainda assim, um operador humano controla os sistemas e tem a palavra
final se deve continuar ou não com um ataque com mísseis. Isso certamente não é
o caso do Skynet, que, nos filmes, tem total controle do arsenal nuclear dos
Estados Unidos.
Em “O Exterminador do Futuro”, os militares criam o programa com o
objetivo de reduzir o erro humano e a lentidão de resposta em caso de um ataque
contra os EUA. Quando os controladores humanos percebem o perigo representado
por Skynet, tentam desligá-lo. A rede interpreta este ato como uma ameaça à sua
existência, e, a fim de combater seu inimigo, Skynet lança um ataque à Rússia,
provocando uma retaliação. Bilhões morrem em um holocausto nuclear. Skynet, em
seguida, passa a construir fábricas que criam exércitos de robôs para eliminar
o restante da humanidade.
Em um cenário da vida real, Zilberstein pensa que alguns guardas
impediriam um sistema autônomo de ameaçar mais pessoas do que ele é projetado
para fazer, no controle das fronteiras do país, por exemplo.
Além disso, sistemas poderiam ser programados com a capacidade de fazer
grandes decisões estratégicas da maneira que Skynet faz, mas limitadas.
“Todos os sistemas que estamos propensos a construir no futuro próximo
terão habilidades específicas”, disse Zilberstein. “Eles serão capazes de
monitorar a região e talvez atirar, mas não irão substituir os humanos”.
Robôs superiores ao nosso
alcance.
Michael Dyer, um cientista da computação da Universidade da Califórnia, é
menos otimista. Ele acha que “os seres humanos acabarão sendo substituídos por
máquinas” e que essa transformação pode não ser pacífica.
O progresso contínuo na pesquisa de inteligência artificial vai levar a
máquinas tão inteligentes quanto nós nos próximos cem anos, Dyer prevê. “Civilizações
avançadas chegarão a um ponto de inteligência suficiente para compreender como
seu cérebro é feito, e então construirão versões sintéticas de si mesmas”, diz.
Isso poderia vir de tentativas de estabelecer nossa própria imortalidade
– e essa oportunidade pode ser demais para a humanidade resistir. Talvez a
transformação da biologia para a tecnologia será relativamente calma. Ou não.
Por exemplo, Dyer sugere uma nova corrida armamentista do sistema robótico
poderia resultar em um lado saindo fora de controle. “No caso de guerra, por
definição, o lado inimigo não tem controle dos robôs que estão tentando matá-los”,
disse Dyer. Como Skynet, os manufaturados podem se voltar contra os
fabricantes.
Ou uma situação de super dependência de robôs também pode sair de
controle. Supondo que uma fábrica que fabrica robôs e não segue comandos
humanos recebe uma ordem para desligar para a fábrica. Mas, infelizmente, os
robôs se recusam. Assim, um comando é emitido pelos seres humanos para parar os
caminhões de entrega de materiais necessários para a fábrica, mas os motoristas
são robôs, e também se recusam. E assim por diante.
Em geral, um pouco de sabedoria impediria a humanidade de cair nas
armadilhas inventadas por roteiristas de Hollywood. Mas a motivação do lucro às
empresas certamente gerou mais automação, e a racionalidade não ganha sempre.
“Cenários apocalípticos são muito fáceis de se criar, e eu não
descartaria esse tipo de possibilidade”, diz Zilberstein. “Mas eu não estou,
pessoalmente, preocupado”. E você? Está?
Nenhum comentário:
Postar um comentário