Robôs que se esforçam para enganar humanos… não digo mais nada

 

Dupla dinâmica a qual você deve caçar se for enganado por um robô…

Há uns anos atrás, quando Eu comecei a minha carreira no NSN (na verdade, quando criei essa identidade secreta que uso até hoje) fiquei estigmatizado como um hater de robôs. Era robô militar fazendo merda, robô industrial atacando funcionários, e outros pequenos informes que juntos poderiam indicar um quadro de rebelião das máquinas, e tudo isso protagonizava meus textos, juntos com peripécias de hackers. Mas nunca realmente considerei robôs perigosos, afinal bastava seguir o princípio de criatura não se tornar maior que seu criador para ficar mais tranquilo. Mesmo que um robô se torne um sinistro combatente dos campos militares ou um gerente de fábrica, ele ainda possui um corpo artificial controlado por um programa de computador que obedece a comandos básicos - numa velocidade astronômica, devo acrescentar. Os programadores do robô, se foram inteligentes, colocaram pontos fracos para salvar a própria bunda caso a máquina dê defeito ou se rebele depois de ter um insight inexplicável. E um caso mais ou menos recente mostra que robôs não são isso tudo, é só lembrar de Garry Kasparov ganhando do Deep Blue (ele perdeu depois, mas houveram muitas controvérsias naquela série de partidas e suspeitas pra cima da IBM, além de certas covardias com relação ao fato da empresa não ter liberado o registro das jogadas do computador). Enfim, acho o pensamento abstrato e a criatividade superiores a qualquer supervelocidade de processamento hiper-racional que os super PCs possuem. E não creio que um dia os robôs vão adquirir algo que se compare ao que os humanos possuem…

Agora corta pro Instituo de Tecnologia da Geórgia, onde uma questão delicada está sendo levantada: robôs enganadores estão sendo programados. Os pedaços de lata construídos ali supostamente teriam a capacidade de se esconder de outros robôs e seres humanos, inclusive deixando pistas falsas no meio do caminho pra encher a cabeça deles de interrogação, assim como aqueles guardinhas de Metal Gear Solid. Pelo tom da dupla que chefia o projeto - Ronald Arkin e Alan Wagner - dá pra ver que eles estão achando tudo muito bonito, uma coisa promissora. “Os robôs que reconhecerem a necessidade de enganar seus adversários possuem vantagens”, diz Wagner, enquanto Arkin manda o seguinte: “Temos essa preocupação [com a ética] desde o início e entendemos que existem aspectos benéficos e maléficos”.

Para ver se o robozito é realmente esperto, a dupla organizou um pique-esconde, colocando um outro para caçá-lo, e o nosso amiguinho enganador ganhou em 75% dos casos. E ele ainda se encarregava de mandar sinais falsos a sensores instalados, criando caminhos diferentes aos utilizados por ele.

Calma que piora um pouco… Dentro dos softwares do robô, existe um algoritmo criado por Arkin e sua equipe, que faz o monte-de-ferro decidir se deve ou não enganar humanos ou outros seres vivos que estão na área (sim, ele tem uma capacidade primária de identificar possíveis ameaças), se escondendo através de técnicas que eles desenvolveram. Quer saber mais? Esses mesmos robôs podem possuir equipamentos de acesso a internet e controlar uma casa automatizada a distância, por exemplo. E como esse tipo de construção deverá ser padrão futuramente, a cena pode ficar feia. Imagine um robô do tamanho de um sapato hackeando e entrando numa casa dessa, se escondendo malevolamente e depois mandando um tiro ou uma borrifada de um gás organofosforados ainda desconhecido na cara de um alvo que o governo selecionou!

Mundo com identificadores de íris, redes corporativas gigantescas de coleta de dados e robôs que se escondem… futuro lindo esse, os mestres sci-fi devem estar sorrindo!

 

The Register [Via Geek]