Por David Nield
Publicado na ScienceAlert
A ideia da inteligência artificial derrotando a humanidade tem sido discutida por muitas décadas, e cientistas acabaram de dar seu veredicto sobre se seríamos capazes de controlar uma superinteligência de computador de alto nível. A resposta? Quase definitivamente não.
O problema é que controlar uma superinteligência muito além da compreensão humana exigiria uma simulação dessa superinteligência para podermos analisar. Mas se não formos capazes de compreendê-la, é impossível criar tal simulação.
Regras como ‘não causar dano aos humanos’ não podem ser definidas se não entendermos o tipo de cenário que uma IA irá criar, sugerem os autores do novo estudo. Uma vez que um sistema de computador está trabalhando em um nível acima do escopo dos nossos programadores, não podemos mais estabelecer limites.
“Uma superinteligência apresenta um problema fundamentalmente diferente daqueles normalmente estudados na ‘ética dos robôs’ [ou leis da robótica]”, escrevem os pesquisadores.
“Isso ocorre porque uma superinteligência é multifacetada e, portanto, potencialmente capaz de mobilizar uma diversidade de recursos para atingir objetivos que são potencialmente incompreensíveis para os humanos, quanto mais controláveis”.
Parte do raciocínio da equipe vem do problema da parada apresentado por Alan Turing em 1936. O problema centra-se em saber se um programa de computador chegará ou não a uma conclusão e responderá para que seja interrompido, ou simplesmente ficar em um loop infinito tentando encontrar uma.
Como Turing provou por meio de uma matemática inteligente, e embora possamos saber isso para alguns programas específicos, é logicamente impossível encontrar uma maneira que nos permita saber isso para cada programa potencial que poderia ser criado. Isso nos leva de volta à IA, que em um estado superinteligente poderia, de forma viável, manter todos os programas de computador possíveis em sua memória ao mesmo tempo.
Qualquer programa feito para impedir que a IA prejudique humanos e destrua o mundo, por exemplo, pode chegar a uma conclusão (e parar) ou não – é matematicamente impossível para nós estarmos absolutamente seguros de qualquer maneira, o que significa que ela não pode ser contida.
“Na verdade, isso torna o algoritmo de contenção inutilizável”, disse o cientista da computação Iyad Rahwan, do Instituto Max-Planck para o Desenvolvimento Humano, na Alemanha.
A alternativa de ensinar alguma ética à IA e dizer a ela para não destruir o mundo – algo que nenhum algoritmo pode estar absolutamente certo de fazer, dizem os pesquisadores – é limitar as capacidades da superinteligência. Ele pode ser cortado de partes da Internet ou de certas redes, por exemplo.
O novo estudo também rejeita essa ideia, sugerindo que isso limitaria o alcance da inteligência artificial – o argumento é que se não vamos usá-la para resolver problemas além do escopo dos humanos, então por que criá-la?
Se vamos avançar com a inteligência artificial, poderemos nem saber quando chegarmos a uma superinteligência além do nosso controle, tamanha a sua incompreensibilidade. Isso significa que precisamos começar a fazer algumas perguntas sérias sobre as direções que estamos tomando.
“Uma máquina superinteligente que controla o mundo parece ficção científica”, disse o cientista da computação Manuel Cebrian, do Instituto Max-Planck para o Desenvolvimento Humano. “Mas já existem máquinas que executam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como as aprenderam”.
“Portanto, surge a questão de saber se isso poderia em algum momento se tornar incontrolável e perigoso para a humanidade”.
A pesquisa foi publicada no Journal of Artificial Intelligence Research.
