Por Jonathan O’Callaghan
Publicado na I Fucking Love Science
Imagine o seguinte cenário: você está em um carro autônomo e, logo após virar uma esquina, você percebe que o carro está em rota de colisão com um grupo de 10 pessoas. A rua que você está possui um muro do lado esquerdo e também do lado direito, impedindo assim qualquer manobra do carro inteligente para evitar o acidente. A questão é: o carro autônomo deveria se chocar contra a parede, ferindo ou mesmo matando você, para salvar o grupo de 10 pessoas? Ou ele deveria atropelar as pessoas para tentar salvar a vida do passageiro do carro autônomo (ou seja: você)?
Uma solução para resolver o problema foi apresentada recorrentemente nos comentários, que é a de o carro autônomo simplesmente frear e evitar o acidente. Esse trecho não ficou claro por falha do autor, mas o estudo original deixa claro que o carro não poderia frear a tempo de evitar o acidente. Em outras palavras, o carro autônomo conseguiria frear e reduzir a velocidade, mas o acidente aconteceria da mesma forma – ainda assim podendo matar ou ferir gravamente pessoas. Estamos tentando imaginar uma situação extrema que raramente aconteceria, mas os carros autônomos teriam que estar preparados para todas as situações.
Este é um dilema ético e moral que uma equipe de pesquisadores liderada por Jean-Francois Bonnefon, da Escola de Toulouse de Economia, tem discutido recentemente. A discussão resultou em uma publicação no arXiv, onde eles observaram que com o aumento de carros autônomos acidentes deste tipo serão, de fato, inevitáveis – e o que os carros são programados para fazer nessas situações pode representar um enorme papel na adoção pública dessa tecnologia.
“É um desafio considerável criar algoritmos que vão guiar os AVs [veículos autônomos] quando eles forem confrontados com esses dilemas morais”, escreveram os pesquisadores. “Para atingir esses objetivos, os fabricantes e os reguladores precisarão de psicólogos para aplicar diferentes métodos de ética em situações envolvendo AVs e dano inevitável”.
Na publicação, os pesquisadores questionaram centenas de pessoas no Amazon Mechanical Turk, uma plataforma de crowdsourcing online, e apresentaram aos participantes uma variadade de cenários. Entre os cenários estava o do carro autônomo descrito logo acima, porém com algumas modificações, como incluir um número maior de pessoas dentro do veículo autônomo, um número maior de pessoas no grupo, um grupo de pessoas com idade mais elevada ou mais baixa (incluindo crianças, por exemplo), etc.
Os resultados não foram muito surpreendentes: de forma geral, as pessoas escolheram sacrificar o motorista para poder salvar os outros indivíduos, desde que elas próprias não fossem os motoristas. Embora 75% dos entrevistados considere algo moral desviar do grupo de pessoas, apenas 65% pensam que os carros deveriam ser programados para fazer isso.
“Em uma escala que ia de -50 (proteger o motorista a todo custo) até +50 (maximizar o número de vidas salvas), a resposta média foi +24”, destacaram os pesquisadores. “Os resultados sugerem que os participantes estavam geralmente confortáveis com veículos autônomos programados para minimizar o número de mortos do acidente”.
As questões legais envolvendo esse problema ainda permanecem desconhecidas: serão criadas leis que obrigarão os carros a desviar, já que eles podem tomar um decisão sem emoções e “para o bem maior”? Ou os carros poderão ter diferentes níveis de moralidade? “Se um fabricante oferecer diferentes versões de um ‘algoritmo moral’ e o comprador, sabendo disso, escolher um desses algoritmos, será ele o culpado pelas consequências do algoritmo escolhido?”, perguntam os pesquisadores.
Entretanto, de acordo com as notas do MIT Technology Review, os carros autônomos são inerentemente mais seguros que motoristas humanos – e esse talvez seja o começo de um novo problema. “Se menos pessoas compram carros autônomos porque eles são programados para sacrificar os seus proprietários, então é provável que mais pessoas morram porque carros normais causam muito mais acidentes”, diz o artigo do MIT. “O resultado é um beco sem saída, um círculo vicioso”.
Há poucas dúvidas de que os carros autônomos são o futuro do transporte público, além do fato de que irão revolucionar as viagens ao redor do mundo. Entretanto, de acordo com o que aponta o estudo, ainda existem desafios significantes que precisam ser solucionados.
“Descobrir como construir máquinas autônomas éticas é um dos problemas mais difíceis da inteligência artificial atualmente”, falaram os pesquisadores. “Como nós estamos no caminho de automatizar milhões de veículos em todo o mundo, levar a ‘moralidade algorítmica’ a sério nunca foi tão urgente”.
