Como observa a escritora Elizabeth Weil sobre o CEO da OpenAI, Sam Altman, na New York Magazine, o poderoso executivo de Inteligência Artificial tem uma tendência desconcertante para usar o termo “humano mediano”, uma frase que aparentemente equivale a uma versão robótica de inferiorização do irmão da tecnologia.
Leia também Coisas para saber sobre o Prêmio Nobel
A esperança de Altman é que a inteligência artificial geral (AGI) tenha aproximadamente a mesma inteligência que um “ser humano médio que você poderia contratar como colega de trabalho”.
É uma afirmação desconcertante, considerando que realmente parece que Altman está procurando substituir o trabalho de pessoas normais por uma AGI ainda não realizada.
E de acordo com o Insider, não é a primeira vez que ele fala isso. Em uma entrevista de 2022 no podcast Lex Fridman, Altman explicou que essa IA teórica seria capaz de “fazer qualquer coisa que você ficaria feliz com um colega de trabalho remoto fazendo atrás de um computador, o que inclui aprender como ser médico, aprender como ser um programador muito competente.”
Em outras palavras, se acontecer de você viver uma vida “mediana”, em breve poderá perder o emprego – ou, pelo menos, essa é uma forma de interpretar os comentários dele. Um brinde ao nosso futuro de IA.
Como observam a Insider e a New York Mag, Altman não é a única pessoa no mundo da IA que usa a terminologia perturbadora. A frase está presente em um número incrível de blogs de IA e até apareceu em um artigo da CNBC intitulado “Como falar sobre IA como um insider”.
“Eventualmente, quando desenvolvemos uma AGI para valer”, diz uma postagem no blog de uma startup de IA chamada Snippet, que parece estar muito alinhada com a teoria mediana de Altman, “ela exibiria as capacidades do ser humano mediano, mas manteria o potencial para se tornar um especialista na área, algo que agora consideramos reservado para a IA restrita.”
Usar a palavra “mediana” especificamente também parece uma escolha distinta – e reveladora. É um termo mole que pode deixar muita interpretação. Não está claro como Altman, ou qualquer outra pessoa, poderia determinar uma definição holística para esta média estatística. Independentemente disso, tal quantificação da experiência humana parece, em muitos aspectos, desumanizante e incompleta.
“Comparar a IA até mesmo com a ideia de humanos medianos ou médios é um pouco ofensivo”, disse Brent Mittelstadt, diretor de pesquisa do Oxford Internet Institute, ao Insider. “Vejo a comparação como preocupante e vejo a terminologia como preocupante também.”
Acrescentando que ainda não existe uma “comparação mensurável concreta da inteligência humana” na pesquisa de IA, Mittelstadt também observou que o conceito de pessoa mediana parece “um conceito intencionalmente vago em comparação com um significado fundamentado muito específico”.
Além disso, o conceito de desempenho e a noção muito menos tangível de inteligência humana são duas coisas muito diferentes – e como Middlestadt disse ao Insider, compará-los não faz sentido.
“Esse é um salto extremamente problemático de se dar”, disse o pesquisador de Oxford, “porque de repente você está atribuindo agência, compreensão, cognição ou raciocínio a esses modelos mecanicistas”.
Middlestadt não está sozinho em sua crítica.
“Uma coisa que as arquiteturas e modelos atuais de Inteligência Artificial mostraram é que podem atingir basicamente o desempenho típico de nível humano. Isso não é problemático em si”, disse Henry Shevlin, especialista em ética em IA e professor da Universidade de Cambridge, ao Insider. “Sinto que quando abordamos assuntos como inteligência as pessoas ficam mais sensíveis, e há algumas boas razões para isso.”
É uma visão indiscutivelmente deprimente dos pensamentos de Altman, que exerce uma enorme influência sobre a indústria. Ele sempre falou sobre salvar o mundo, argumentando que podemos usar a IA para resolver as mudanças climáticas, gerar a Renda Básica Universal, criar energia limpa e assim por diante. Ele também declarou que a missão da OpenAI é garantir que a AGI, se algum dia existir, “[beneficiará] toda a humanidade”.
Mas é claro que todos temos ideias e opiniões muito diferentes sobre como é salvar o mundo ou garantir que todos beneficiem igualmente da IA. E, neste caso, essa realidade é definida por alguém que vê grande parte da humanidade como números “medianos” quantificáveis, prontos para serem substituídos pela Inteligência Artificial.
Traduzido por Mateus Lynniker de Futurism
