Pular para o conteúdo

Modelar a irracionalidade humana pode gerar assistentes de IA mais eficientes

Modelagem da irracionalidade humana, pode aumentar eficiência de assistentes de IA

Para começar, é útil ter um bom modelo de comportamento humano para construir sistemas de IA que possam colaborar eficazmente com os humanos. No entanto, os humanos tendem a se comportar de maneira irracional ou abaixo do ideal ao tomar decisões.

Leia mais: Como a Inteligência Artificial mudará o mundo até 2029

Muitas vezes, essa irracionalidade se resume a restrições computacionais, o que torna difícil modelar o comportamento humano. Um ser humano não pode dedicar décadas a resolver um único problema.

Pesquisadores do MIT e da Universidade de Washington desenvolveram uma forma de modelar o comportamento de um agente, seja humano ou máquina, levando em conta restrições computacionais desconhecidas que podem prejudicar suas habilidades de resolução de problemas.

Seu modelo pode inferir automaticamente as restrições computacionais de um agente ao observar apenas alguns traços de suas ações anteriores, através do chamado “orçamento de inferência” do agente, podendo assim prever o comportamento futuro desse agente.

Em um novo artigo, os pesquisadores demonstram como seu método pode ser usado para inferir os objetivos de navegação de alguém a partir de rotas anteriores e prever os movimentos subsequentes dos jogadores em partidas de xadrez, superando métodos anteriores.

Essa abordagem poderia ajudar os cientistas a ensinar aos sistemas de IA como os humanos se comportam, permitindo que respondam melhor aos seus colaboradores humanos. Athul Paul Jacob, estudante de graduação em ciência da computação e engenharia elétrica, autor principal do artigo, destaca a importância de compreender o comportamento humano para construir agentes de IA mais úteis.

“Se soubermos que um humano está prestes a cometer um erro, tendo observado como ele se comportou anteriormente, o agente de IA pode intervir e oferecer uma maneira melhor de fazê-lo. Ou o agente pode se adaptar às fraquezas de seus colaboradores humanos. Ser capaz de modelar o comportamento humano é um passo importante para construir um agente de IA que possa realmente ajudar esse humano”, diz ele.

Testando sua abordagem em diferentes tarefas de modelagem, os pesquisadores encontraram resultados promissores, correspondendo ou superando métodos alternativos em cada experimento.

Modelagem de IA
Inferir recompensas de trajetórias racionais limitadas. O agente irá para a estrela azul (a), mas prefere mover-se para a estrela laranja quando ambas estiverem disponíveis (b). Quando localizar a estrela laranja requer a resolução de um problema de busca mais difícil, entretanto, o agente procura a estrela azul, indicando que suas habilidades de busca são limitadas (c). Nossa abordagem proposta infere automaticamente o orçamento que o agente utiliza no planejamento (d). Conhecendo esse orçamento, talvez seja possível auxiliar esse agente fornecendo uma dica direcionada (mover para a direita) no início de sua trajetória. Crédito: https://openreview.net/pdf?id=W3VsHuga3j

Os pesquisadores testaram sua técnica em três diferentes tarefas de modelagem: deduzir objetivos de navegação a partir de trajetórias anteriores, inferir a intenção comunicativa com base em dicas verbais e antecipar movimentos posteriores em partidas de xadrez entre seres humanos.

Em cada experimento, seu método se equiparou ou superou uma alternativa popular. Além disso, notaram que seu modelo de comportamento humano correlacionava-se bem com a habilidade dos jogadores (em jogos de xadrez) e com a complexidade da tarefa.

No futuro, os pesquisadores pretendem aplicar essa abordagem para modelar o processo de planejamento em outros domínios, como o aprendizado por tentativa e erro comumente usado em robótica. A longo prazo, buscam continuar desenvolvendo esse trabalho em direção ao objetivo maior de criar colaboradores de IA mais eficazes.

Brendon Gonçalves

Brendon Gonçalves

Sou um nerd racionalista, e portanto, bastante curioso com o que a Ciência e a Filosofia nos ensinam sobre o Universo Natural... Como um autodidata e livre pensador responsável, busco sempre as melhores fontes de conhecimento, o ceticismo científico é meu guia em questões epistemológicas... Entusiasta da tecnologia e apreciador do gênero sci-fi na arte, considero que até mesmo as obras de ficção podem ser enriquecidas através das premissas e conhecimentos filosóficos, científicos e técnicos diversos... Vida Longa e Próspera!