O estudo aborda a questão de como redistribuir recursos de forma justa em uma sociedade, utilizando um jogo simples com quatro jogadores. Cada jogador decide se investe fundos em um pool comum, com a redistribuição dos lucros sendo decidida por um árbitro humano ou um agente de IA treinado. A IA foi treinada para maximizar os votos dos jogadores, simulando uma população virtual para gerar dados ilimitados.

Os resultados mostraram que a política de redistribuição criada pela IA foi mais popular do que as políticas tradicionais, como a que devolve fundos proporcionalmente às contribuições. A IA levou em conta as contribuições relativas dos jogadores, recompensando aqueles que contribuíram mais generosamente em relação aos seus recursos iniciais. Isso sugere que a IA pode aprender políticas que são mais alinhadas com os valores humanos.

A pesquisa destaca a importância de manter os humanos 'no loop' ao desenvolver sistemas de IA, garantindo que as soluções propostas sejam compatíveis com os valores humanos. A abordagem de maximizar as preferências declaradas (votos) pode ajudar a evitar que a IA aprenda políticas inseguras ou injustas. No entanto, os pesquisadores reconhecem que mais trabalho é necessário para equilibrar as preferências de grupos majoritários e minoritários em sistemas democráticos.

Este estudo pioneiro demonstra o potencial do aprendizado por reforço profundo para criar políticas econômicas que refletem as preferências humanas. Embora promissor, o método ainda requer refinamentos para garantir que todas as vozes, incluindo as minoritárias, sejam ouvidas em sistemas democráticos. A pesquisa abre caminho para futuras investigações sobre a integração de IA em processos de tomada de decisão social e econômica.

FONTES:

1. DeepMind

2. Nature Human Behaviour