O programa de subsídios, lançado em maio, recebeu quase 1.000 inscrições de 113 países, selecionando 10 equipes diversificadas. Os projetos exploraram diferentes métodos de participação pública para decidir sobre as diretrizes que regem o comportamento da inteligência artificial, destacando a importância da diversidade de opiniões e da inclusão de vozes marginalizadas.

Os projetos variaram de interfaces de deliberação em vídeo a plataformas para auditorias de modelos de IA. Entre os aprendizados, destacou-se a dificuldade em alcançar participantes diversos devido à divisão digital e a mudança constante na opinião pública, que pode exigir processos de coleta de inputs mais frequentes.

1. Inovação em tecnologia democrática pela diversidade de equipes.

2. Aprendizados sobre a mudança de opinião pública.

3. Desafios na inclusão de grupos sub-representados.

4. A importância de processos transparentes.

5. Planejamento para a implementação dos resultados.

A OpenAI está planejando formar uma equipe de 'Alinhamento Coletivo' para coletar e integrar os inputs públicos em seus sistemas, recrutando engenheiros de pesquisa para ajudar na implementação desses desafios. O objetivo é construir um sistema que não só colete dados, mas também os utilize para moldar o comportamento das IAs.

Essa iniciativa representa um passo importante para garantir que a governança da IA seja realmente democrática e alinhada com os valores da sociedade. A participação do público nas decisões sobre a tecnologia é crucial, e as lições aprendidas podem impactar a forma como a IA será desenvolvida e utilizada no futuro. Os interessados podem se inscrever na nossa newsletter para mais atualizações e conteúdos relevantes sobre o tema.

FONTES:

1. OpenAI

2. Arxiv

3. Rappler

4. GitHub

5. Medium