OpenAI Lança Programa de Subsídios para Alinhamento Seguro de IA Superinteligente

Tecnologia Inteligência Artificial Inovação

A OpenAI, em parceria com Eric Schmidt, anunciou um programa de subsídios de $10 milhões destinado a apoiar pesquisas técnicas focadas na segurança e alinhamento de sistemas de IA superinteligentes, prevendo desafios únicos que surgirão com a evolução desses sistemas nos próximos 10 anos.

Imagem gerada utilizando Dall-E 3

Com a expectativa de que a superinteligência chegue dentro de uma década, a OpenAI lança um total de $10 milhões em subsídios para incentivar a pesquisa sobre como assegurar que esses sistemas de IA complexos permaneçam alinhados com os valores e interesses humanos. O foco principal inclui áreas como generalização fraca para forte, interpretabilidade e supervisão escalável.

A principal questão que surge é como humanos podem guiar e confiar em sistemas que superam sua própria inteligência. Isso representa um desafio técnico sem precedentes, pois a capacidade criativa e complexa desses sistemas vai além da compreensão humana. As formas atuais de alinhamento, como a Aprendizagem por Reforço com Feedback Humano (RLHF), podem ser insuficientes para assegurar a segurança desses novos modelos.

A OpenAI está convocando pesquisadores e engenheiros de todo o mundo para se unirem a esse desafio, enfatizando que há uma enorme oportunidade para novos talentos contribuírem significativamente para essa área emergente. O programa de subsídios é aberto a acadêmicos e pesquisadores independentes, com valores entre $100 mil e $2 milhões, além de uma bolsa de $150 mil destinada a estudantes de pós-graduação.

Geral: O programa oferece entre $100 mil e $2 milhões em subsídios.
Bolsa de estudo de $150 mil disponível para estudantes de pós-graduação.
Não é necessária experiência prévia em alinhamento para se inscrever.
O processo de candidatura é simples e os resultados serão divulgados em até quatro semanas.
Direções de pesquisa incluem generalização forte, interpretabilidade e supervisão escalável.

Os pesquisadores são encorajados a explorar novas direções em áreas como honestidade, robustez adversarial e testes. A abordagem da OpenAI busca não apenas reunir a comunidade científica, mas também atrair novos pesquisadores para essa importante área de estudo.

A iniciativa da OpenAI visa fornecer recursos vitais para garantir que os sistemas de IA superinteligentes sejam seguros e alinhados com os interesses humanos, o que é fundamental para o futuro da tecnologia. Os interessados em fazer parte dessa revolução na pesquisa de IA são incentivados a se inscrever e acompanhar as atualizações. Inscreva-se na nossa newsletter para mais conteúdos diários e atualizações sobre inovações na área de inteligência artificial.