Nos últimos meses, a equipe do Open R1 focou em reproduzir os aspectos de raciocínio de código do DeepSeek-R1. As novidades incluem a construção do dataset CodeForces-CoTs, que compreende quase 100 mil amostras de alta qualidade, e a introdução do benchmark IOI, com problemas desafiadores da International Olympiad in Informatics de 2024.

Os novos modelos OlympicCoder foram ajustados para superar modelos de código de fonte fechada e se destacaram na resolução de problemas da IOI. Em testes, o OlympicCoder-32B demonstrou um desempenho impressionante, superando modelos com mais de 100 vezes seu tamanho. Essa evolução aponta para uma melhoria significativa na realização de tarefas de programação através de inteligência artificial.

A equipe identificou a necessidade de um dataset completamente verificável, uma vez que soluções que passaram em testes públicos falharam em testes completos no CodeForces. Portanto, trabalhar na validação de testes adicionais e melhorar a integridade do dataset CodeForces-CoTs se torna essencial.

1. Lançamento do dataset CodeForces-CoTs com mais de 10 mil problemas.

2. Apresentação do IOI benchmark com problemas da olimpíada de informática.

3. Desenvolvimento do OlympicCoder com modelos de 7B e 32B.

4. Desempenho superior do OlympicCoder-32B em comparação a modelos maiores.

5. Identificação de falhas na verificação de soluções em testes completos.

A sinalização das lições aprendidas, como a importância de altas taxas de aprendizado e a exclusão de amostras editoriais, oferece insights sobre o aprimoramento de modelos de codificação. Essas descobertas podem aprimorar futuras implementações e expandir a capacidade de modelos de IA em resolver problemas complexos de forma mais eficaz.

Os avanços do Open R1 representam um marco significativo na programação competitiva e na IA, destacando o potencial da inteligência artificial em resolver problemas complexos de programação. Para aqueles interessados em acompanhar mais inovações e análises atualizadas, recomenda-se inscrever-se na nossa newsletter, onde novos conteúdos são disponibilizados diariamente.

FONTES:

1. Hugging Face

2. IOI

3. DeepMind

4. GRPO

5. Maxime Labonne