Expansão do Programa de Recompensas por Bugs em Modelos de Segurança AI

Tecnologia Segurança Inteligência Artificial

A empresa está ampliando seu programa de recompensas por bugs para incluir uma nova iniciativa focada em identificar falhas nas medidas de mitigação de segurança de seus modelos de IA. O objetivo é encontrar vulnerabilidades em áreas críticas, como CBRN e cibersegurança, com recompensas de até $15.000 para ataques de jailbreak universais.

A vector, corporate styled illustration associated with the expansion of a bug bounty program on Artificial Intelligence (AI) systems. In view, a flat 2D, linear perspective artwork on a straightforward, texture-less white backdrop. Key elements include a padlock, interpreted as a symbol of AI systems' security and protection, alongside streams of binary code, exemplifying the technical nature of the AI models. The illustration also pictures researchers, represented to depict the global security community's collaboration, and computers symbolizing the control testing environment. Finally, warning signs are included, indicating the identification of critical vulnerabilities.

Imagem gerada utilizando Dall-E 3

Com o rápido avanço das capacidades dos modelos de IA, a empresa está expandindo seu programa de recompensas por bugs para incluir uma nova iniciativa focada na identificação de falhas nas medidas de mitigação de segurança. A nova iniciativa visa encontrar e mitigar ataques de jailbreak universais, que podem permitir a violação consistente das barreiras de segurança da IA em diversas áreas, incluindo CBRN (química, biológica, radiológica e nuclear) e cibersegurança.

O programa de recompensas por bugs, realizado em parceria com a HackerOne, recompensará os pesquisadores que identificarem problemas de segurança nos modelos de IA da empresa. A nova iniciativa testará o sistema de mitigação de segurança de próxima geração, que ainda não foi implantado publicamente. Os participantes terão acesso antecipado ao sistema e serão desafiados a identificar vulnerabilidades em um ambiente controlado.

- Acesso antecipado ao sistema de mitigação de segurança de próxima geração. - Recompensas de até $15.000 para ataques de jailbreak universais. - Foco em vulnerabilidades em áreas críticas como CBRN e cibersegurança.

A iniciativa começará como um programa exclusivo por convite, com planos de expansão futura. Pesquisadores de segurança de IA são incentivados a se inscreverem até 16 de agosto. A empresa também busca relatórios sobre preocupações de segurança em seus sistemas atuais para melhorar continuamente suas medidas de segurança. Essa iniciativa está alinhada com compromissos de desenvolvimento responsável de IA, como os Compromissos Voluntários de IA da Casa Branca e o Código de Conduta para Organizações que Desenvolvem Sistemas de IA Avançados do G7.

A expansão do programa de recompensas por bugs representa um passo significativo na melhoria da segurança dos modelos de IA, abordando vulnerabilidades críticas em áreas de alto risco. A colaboração com a comunidade global de pesquisadores de segurança é essencial para garantir que as medidas de segurança acompanhem o avanço das capacidades da IA. A iniciativa promete fortalecer a segurança em domínios críticos e contribuir para o desenvolvimento responsável da IA.