O relatório divulgado pela OpenAI detalha o trabalho de segurança realizado antes do lançamento do GPT-4o, incluindo avaliações de riscos, comparação de segurança e as inovações trazidas para lidar com desafios específicos do modelo. Este sistema é considerado uma evolução em relação a seus antecessores, com foco em suas funcionalidades de áudio e multimodais.

O GPT-4o é um modelo autoregressivo que processa entradas em diversos formatos e responde em tempo real, com um desempenho notavelmente rápido em comparação com outras tecnologias. As avaliações de segurança revelaram que a maioria dos riscos apresentados são considerados baixos, exceto na categoria de persuasão, que apresenta um nível médio. Medidas foram implementadas para abordar questões como a geração não autorizada de voz e identificação de falantes.

A OpenAI conduziu um processo rigoroso de identificação e mitigação de riscos, envolvendo mais de 100 especialistas em red teaming de 29 países diferentes. Os testes abrangeram aspectos como a geração de conteúdo desautorizado, identificação de vozes e a criação de conteúdo proibido, demonstrando um compromisso sério com a segurança e ética no uso da IA.

1. Avaliações de segurança revelaram que a maioria dos riscos são classificados como baixos.

2. Modelos com pontuação pós-mitigação 'alta' ou abaixo podem ser desenvolvidos e implementados.

3. Medidas de segurança foram implementadas para mitigar riscos associados à geração de voz.

4. Um programa de red teaming internacional foi realizado com especialistas de diferentes idiomas.

5. GPT-4o se destaca em interação multimodal ao lidar com texto, áudio e imagem.

Os resultados das avaliações sugerem que o GPT-4o não aumenta significativamente os riscos em comparação com modelos anteriores. As melhorias na capacidade de processamento e a redução de custos de utilização devem estimular novas aplicações no campo da inteligência artificial, mantendo sempre um foco em segurança e ética. A OpenAI continuará monitorando e atualizando suas medidas de mitigação conforme necessário.

O GPT-4o traz significativas melhorias em relação aos modelos anteriores, mas também levanta importantes questões sobre segurança e ética no uso da inteligência artificial. A OpenAI convida a comunidade a explorar mais sobre essas inovações e seu impacto. Para mais informações atualizadas, inscreva-se em nossa newsletter e fique por dentro dos avanços da inteligência artificial.

FONTES:

1. OpenAI - Preparação do modelo

2. OpenAI - Relatório do GPT-4

3. OpenAI - Sistema do GPT-4V

4. OpenAI - Modelo de voz

5. OpenAI - White House Commitments