A OpenAI lançou um novo modelo de moderação, omni-moderation-latest, que utiliza a tecnologia GPT-4o para melhorar a detecção de conteúdos prejudiciais em textos e imagens. Este modelo é mais preciso que seu antecessor, especialmente em línguas não-inglesas, e está disponível gratuitamente para desenvolvedores através da API de Moderação.

1. Classificação multimodal de danos em seis categorias.

2. Detecção de duas novas categorias de danos textuais.

3. Melhoria significativa na precisão, especialmente para conteúdos em línguas não-inglesas.

4. Pontuações calibradas para refletir melhor a probabilidade de violação de políticas.

Empresas como Grammarly e ElevenLabs já estão utilizando a API de Moderação para garantir a segurança e justiça dos conteúdos gerados por suas plataformas de IA. A nova atualização inclui melhorias como a classificação de danos multimodal em seis categorias e a detecção de duas novas categorias de danos textuais.

- Classificação multimodal de danos em violência, autoagressão e conteúdo sexual. - Detecção de conteúdos ilícitos e violentos. - Melhoria de 42% na precisão em 40 idiomas testados. - Desempenho superior em línguas como Telugu, Bengali e Marathi.

A OpenAI espera que essas melhorias ajudem desenvolvedores a se beneficiarem das últimas pesquisas e investimentos em sistemas de segurança, mantendo a saúde das plataformas digitais e aliviando a carga de trabalho dos moderadores humanos.

A atualização do modelo de moderação da OpenAI promete avanços significativos na precisão e abrangência da detecção de conteúdos prejudiciais, especialmente em línguas não-inglesas. Com a continuação do desenvolvimento e expansão das categorias de danos, espera-se que mais desenvolvedores possam construir produtos mais seguros e justos para seus usuários.

FONTES:

1. OpenAI

2. GPT-4o

3. Moderation API Guide