A Mistral AI apresentou oficialmente sua nova moderação de conteúdo, priorizando a segurança e a personalização para os clientes. Essa ferramenta permite que os usuários adotem medidas proativas contra textos nocivos, contribuindo para a criação de um ambiente digital mais seguro.

Este serviço é alimentado pela mesma API utilizada no Le Chat, um sistema de moderação com maior escalabilidade. O modelo de moderação treinado é um classificador baseado em LLM, capaz de categorizar textos em nove categorias. A API oferece dois pontos de acesso: um para textos brutos e outro para conteúdos de conversação, sendo especialmente projetada para entender o contexto das mensagens.

A Mistral AI destaca a importância de definir o que é conteúdo indesejável, uma vez que esse conceito varia conforme o contexto. Para tanto, a empresa projetou um classificador nativo multilíngue, aprimorado com dados em diversos idiomas, incluindo português, inglês e espanhol.

1. API de moderação com duas terminações: textos brutos e conversação.

2. Classificação de conteúdos em nove categorias.

3. Modelo treinado para contextos específicos de conversação.

4. Compromisso com a segurança e personalização para os usuários.

5. Colaboração contínua com a comunidade de pesquisa.

Ao trabalhar com clientes para desenvolver ferramentas de moderação escaláveis e personalizáveis, a Mistral AI reafirma seu compromisso em melhorar a segurança nas aplicações de IA. Este avanço pode aumentar a confiança do público em sistemas baseados em tecnologia, tendo implicações significativas para a forma como interagimos online.

Em suma, a nova API de moderação da Mistral AI representa um passo significativo em direção a um futuro mais seguro nas interações digitais, promovendo uma experiência de usuário mais confiável. Para mais atualizações sobre inovações em tecnologia e inteligência artificial, inscreva-se em nossa newsletter e fique por dentro das últimas notícias diariamente.

FONTES:

1. Mistral AI