Cohere Lança Safety Modes: Protegendo a Criatividade com Segurança

Tecnologia Inteligência Artificial Inovação

A Cohere anunciou o lançamento beta do Safety Modes, uma nova função na Chat API que permite aos clientes empresariais personalizar a segurança dos resultados do modelo, buscando um equilíbrio entre segurança e criatividade.

Create a 2D, linear, corporate style vector image on a plain white background. The core scene should depict Cohere's new 'Safety Modes' UI which is a part of their Chat API, enabling business customers to personalize the safety of the model results, striking a balance between security and creativity. The interface ought to include a gear icon signifying setting adjustments and personalization, a snippet of Python code to demonstrate practical use of the Safety Modes, and a balance scale symbolizing the equilibrium between security and creativity.

Imagem gerada utilizando Dall-E 3

A Cohere, uma empresa de inteligência artificial, introduziu o Safety Modes, uma nova funcionalidade que permite aos clientes ajustar as diretrizes de segurança dos modelos de forma mais flexível. Esta novidade, disponível na Chat API, foi lançada em beta e busca aumentar a confiança dos usuários nas respostas geradas pelos modelos automáticos, levando em consideração os diferentes contextos e necessidades de negócios dos clientes.

Tradicionalmente, as diretrizes de segurança em modelos de linguagem são binárias, já que as empresas podem escolher entre ativá-las integralmente ou desativá-las completamente. O Safety Modes vem para resolver esta questão, oferecendo aos clientes a capacidade de selecionar o nível de segurança desejado para suas aplicações específicas. A funcionalidade permite que um cliente que gera conteúdos criativos, por exemplo, evite ativar protetores excessivamente restritivos.

O lançamento inclui dois modos principais: Strict e Contextual. O *Strict Mode* é desenhado para evitar tópicos sensíveis, como violência e linguagem ofensiva, sendo ideal para aplicações corporativas. Já o *Contextual Mode* é mais permissivo, permitindo discussões sobre temas complexos enquanto mantém proteções essenciais contra sugestões prejudiciais.

Strict Mode: evita conteúdos sensíveis e é indicado para ambientes corporativos.
Contextual Mode: oferece maior flexibilidade, adequado para usos criativos e acadêmicos.
Disponível com os modelos Command R 08-2024 e Command R+ 08-2024.
Capacidade de feedback de usuários durante a fase beta.
Contato para feedback através de e-mail e canal do Discord.

As funcionalidades dos modos de segurança permitem que as empresas personalizem suas interações com modelos de IA de maneira a se alinhar melhor com suas políticas de uso seguro e apropriado. Essa diferenciação nos modos ajudará clientes a adaptar os serviços da Cohere às suas necessidades específicas, reforçando a segurança sem sacrificar a criatividade.

O lançamento do Safety Modes pela Cohere representa um avanço na personalização de modelos de IA, permitindo que as empresas ajustem a segurança de maneira precisa para suas necessidades. Para mais informações e para acompanhar as atualizações sobre esta e outras funcionalidades, assine nossa newsletter e fique por dentro de conteúdos atualizados diariamente.