A Microsoft revelou uma nova funcionalidade chamada 'correção', aprimorando a detecção de groundedness no Azure AI Content Safety. Com essa atualização, a ferramenta não apenas reconhece as imprecisões nas saídas da IA, mas também as corrige, otimizando a experiência do usuário e a confiança nas aplicações de IA generativa.

A detecção de groundedness, introduzida em março de 2024, é uma ferramenta que identifica conteúdos não fundamentados ou 'hallucinations' nas respostas da IA, permitindo que desenvolvedores aprimorem aplicações generativas. Esse recurso é essencial, dada a velocidade de evolução da IA generativa e os riscos que as 'hallucinations' representam para a precisão da informação.

O funcionamento da nova capacidade de correção envolve quatro etapas principais: detecção de conteúdo não fundamentado, raciocínio para explicar as falhas, correção em tempo real e o retorno do conteúdo ajustado ao usuário. Com isso, a precisão das informações fornecidas por aplicações de IA pode ser significativamente melhorada.

1. Identificação de conteúdo não fundamentado pela IA.

2. Geração de explicações para falhas identificadas.

3. Correção em tempo real do texto incoerente.

4. Retorno do conteúdo corrigido ao usuário.

5. Possibilidade de uso em domínios críticos, como a medicina.

Além da correção, a empresa sugere outras estratégias que visam conectar aplicações gerativas a documentos e fontes de dados confiáveis. Essas etapas incluem a configuração de mensagens de sistema e a curadoria de documentos de grounding para garantir maior precisão nas saídas geradas.

- A correção aumenta a confiabilidade das aplicações de IA. - Possibilita a operação em setores críticos. - Fomenta a confiança do usuário em aplicações de IA generativa. - Facilita a implementação de interfaces conversacionais.

Dessa forma, a nova capacidade de correção não só melhora a resposta do sistema, mas também minimiza as preocupações relacionadas às 'hallucinations', permitindo que as empresas implementem soluções de IA generativa com mais segurança e eficácia.

A introdução da capacidade de correção no Azure AI Content Safety representa um passo importante para a evolução das tecnologias de IA. Este novo recurso não apenas corrige as incoerências, mas também instiga um debate sobre a responsabilidade na utilização dessa tecnologia. Para mais atualizações sobre inovações tecnológicas, inscreva-se em nossa newsletter e não perca nenhuma novidade.

FONTES:

1. Microsoft Blog

2. Documentação de Detecção de Groundedness

3. Microsoft Trustworthy AI

4. Vídeo sobre correção