Galileo Lança Agentic Evaluations para Aumentar a Confiabilidade dos Agentes de IA

Tecnologia Inteligência Artificial Inovação

A Galileo, uma startup de San Francisco, lançou o Agentic Evaluations em 23 de janeiro de 2025, uma ferramenta destinada a aumentar a confiança na operação de sistemas de inteligência artificial, conhecidos como AI agents, que têm se espalhado rapidamente em diversas indústrias.

Vector-style illustration of a diverse technical team, with a Caucasian woman, a Black man, and a Hispanic woman, working in a modern corporate environment. They are evaluating AI agents, surrounded by various technological tools like computers and mobile devices. Visual metrics charts are present in their workspace, reflecting an ongoing analysis and performance evaluation, signifying the tool named Agentic Evaluations, launched by a San Francisco startup. The work environment is a blend of collaboration, technology, and safety, indicated by visible safety icons, symbolizing the importance of safety in AI.

Imagem gerada utilizando Dall-E 3

No cenário atual, a adoção de AI agents por empresas está crescendo rapidamente, tornando essencial a verificação da confiabilidade desses sistemas após sua implementação. O CEO da Galileo, Vikram Chatterji, afirma que a nova plataforma pode garantir que esses agentes funcionem como esperado, o que é uma preocupação crescente entre os usuários.

Grandes empresas, como Cisco e Ema, já utilizam a plataforma da Galileo, relatando ganhos significativos de produtividade ao automatizar tarefas com agentes que reduzem o tempo de trabalho de uma semana para apenas dois dias. Essa eficiência gerada pelos AI agents é um ponto crucial para a adoção em larga escala.

A plataforma não só avalia a qualidade da seleção de ferramentas utilizadas pelos agentes, mas também detecta erros nas chamadas de ferramentas e monitora o sucesso geral das sessões. Além disso, a Galileo levantou um total de 68 milhões de dólares em financiamento, o que demonstra sua posição forte no mercado.

Avaliação da qualidade da seleção de ferramentas.
Detecção de erros nas chamadas de ferramentas.
Monitoramento de métricas essenciais como custo e latência.
Importância da segurança na IA em um cenário de aumento da adoção.
Necessidade de testes rigorosos antes do lançamento dos agentes.

A crescente preocupação por parte das empresas em relação a falhas de IA, conhecidas como *hallucinations*, e a necessidade de garantir o desempenho de AI agents destaca a relevância da plataforma da Galileo. Essa ferramenta pode ser um divisor de águas em um mercado cada vez mais focado em segurança e responsabilidade no uso da IA.

- Aumento da adoção de AI agents entre empresas. - Eficiência significativa na automação de tarefas. - Necessidade de confiabilidade e testes rigorosos. - Fiscalização de custos e desempenho dos AI agents.

A introdução do Agentic Evaluations revela uma resposta proativa às preocupações sobre a confiabilidade dos AI agents, evidenciando a crescente necessidade de soluções que assegurem a eficácia e segurança da IA em ambientes empresariais.

Em suma, o lançamento do Agentic Evaluations representa um passo importante na evolução da tecnologia de IA, proporcionando ferramentas necessárias para empresas que buscam maximizar a eficiência enquanto garantem a confiança. Os leitores são encorajados a assinar a nossa newsletter para se manterem atualizados sobre as inovações em inteligência artificial e outros conteúdos relevantes.