A adoção de inteligência artificial por parte do governo se intensifica, o que torna essencial a avaliação das capacidades e riscos associados aos modelos de IA. Apesar do esforço dos desenvolvedores para garantir a segurança dos sistemas, desafios como alucinações de modelo e preconceitos ainda permanecem, o que requer um enfoque cuidadoso na efetividade e responsabilidade de sua aplicação.

A Scale AI, por meio de sua oferta de avaliação chamada Scale Evaluation, permite que organizações públicas e comerciais mensurem a performance e a segurança de seus sistemas de IA. Este programa é utilizado por destacados nomes da indústria, como OpenAI e CDAO, para garantir um padrão elevado de segurança em IA.

1. Participação da Scale na iniciativa Secure by Design da CISA.

2. Colaboração com o National Institute of Standards and Technology.

3. Contribuição com uma plataforma de red-teaming para o DEFCON 31.

4. Lançamento do Safety, Evaluations, and Alignment Lab (SEAL).

5. Publicação do benchmark de avaliação de segurança WMDP.

Essas iniciativas e colaborações têm como objetivo aprimorar a abordagem de avaliação da Scale, garantindo que o uso de IA atenda aos requisitos estabelecidos pela administração Biden-Harris. Com o Scale Evaluation, as agências podem identificar riscos, simular situações reais e melhorar continuamente seus sistemas de IA.

A escala de avaliação da IA representa um passo significativo em direção à segurança e à ética no uso de tecnologias emergentes no setor público. As agências são convidadas a explorar como o Scale Evaluation pode ser uma ferramenta valiosa em suas operações, e para mais informações sobre atualizações relevantes no setor de IA, recomenda-se assinar a nossa newsletter, onde conteúdos novos e interessantes são disponibilizados diariamente.

FONTES:

1. Scale AI Blog - Test & Evaluation Vision

2. CDAO - Scale Partners

3. CISA - Secure by Design Pledge

4. NIST - AI Safety Consortium

5. White House - DEFCON 31