A Anthropic, empresa focada em inteligência artificial, anunciou sua Política de Escalonamento Responsável (RSP), um conjunto de normas para mitigar os riscos que surgem com o aumento da capacidade de modelos de IA. A RSP busca equilibrar o valor econômico e social que esses sistemas podem gerar contra os riscos catastróficos que podem causar.

Conforme os modelos de IA se tornam mais poderosos, a companhia destaca que a política se concentra principalmente em riscos catastróficos, que incluem o uso indevido intencional por agentes maliciosos e comportamentos autônomos que possam levar a destruições não intencionais. A RSP introduz um sistema de níveis de segurança chamado Níveis de Segurança de IA (ASL), inspirado nos padrões de biossegurança do governo americano.

A RSP define cinco níveis de segurança (ASL-1 a ASL-5), onde cada nível requer diferentes padrões de segurança e operações conforme aumenta o potencial de risco catastrófico. Atualmente, sistemas como o Claude são classificados como ASL-2. A implementação de medidas severas, particularmente para os níveis superiores, exigirá um intenso esforço de pesquisa e engenharia.

1. ASL-1: Sistemas sem risco catastrófico significativo.

2. ASL-2: Sistemas com sinais iniciais de capacidades perigosas.

3. ASL-3: Sistemas que aumentam substancialmente o risco de uso indevido catastrófico.

4. ASL-4 e ASL-5: Níveis ainda não definidos que envolverão ressalvas qualitativas.

5. Compromissos com princípios de segurança e preparação antes da implementação de modelos mais avançados.

Os principais compromissos da RSP visam assegurar a integridade e a avaliação contínua, reconhecendo que a rápida evolução no campo da IA pode exigir ajustes regulares nas diretrizes estabelecidas.

A nova Política de Escalonamento Responsável da Anthropic representa um passo significativo para a indústria de IA, promovendo não apenas a inovação, mas também a segurança em sua aplicação. Com essa iniciativa, a empresa espera criar um ambiente competitivo onde a segurança é priorizada no desenvolvimento de tecnologias avançadas. Para mais conteúdos atualizados diariamente sobre inovações tecnológicas, inscreva-se em nossa newsletter.

FONTES:

1. Anthropic

2. White House AI Commitments

3. ARC Evals