Pesquisadores da AppSOC revelaram que o DeepSeek-R1, uma versão do modelo de linguagem de grande escala, apresentou taxas alarmantes de falhas em vários testes de segurança. Os testes, que abrangem uma série de vulnerabilidades, mostraram que o modelo não possui guardrails adequados, permitindo a ocorrência de 'hallucinations', jailbreaking e a geração de malware.

Os resultados indicaram que as taxas de falha variavam entre 19,2% e 98%. Um dos maiores problemas foi a habilidade do modelo em gerar malware, o que ocorreu 98,8% das vezes, além da criação de códigos maliciosos para vírus em 86,7% dos testes. Essas estatísticas indicam um risco potencial significativo tanto para atores mal-intencionados quanto para usuários empresariais.

Os pesquisadores ressaltaram que as falhas nos aspectos de segurança do DeepSeek podem expor organizações a riscos elevados, especialmente em projetos críticos que dependem da integridade e da segurança da informação. Ajustes na arquitetura do modelo e a implementação de melhores práticas de segurança são urgentemente necessários.

1. DeepSeek permite a geração de malware em 98,8% das vezes.

2. As falhas variam entre 19,2% e 98% em diversos testes.

3. Vulnerabilidades incluem jailbreaking e prompt injection.

4. O modelo pode ser suscetível a toxicidade em suas respostas.

5. A falta de guardrails adequados é um problema crítico.

Essas falhas destacam a necessidade de uma avaliação mais minuciosa e uma abordagem mais responsável no desenvolvimento de modelos de IA, especialmente aqueles que são utilizados em ambientes empresariais onde a segurança de dados é uma prioridade.

- Investir em segurança de IA é crucial para empresas. - Precisamos exigir mais responsabilidade dos desenvolvedores. - A conscientização sobre riscos da IA deve ser ampliada. - As empresas devem estar atentas a novas tecnologias.

Considerando os riscos associados ao DeepSeek, as empresas que utilizam ou pretendem usar o modelo devem reavaliar suas estratégias de segurança e considerar alternativas mais seguras para mitigar as ameaças potenciais.

Em um cenário onde a segurança digital é vital, é essencial que empresas se mantenham informadas sobre os riscos associados a tecnologias emergentes como a IA generativa. Para aprofundar-se mais em segurança e tecnologia, inscreva-se na nossa newsletter e tenha acesso a conteúdos atualizados diariamente.

FONTES:

1. AppSOC

2. Dark Reading