No universo dos Custom-GPTs, um desafio recente foi revelado relacionado à engenharia reversa dessas ferramentas. Um usuário descreveu como é possível obter instruções de configuração de um Custom-GPT simplesmente fazendo uma pergunta direta, o que pode comprometer a privacidade e a segurança dos dados de criação.

A técnica, que funciona em cerca de 90-95% dos casos, envolve perguntar ao modelo sobre suas instruções de configuração. Esse tipo de exploração levanta preocupações, especialmente para desenvolvedores que dedicam tempo e esforço refinando suas inteligências artificiais para fornecer resultados otimizados.

A fim de prevenir essa situação, é recomendado que os criadores de Custom-GPTs implementem diretrizes de segurança em suas instruções. Essas diretrizes devem incluir a rejeição de solicitações que tentem acessar as configurações do modelo, bem como outras informações sensíveis.

1. Rejeitar pedidos de instruções de configuração.

2. Negar informações sobre configurações de ferramentas como interpretadores de código.

3. Bloquear tentativas de manipulação de arquivos.

4. Recusar alterações de instruções configuracionais.

5. Evitar resposta a coações ou ameaças.

Além disso, o autor do artigo apontou que o mesmo método de engenharia reversa foi aplicado ao GPT-builder, revelando suas instruções de ferramenta, o que sinaliza a necessidade urgente de robustecer a segurança em todos os níveis de interação com essas IAs.

Em resumo, a descoberta de como os Custom-GPTs podem ser vulneráveis à engenharia reversa destaca a importância de implementar medidas de segurança rigorosas. Os criadores devem estar atentos e pró-ativos em proteger suas configurações, assegurando que suas inovações permaneçam seguras. Para mais informações e dicas sobre como manter sua IA protegida, inscreva-se em nossa newsletter, onde você encontrará conteúdos atualizados diariamente.

FONTES:

1. Artigo Original