A tecnologia de deepfake representa um desafio crescente, especialmente quando utilizada para fraudes e manipulações. Os pesquisadores da NYU Tandon estão focados em criar sistemas de resposta a desafios que podem identificar a presença de deepfakes, tanto em vídeos quanto em chamadas de áudio.

O professor Chinmay Hegde e sua equipe desenvolveram uma abordagem que explora limitações nos sistemas de geração de deepfakes em tempo real (RTDFs). Em resposta a incidentes de fraudes, como um golpe recente de 25 milhões de dólares que utilizou um vídeo falso, a urgência de métodos eficazes se tornou evidente.

Os pesquisadores introduziram técnicas que, similar ao CAPTCHA, incluem desafios visuais e auditivos que um deepfake pode ter dificuldades para imitar. A análise inicial mostra que os humanos conseguem detectar deepfakes com uma precisão de até 89%, enquanto modelos de aprendizado de máquina alcançaram 73%.

1. A pesquisa inclui uma análise de 56.247 vídeos e 1,6 milhão de amostras de áudio.

2. Desafios visuais incluem movimentos rápidos das mãos e expressões faciais.

3. Desafios auditivos incluem sussurrar ou pronunciar palavras estrangeiras.

4. Os métodos são rápidos e práticos para uso no mundo real.

5. Colaboração humano-AI aumentou a precisão de detecção para 83%.

Esses desafios foram projetados para serem simples e rápidos de realizar, tornando-se uma ferramenta prática para autenticação em comunicação online. Os pesquisadores acreditam que, à medida que a IA melhora na criação de fakes, também é necessário que as ferramentas de detecção evoluam.

- O crescimento da tecnologia deepfake representa uma ameaça significativa. - Desenvolvimentos em técnicas de detecção são vitais para a segurança online. - A colaboração entre humanos e IA é uma tendência promissora. - O acesso a ferramentas de autenticação é essencial para usuários comuns.

A pesquisa em detecção de deepfakes é fundamental não apenas para prevenir fraudes, mas também para proteger a veracidade das comunicações digitais. O trabalho de Hegde e sua equipe oferece um passo crucial na luta contra o uso malicioso de tecnologias emergentes.

Com o aumento das fraudes baseadas em deepfakes, a pesquisa da NYU Tandon pode ser um divisor de águas na proteção de indivíduos e empresas. Acompanhe nossas atualizações diárias através da nossa newsletter para mais informações sobre inovações no campo da segurança digital.

FONTES:

1. NYU Tandon

2. IEEE Spectrum

3. arXiv

4. arXiv