ElevenLabs e a Nova Fronteira da Desinformação: O Uso de Vozes Geradas por IA na Operação Russa

Tecnologia Desinformação Geopolítica

Um relatório da Recorded Future revela que a tecnologia de geração de voz da startup ElevenLabs foi 'muito provavelmente' utilizada em uma campanha de desinformação russa, chamada 'Operação Undercut', visando minar o apoio da Europa à Ucrânia com vídeos enganosos e vozes geradas por inteligência artificial.

Create a 2D, linear perspective, flat, corporate vector-style illustration on a white, textureless background. The image is centered around depicting the concept of Artificial Intelligence (AI) involved in disinformation operations. Key elements include a computer, signifying the use of technology in manipulating information, and a microphone, symbolizing the generation of artificial voices. The screen of the computer should display codes, algorithms, or other symbolic representations highlighting the complexity of AI. Finally, incorporate a nebulous, haze-like element around the scene, suggesting an atmosphere of uncertainty and disinformation.

Imagem gerada utilizando Dall-E 3

A inteligência artificial generativa, amplamente usada em várias áreas, tem sido abusada para fins escusos, como fraudes e plágios. Recentemente, uma nova aplicação dessa tecnologia emergiu em operações de influência estatal.

O relatório da Recorded Future aponta que a campanha, vinculada à Rússia, utilizou produtos comerciais de geração de voz, como os da ElevenLabs. Conhecida por sua capacidade de criar vozes realistas, a tecnologia foi empregada para produzir narrações em vídeos que questionavam a corrupção de políticos ucranianos e a eficácia do apoio militar ocidental.

Os vídeos eram direcionados a audiências europeias e foram projetados para parecerem legítimos com o uso de vozes geradas de forma convincente. A Recorded Future confirmou a utilização da tecnologia da ElevenLabs por meio do seu AI Speech Classifier, que detectou a ferramenta nos áudios analisados.

A campanha foi chamada de 'Operação Undercut'.
Os vídeos gerados visavam desacreditar líderes ucranianos.
A ElevenLabs não forneceu comentários sobre o relatório.
A tecnologia permitiu a rápida produção de conteúdo em várias línguas.
A campanha teve impacto minimamente significativo na opinião pública.

Além de destacar o uso de vozes geradas por IA para manipulação, o relatório menciona que a operação foi conduzida pela Social Design Agency, uma organização sancionada pelos EUA por suas atividades de desinformação. Apesar do uso avançado da tecnologia, o impacto geral da campanha foi considerado baixo.

- Desinformação exacerbada pelo uso de IA. - Tecnologia como ferramenta de manipulação política. - Responsabilidade das empresas que desenvolvem IA.

Os desdobramentos do uso de IA em operações de desinformação levantam questões críticas sobre a ética na tecnologia. As empresas precisam equilibrar inovação com a responsabilidade social, evitando que suas ferramentas sejam utilizadas para fins prejudiciais.

A utilização de tecnologias de IA em campanhas de desinformação torna necessário um debate mais amplo sobre regulação e responsabilidade. Os leitores são incentivados a acompanhar a evolução deste tema e podem se inscrever na nossa newsletter para receber mais atualizações diárias sobre tecnologia e sua interseção com a sociedade.