Pesquisa Inova com Método para AI 'Esquecer' Dados Sensíveis

Inteligência Artificial Privacidade Ética

Pesquisadores da Tokyo University of Science (TUS) desenvolveram uma técnica inovadora que permite a modelos de inteligência artificial (IA) 'esquecer' dados específicos, visando melhorar a privacidade e a eficiência da tecnologia, com os resultados a serem apresentados em dezembro de 2024.

Portrait of a group of researchers, composed of a mix of genders and descents including Hispanic, Caucasian, Black, Middle-Eastern, and South Asian. They are situated in a modern, technologically advanced laboratory, surrounded by computers and graphics. They are deeply engrossed in their work on an artificial intelligence project that enables selective data 'forgetting'. The scene should be visually represented in a flat, corporative and vectorial style on a 2D linear perspective. The additional elements to include are computers signifying the AI technology at hand, charts symbolizing data analysis and outcomes, notes showcasing collaboration amongst researchers, a technological backdrop implying a cutting-edge research setting, and a soft light to create an ambiance of innovation and creativity. The image background should be white and textureless.

Imagem gerada utilizando Dall-E 3

A evolução da inteligência artificial trouxe benefícios significativos a diversas áreas, mas também levantou preocupações éticas e práticas em relação ao uso de dados. Pesquisadores da TUS estão abordando uma parte crucial desse debate: como modelos de IA podem ser adaptados para esquecer informações irrelevantes, preservando apenas os dados necessários para suas operações.

Modelos amplamente utilizados, como o ChatGPT e o CLIP, transformaram a forma como as máquinas interagem, mas sua natureza generalista pode resultar em desperdício de recursos e riscos de vazamento de informações. O professor associado Go Irie explica que, em aplicações práticas, o reconhecimento de classes irrelevantes pode prejudicar a precisão e a eficiência dos modelos de IA.

A pesquisa introduz o conceito de 'black-box forgetting', permitindo que modelos ajustem suas respostas sem necessidade de acesso ao seu funcionamento interno. A abordagem envolveu a utilização da Covariance Matrix Adaptation Evolution Strategy (CMA-ES) para otimizar prompts e induzir o esquecimento de categorias específicas. Os testes demonstraram a capacidade do CLIP de esquecer cerca de 40% das classes-alvo.

Além da eficiência técnica, a inovação tem implicações importantes em contextos onde a precisão é crucial, como na geração de imagens e no tratamento de dados sensíveis. A aplicação desse método pode facilitar a conformidade com legislações que promovem o 'Direito ao Esquecimento', ajudando a mitigar riscos associados à privacidade em setores como saúde e finanças.

A abordagem de 'black-box forgetting' se destaca como um avanço significativo na adaptação da IA às demandas contemporâneas por eficiência e ética. À medida que o desenvolvimento de IA continua a evoluir, essa técnica pode se tornar essencial para garantir a segurança e privacidade dos dados. Os leitores são convidados a acompanhar mais inovações e pesquisas nesse campo, assinando a nossa newsletter para conteúdos atualizados diariamente.