Este é o segundo de uma série de 10 programas de "bounty" focados em viés algorítmico, com o objetivo de ensinar avaliações algorítmicas e resolver problemas urgentes na área. O primeiro desafio focou na identificação de lacunas em conjuntos de dados usados para treinar modelos de IA.

1. O primeiro desafio pede a identificação de imagens odiosas.

2. O segundo desafio é criar um modelo que engane o primeiro.

3. Os vencedores receberão prêmios de $4.000 e $6.000, respectivamente.

A complexidade do problema reside na dependência do contexto das imagens de ódio, que pode variar culturalmente. A parceria com uma organização nórdica visa ampliar a compreensão global sobre o tema, já que muitos modelos são ajustados com base em exemplos dos EUA.

- A competição se estende até 7 de novembro de 2024. - Os modelos serão avaliados pela Revontulet. - A competição busca engajar pesquisadores em machine learning para mitigar o extremismo.

Especialistas alertam que, além de soluções algorítmicas, é necessário investir em educação e conscientização para lidar com a manipulação de conteúdo e a criação de imagens de ódio.

A competição da Humane Intelligence representa um passo significativo na luta contra a propaganda odiosa online, destacando a importância de abordagens colaborativas e educacionais para enfrentar os desafios impostos pela IA e pelo extremismo digital.

FONTES:

1. MIT Technology Review