Comunidade de pesquisa em IA toma medidas contra imagens de exploração infantil.

Pesquisadores de inteligência artificial disseram na sexta-feira que excluíram mais de 2.000 links da web com imagens suspeitas de abuso sexual infantil de um banco de dados usado para treinar ferramentas populares de geração de imagens de IA. O conjunto de dados de pesquisa LAION é um grande índice de imagens e legendas online que tem sido fonte para geradores de imagens de IA líderes como Stable Diffusion e Midjourney.

Um relatório do ano passado do Stanford Internet Observatory descobriu que ele continha links para imagens sexualmente explícitas de crianças, facilitando a produção de deepfakes fotorealistas por algumas ferramentas de IA que retratam crianças. Após o relatório de dezembro, a LAION, que representa a rede aberta de inteligência artificial em grande escala, removeu imediatamente seu conjunto de dados.

Oito meses depois, a LAION disse em um post no blog que trabalhou com o grupo de vigilância da Universidade de Stanford e organizações antiabuso no Canadá e no Reino Unido para corrigir o problema e lançar um conjunto de dados limpo para pesquisa futura de IA. O pesquisador de Stanford, David Thiel, autor do relatório de dezembro, elogiou a LAION por melhorias significativas, mas disse que o próximo passo é retirar de distribuição os 'modelos contaminados' que ainda são capazes de produzir imagens de abuso infantil.

Uma das ferramentas baseadas em LAION que Stanford identificou como o 'modelo mais popular para gerar imagens explícitas' — uma versão mais antiga e pouco filtrada do Stable Diffusion — permaneceu facilmente acessível até quinta-feira, quando a empresa baseada em Nova York, Runway ML, a removeu do repositório de modelos de IA Hugging Face. Runway disse em um comunicado na sexta-feira que foi uma 'depreciação planejada de modelos e códigos de pesquisa que não foram ativamente mantidos'.

A versão limpa do conjunto de dados LAION surge enquanto governos ao redor do mundo estão examinando de perto como algumas ferramentas tecnológicas estão sendo usadas para fazer ou distribuir imagens ilegais de crianças. No início deste mês, o advogado da cidade de São Francisco entrou com uma ação judicial buscando fechar um grupo de sites que permitiam a criação de nus gerados por IA de mulheres e meninas.