La communauté de recherche en IA prend des mesures contre les images d'exploitation infantile.

Des chercheurs en intelligence artificielle ont supprimé plus de 2000 liens web vers des images suspectées de maltraitance sexuelle d'enfants. Cela concerne un ensemble de données utilisé pour entraîner des outils populaires de génération d'images AI.

La base de données de recherche LAION est un immense index d'images et légendes en ligne, utilisé par des créateurs d'images AI leaders comme Stable Diffusion et Midjourney. Une étude de l'Observatoire Internet de Stanford a révélé qu'elle contenait des liens vers des images sexuellement explicites d'enfants.

Suite au rapport de décembre, LAION a immédiatement retiré sa base de données. Huit mois plus tard, LAION annonce avoir collaboré avec des groupes de surveillance et des organisations anti-abus pour nettoyer la base de données.

Un outil basé sur LAION identifié comme le 'modèle le plus populaire pour générer des images explicites' était encore facilement accessible jusqu'à récemment. Runway ML a retiré ce modèle de la bibliothèque de modèles AI Hugging Face jeudi.

L'arrestation de Pavel Durov, fondateur de Telegram, marque un grand changement, soulignant que les fondateurs de ces plateformes peuvent être tenus personnellement responsables. Des charges ont été portées contre lui par les autorités françaises pour la distribution présumée d'images illégales de maltraitance d'enfants.