AI-onderzoeksgemeenschap onderneemt actie tegen kindermisbruikbeelden.

Onderzoekers van kunstmatige intelligentie hebben vrijdag meer dan 2000 web links verwijderd naar vermoedelijke beelden van kindermisbruik. Deze links waren onderdeel van een dataset gebruikt voor het trainen van populaire AI-beeldgeneratie tools.

De LAION dataset is een grote index van online beelden en bijschriften die veel gebruikt is door toonaangevende AI-beeldmakers zoals Stable Diffusion en Midjourney. Echter, een rapport van Stanford Internet Observatory vond dat deze links naar seksueel expliciete beelden van kinderen leidden.

Na het rapport in december heeft LAION, dat staat voor Large-scale Artificial Intelligence Open Network, onmiddellijk de dataset verwijderd. Acht maanden later verklaarde LAION dat het samenwerkte met de Stanford-universiteit en anti-misbruikorganisaties om het probleem op te lossen en een opgeschoonde dataset vrij te geven.

David Thiel, de auteur van het rapport, prees LAION voor significante verbeteringen maar benadrukte dat de volgende stap het terugtrekken van de 'besmette modellen' is die nog steeds kindermisbruikbeelden kunnen genereren. Een van de op LAION gebaseerde tools bleef makkelijk toegankelijk tot donderdag, toen deze verwijderd werd door het bedrijf Runway ML.

De opgeschoonde versie van de LAION dataset komt op een moment dat regeringen wereldwijd nauwlettender kijken naar hoe sommige technische hulpmiddelen worden gebruikt voor het maken of verspreiden van illegale beelden van kinderen. De arrestatie van Durov door de Franse autoriteiten toont een grote verandering in de tech-industrie waarbij oprichters van deze platformen persoonlijk verantwoordelijk gehouden kunnen worden.