AI-forskningsgemenskapen vidtar åtgärder mot barnexploateringsbilder.

Forskare inom artificiell intelligens meddelade på fredag att de har tagit bort över 2000 webblänkar till misstänkt barnsexuella bilder från en databas som används för att träna populära AI-bildgeneratorer. LAION-forskningsdatabasen är ett stort index av onlinebilder och bildtexter som varit en källa för ledande AI-bildskapare som Stable Diffusion och Midjourney.

En rapport från Stanford Internet Observatory förra året upptäckte att den innehåll länkar till sexuellt uttryckliga bilder av barn, vilket bidrog till hur enkelt vissa AI-verktyg kunde producera fotorealistiska deepfakes som avbildar barn. Rapporten i december fick LAION, vilket står för det ideella nätverket Large-scale Artificial Intelligence Open Network, att omedelbart ta bort sin databas.

Åtta månader senare meddelade LAION i ett blogginlägg att de arbetat tillsammans med övervakningsgruppen från Stanford University och anti-missbruk-organisationer i Kanada och Storbritannien för att lösa problemet och släppa en rensad databas för framtida AI-forskning. Stanford-forskaren David Thiel, författare till december-rapporten, berömde LAION för stora förbättringar men sa att nästa steg var att dra tillbaka de ”förorenade modellerna” som fortfarande kan producera barnmissbruksbilder.

Ett av de LAION-baserade verktyg som Stanford identifierade som 'den mest populära modellen för att generera explicita bilder' – en äldre och lätt filtrerad version av Stable Diffusion – var lättillgänglig fram till torsdag då det New York-baserade företaget Runway ML tog bort den från AI-modellrepositoriet Hugging Face. Runway sade i ett uttalande på fredag att detta var en 'planerad avveckling av forskningsmodeller och kod som inte har underhållits aktivt'.

Den rensade versionen av LAION-databasen kommer när regeringar runt om i världen granskar hur vissa teknikverktyg används för att skapa eller distribuera olagliga bilder av barn. San Franciscos stadsadvokat lämnade tidigare denna månad in en stämningsansökan för att stänga en grupp webbplatser som möjliggör skapandet av AI-genererade nakenbilder av kvinnor och flickor.