AI-forskningsmiljøet tar grep mot bilder av barnemishandling.

Forskere innen kunstig intelligens opplyste på fredag at de har slettet over 2000 weblenker til mistenkt barneseksuelt misbruk i et datasett brukt for å trene populære AI-bildegeneratorer.","LAION-forskningsdatasettet er en stor indeks av online bilder og bildetekster som har vært en kilde for ledende AI-bildeprodusenter som Stable Diffusion og Midjourney.

En rapport fra Stanford Internet Observatory i fjor fant at datasettet inneholdt lenker til seksuelt eksplisitte bilder av barn, noe som bidro til hvor enkelt noen AI-verktøy kan produsere fotorealistiske deepfakes som avbilder barn.","Dette førte til at LAION, som står for det ideelle Large-scale Artificial Intelligence Open Network, umiddelbart fjernet sitt datasett.

Åtte måneder senere uttalte LAION i et blogginnlegg at de hadde jobbet med Stanford Universitys vakthundgruppe og anti-misbruksorganisasjoner i Canada og Storbritannia for å løse problemet og utgi et rengjort datasett for fremtidig AI-forskning.","Forsker David Thiel fra Stanford, forfatteren av desemberrapporten, roste LAION for betydelige forbedringer, men sa neste skritt er å trekke tilbake de \"forurensete modellene\" som fortsatt kan produsere barnemishandlingsbilder.

En av verktøyene basert på LAION som Stanford identifiserte som den \"mest populære modellen for å generere eksplisitte bilder\" var en eldre og lett filtrert versjon av Stable Diffusion, den var fremdeles lett tilgjengelig frem til torsdag da selskapet Runway ML fra New York fjernet den fra AI-modell-repositoriet Hugging Face.","Runway kunngjorde på fredag at dette var en \"planlagt utfasing av forskningsmodeller og kode som ikke har vært aktivt vedlikeholdt.\"

Rengjort versjon av LAION-datasettet kommer når regjeringer over hele verden ser nærmere på hvordan noen tech-verktøy blir brukt til å lage eller distribuere ulovlige bilder av barn.","San Franciscos byadvokat reiste tidligere denne måneden et søksmål for å stenge en gruppe nettsider som muliggjør oppretting av AI-genererte nakenbilder av kvinner og jenter.