Tekoälytutkimusyhteisö ryhtyy toimiin lapsiin kohdistuvan hyväksikäytön kuvamateriaalia vastaan.

Tekoälytutkijat ilmoittivat perjantaina poistaneensa yli 2000 web-linkkiä, jotka epäillään sisältävän lapsiin kohdistuvaa seksuaalista hyväksikäyttöä. LAION-tutkimusaineisto on suuri kuvien ja kuvatekstien indeksi, jota käytetään suosittujen tekoälypohjaisten kuvageneraattoreiden, kuten Stable Diffusion ja Midjourney, kouluttamiseen.

Stanfordin yliopiston Internet-observatorion raportti paljasti viime vuonna, että aineistossa oli linkkejä lasten seksuaalisesti eksplisiittisiin kuviin. Tämä helpotti joitakin tekoälytyökaluja tuottamaan fotorealistisia deepfake-kuvia, jotka esittävät lapsia.

Joulukuun raportin jälkeen LAION, joka tarkoittaa voittoa tavoittelematonta laajamittaista tekoälyn avointa verkostoa, poisti välittömästi aineistonsa. Kahdeksan kuukautta myöhemmin LAION ilmoitti blogissaan työskennelleensä Stanfordin yliopiston valvontaryhmän ja Kanadan sekä Yhdistyneen kuningaskunnan vastaisen väärinkäytöksen organisaatioiden kanssa korjatakseen ongelman ja julkaisseen puhdistetun aineiston tulevaa tekoälytutkimusta varten.

Stanfordin tutkija David Thiel, joka kirjoitti joulukuun raportin, kiitti LAIONia merkittävistä parannuksista, mutta sanoi seuraavan askeleen olevan vetäytyminen “tahriintuneiden mallien" , "jakelusta, jotka ovat yhä kykeneviä tuottamaan lasten hyväksikäyttökuvia.

Yksi LAION-pohjaisista työkaluista, jonka Stanford tunnisti 'suosituimmaksi malliksi eksplisiittisten kuvien tuottamiseen' — vanhempi ja kevyesti suodatettu versio Stable Diffusionista — pysyi helposti saatavilla torstaihin asti, kun New Yorkissa toimiva yritys Runway ML poisti sen tekoälymallien taivutuspalvelu Hugging Facesta. Runway ilmoitti perjantaina päätöksestä suunnitellusta tutkimusmallien ja koodien poistoista, joita ei ole aktiivisesti ylläpidetty.