AI istraživačka zajednica preduzima akcije protiv eksploatacije dece na slikama.

Istraživači veštačke inteligencije su u petak rekli da su izbrisali više od 2000 veb linkova ka sumnjivim slikama seksualnog zlostavljanja dece iz skupa podataka koji se koristi za obučavanje popularnih alata za generisanje slika AI. Veliki indeks slika i opisa na internetu, poznat kao LAION istraživački skup podataka, bio je izvor za vodeće AI generatore slika kao što su Stable Diffusion i Midjourney.

Izveštaj Stanfordovog Internet Opservatorijuma prošle godine otkrio je da ovaj skup sadrži linkove ka seksualno eksplicitnim slikama dece, olakšavajući nekim AI alatima stvaranje fotorealističnih dubokih lažnih prikaza dece. Taj izveštaj iz decembra naveo je LAION, što predstavlja neprofitnu mrežu za veštačku inteligenciju otvorenog tipa, da odmah ukloni svoj skup podataka.

Osmeseci kasnije, LAION je objavio na blogu da je sarađivao sa Stanfordovom univerzitetskom grupom za nadgledanje i organizacijama protiv zloupotrebe u Kanadi i Velikoj Britaniji kako bi rešio problem i objavio očišćen skup podataka za buduća istraživanja AI. Istraživač Stanforda, David Thiel, autor decembarskog izveštaja, pohvalio je LAION za značajna poboljšanja, ali je rekao da je sledeći korak povlačenje iz distribucije 'kontaminiranih modela' koji još uvek mogu proizvesti slike zlostavljanja dece.

Jedan od alata baziranih na LAION-u, koji je Stanford identifikovao kao 'najpopularniji model za generisanje eksplicitnih slika'—starija i slabije filtrirana verzija Stable Diffusion—ostala je lako dostupna sve do četvrtka, kada je kompanija Runway ML sa sedištem u Njujorku uklonila je iz repozitorijuma modela AI Hugging Face. Runway je u petak izjavio da je u pitanju bilo 'planirano ukidanje istraživačkih modela i koda koji nisu aktivno održavani'.

Očišćena verzija LAION skupa podataka dolazi dok vlade širom sveta detaljnije ispituju kako se neki tehnički alati koriste za pravljenje ili distribuciju ilegalnih slika dece. Tužilac grada San Franciska je ranije ovog meseca podneo tužbu s ciljem da zatvori grupu veb sajtova koji omogućavaju kreiranje AI-generisanih golih slika žena i devojčica. Optužba o distribuciji slika seksualnog zlostavljanja dece na aplikaciji za poruke Telegram je deo onoga što je francuskim vlastima ove srede omogućilo da podignu optužnicu protiv osnivača i izvršnog direktora platforme, Pavla Durova.