Komuniti Penyelidikan AI Bertindak Terhadap Imej Eksploitasi Kanak-Kanak.

Penyelidik kecerdasan buatan pada Jumaat mengeluarkan lebih daripada 2,000 pautan web kepada gambaran penyalahgunaan seksual kanak-kanak yang disyaki dari set data yang digunakan untuk melatih alat pembiak imej AI yang popular. Set data kajian LAION, yang merupakan indeks besar gambar dan kapsyen dalam talian, telah menjadi sumber untuk pembuat imej AI terkemuka seperti Stable Diffusion dan Midjourney.

Laporan tahun lalu oleh Stanford Internet Observatory mendapati set data mengandungi pautan kepada gambar seksual eksplisit kanak-kanak, menambah kemudahan bagi beberapa alat AI menghasilkan deepfakes fotorealistik yang menggambarkan kanak-kanak. Laporan pada Disember itu menyebabkan LAION, yang merupakan jaringan buka kecerdasan buatan berskala besar yang bukan untung, segera mengeluarkan set datanya.

LAION menyatakan dalam catatan blog lapan bulan kemudian bahawa mereka telah bekerjasama dengan kumpulan pengawas Universiti Stanford dan organisasi anti-penyalahgunaan di Kanada dan United Kingdom untuk memperbaiki masalah tersebut dan melepaskan set data yang telah dibersihkan untuk kajian AI masa depan. Penyelidik Stanford, David Thiel, pengarang laporan Disember, memuji LAION atas penambahbaikan yang signifikan tetapi berkata langkah seterusnya adalah menarik dari pengedaran “model bercemar” yang masih dapat menghasilkan gambar penyalahgunaan kanak-kanak.

Salah satu alat berasaskan LAION yang dikenalpasti oleh Stanford sebagai 'model paling popular untuk menghasilkan imej eksplisit' — versi Stable Diffusion yang lebih tua dan kurang disaring — tetap mudah diakses sehingga Khamis, apabila syarikat yang berpangkalan di New York, Runway ML, mengalihkannya daripada repositori model AI Hugging Face. Runway menyatakan pada Jumaat ia adalah 'penarikan perancangan model kajian dan kod yang tidak diselenggara secara aktif.'

Versi set data LAION yang telah dibersihkan muncul ketika kerajaan di seluruh dunia mengambil kira lebih dekat bagaimana beberapa alat teknologi digunakan untuk membuat atau mengedarkan gambar haram kanak-kanak. Penggubalan undang-undang mengenai platform seperti Telegram dan tanggungjawab peribadi pengasas platform teknologi menunjukkan perubahan besar dalam industri teknologi, kata David Evan Harris, penyelidik dari Universiti California, Berkeley.