Yapay Zeka Araştırma Topluluğu, Çocuk İstismarı Görüntülerine Karşı Harekete Geçiyor.

Yapay zeka araştırmacıları, popüler AI görüntü üretici araçlarını eğitmek için kullanılan bir veri setinden şüpheli çocuk cinsel istismar görüntülerine ait 2.000'den fazla web bağlantısını sildiklerini açıkladı. LAION araştırma veri seti, çevrimiçi görüntüler ve altyazılarla dolu büyük bir indeks olup, Stable Diffusion ve Midjourney gibi önde gelen AI görüntü üreticilerine kaynak teşkil etmiştir.

Stanford Internet Gözlemevi'nin geçen yıl yayınladığı bir rapor, veri setinde çocukların cinsel olarak açık görüntüleri içeren bağlantılar bulunduğunu ve bazı AI araçlarının çocukları gösteren fotogerçekçi deepfake'ler üretmesinin kolaylaştırıldığını ortaya çıkardı. Bu rapor üzerine, büyük ölçekli Yapay Zeka Açık Ağ anlamına gelen LAION, veri setini hemen kaldırdı.

LAION, sekiz ay sonra, sorunu çözmek ve gelecekteki AI araştırmaları için temizlenmiş bir veri seti yayınlamak üzere Stanford Üniversitesi ile iş birliği yaptığını ve Kanada ve Birleşik Krallık'taki karşıt-istismar kuruluşlarıyla çalıştığını belirten bir blog yazısı yayınladı. Stanford araştırmacısı David Thiel, LAION'un önemli iyileştirmeler yaptığını belirtti ancak çocuk istismar görüntüleri üretmeye devam edebilen 'bulaşmış modellerin' dağıtımından çekilmesinin bir sonraki adım olduğunu söyledi.

Stanford tarafından 'açık görüntüler üretmek için en popüler model' olarak tanımlanan eski ve hafif filtrelenmiş bir Stable Diffusion versiyonu, geçen Perşembe gününe kadar kolayca erişilebilir durumdaydı, AI model deposu Hugging Face'ten New York merkezli Runway ML şirketi tarafından kaldırıldı. Runway, araştırma modellerinin ve aktif olarak sürdürülmeyen kodların 'planlanan devreden çıkarma' işlemi olduğunu belirtti.

LAION'un temizlenmiş veri seti versiyonu, dünya genelinde hükümetlerin bazı teknoloji araçlarının çocukların yasadışı görüntülerini yapmak veya dağıtmak için kullanılması üzerine daha yakından inceleme yapmaya başladığı bir zamana denk geldi. San Francisco'nun şehir avukatı, bu ayın başlarında kadın ve kızların AI üretimi çıplak fotoğraflarını sağlayan bir grup web sitesini kapatmayı amaçlayan bir dava açtı.