جامعه تحقیقات هوش مصنوعی علیه تصاویر بهره‌کشی از کودکان اقدام می‌کند.

پژوهشگران هوش مصنوعی اعلام کردند که بیش از 2000 لینک وب مربوط به تصاویر سوء استفاده جنسی از کودکان را از مجموعه داده‌های آموزشی حذف کرده‌اند. مجموعه داده‌های LAION شامل فهرست بزرگی از تصاویر و توضیحات آنلاین است که توسط ابزارهای پیشرو سازنده تصاویر AI مانند Stable Diffusion و Midjourney استفاده شده است.

یک گزارش سال گذشته از مشاهده‌گر اینترنتی استنفورد نشان داد که این مجموعه داده‌‌ها شامل لینک‌هایی به تصاویر صریح جنسی از کودکان بوده است، که به راحتی استفاده از برخی ابزارهای AI برای تولید دیپ‌فیک‌های واقع‌گرایانه شامل کودکان را امکان‌پذیر کرده است.

پس از گزارش دسامبر، LAION سریعاً مجموعه داده خود را پاک کرد و هشت ماه بعد با همکاری گروه‌های مقابله با سوء استفاده در کانادا و بریتانیا، نسخه پاک‌شده‌ای از مجموعه داده را برای استفاده در تحقیقات آینده AI منتشر کردند. محقق استنفورد، دیوید تیل، از بهبودهای قابل توجه LAION تمجید کرد، اما گفت که مرحله بعدی عقب‌نشینی از توزیع مدل‌های آلوده‌ای است که هنوز قادر به تولید تصاویر سوء استفاده از کودکان هستند.

از سوی دیگر، کمپانی نیویورکی Runway اعلام کرد که نسخه قدیمی‌تر و کم‌فیلتر Stable Diffusion که توسط استنفورد به عنوان پرطرفدارترین مدل برای تولید تصاویر صریح شناخته شده بود، تا روز پنج‌شنبه همچنان در دسترس بوده است، اما اکنون این مدل را از مخزن مدل AI Hugging Face حذف کرده‌اند.

با توجه به نگرانی‌های جهانی در مورد استفاده از برخی ابزارهای فناوری برای تولید یا توزیع تصاویر غیرقانونی از کودکان، نسخه تمیز شده از مجموعه داده‌های LAION اهمیت بیشتری یافته است. متعاقباً، شهرداری سان فرانسیسکو این ماه دادخواستی علیه گروهی از وب‌سایت‌ها که ایجاد تصاویر برهنه AI از زنان و دختران را ممکن می‌سازند، ارائه داده است.