مجتمع بحوث الذكاء الاصطناعي يتخذ إجراءات ضد صور استغلال الأطفال.

باحثون في الذكاء الاصطناعي أعلنوا يوم الجمعة أنهم قاموا بحذف أكثر من 2000 رابط إلكتروني لصور يُشتبه في أنها تعرض سوء استخدام جنسي للأطفال، من مجموعة بيانات تُستخدم لتدريب أدوات توليد الصور الشهيرة بالذكاء الاصطناعي. مجموعة بيانات LAION، التي تُعد فهرساً كبيراً للصور والتعليقات عبر الإنترنت، كانت مصدراً رئيسياً لأدوات توليد الصور بالذكاء الاصطناعي مثل Stable Diffusion و Midjourney.

كشف تقرير العام الماضي من مرصد الإنترنت بجامعة ستانفورد أن المجموعة تحتوي على روابط لصور جنسية صريحة للأطفال، مما ساهم في سهولة إنتاج الذكاء الاصطناعي لصور فوتوغرافية واقعية تصور الأطفال. أدى هذا التقرير إلى قيام LAION، الشبكة المفتوحة الكبرى للذكاء الاصطناعي، بإزالة مجموعة البيانات الخاصة بها على الفور.

بعد ثمانية أشهر، أعلنت LAION في تدوينه أنها تعاونت مع مجموعة الرقابة بجامعة ستانفورد ومنظمات مكافحة الإساءة في كندا والمملكة المتحدة لحل المشكلة وإصدار مجموعة بيانات نظيفة للأبحاث المستقبلية في مجال الذكاء الاصطناعي. أشاد ديفيد ثييل الباحث بجامعة ستانفورد، المؤلف لتقرير ديسمبر، بتحسينات LAION الكبيرة، لكنه ذكر أن الخطوة التالية يجب أن تكون سحب النماذج القديمة من التوزيع التي لا تزال قادرة على إنتاج صور سوء استخدام الأطفال.

أحد الأدوات المبنية على LAION والتي حُددت من قِبل ستانفورد كالنموذج \"الأكثر شيوعاً لتوليد الصور الاستفزازية\" — نسخة أقدم وأقل فلترة من Stable Diffusion — ظلت متاحة بسهولة حتى يوم الخميس، عندما قامت الشركة الأمريكية Runway ML بإزالتها من مستودع النموذج AI model الذي يحمل اسم Hugging Face. أعلنت Runway في بيان يوم الجمعة أن هذا كان \"إيقافًا مخططاً لنماذج الأبحاث والأكواد التي لم يتم استخدامها بفعالية\".

نسخة LAION المنظفة أتت في الوقت الذي تلقي فيه الحكومات حول العالم نظرة فاحصة على كيفية استخدام بعض الأدوات التقنية لصنع أو توزيع صور غير قانونية للأطفال. وفي وقت سابق من هذا الشهر، رفع محامي مدينة سان فرانسيسكو دعوى قضائية تطالب بإغلاق مجموعة من المواقع التي تمكن من إنشاء صور عارية بالذكاء الاصطناعي للنساء والفتيات.