קהילת מחקר הבינה המלאכותית נוקטת בפעולות נגד תמונות של התעללות בילדים.

מדעני המלאכות השכליים אמרו ביום שישי שהם הסירו יותר מ-2000 קישורי אינטרנט לתמונות חשודות של התעללות מינית בילדים מקבצי נתונים ששימשו לאימון כלי יצירת תמונות AI פופולריים. המערך המחקרי LAION הוא אינדקס עצום של תמונות וכיתובים מהאינטרנט ששימש כמקור לכלי המובילים בתחום יצירת תמונות AI כגון Stable Diffusion ו-Midjourney.

דוח של האוניברסיטה של סטנפורד גילה שהמערך מכיל קישורים לתמונות מיניות של ילדים, דבר שתרם ליכולת יצירת deepfakes פוטוריאליסטיות של ילדים. לאחר הדוח, ארגון LAION, שמייצג רשת פתוחה למלאכות השכל על קנה מידה גדול, הסיר מיידית את מערכי הנתונים שלו.

חודשים אחרי, LAION הודיעה בפוסט בבלוג שעבדה עם קבוצת פיקוח של אוניברסיטת סטנפורד וארגונים נגד התעללות בקנדה ובבריטניה כדי לפתור את הבעיה ולשחרר מערך נקי למחקר AI עתידי. החוקר מסטנפורד, דיוויד ת'יל, שכתב את הדוח, השבח את LAION על השיפורים המשמעותיים אך אמר שהשלב הבא הוא לבטל את הפצת הדגמים ה'מזוהמים' שעדיין יכולים לייצר תמונות של התעללות בילדים.

עד יום חמישי דגם של LAION שזוהה כ'הדגם הפופולרי ביותר ליצירת תמונות מ explicit' היה זמין לגישה קלה, עד שהחברה מניו יורק Runway ML הסירה אותו ממאגר הדגמים של Hugging Face. Runway הצהירה שמדובר ב'הפסקה מתוכננת של דגמי מחקר וקוד שלא נתמכים באופן פעיל'.

הגרסה הנקייה של מערך הנתונים LAION מגיעה בזמן שממשלות ברחבי העולם מביטות בקרוב יותר באופן שבו כלים טכנולוגיים משמשים ליצירה או הפצה של תמונות ילדים בלתי חוקיות. החוקר דיוויד אוון האריס ציין שמעצרו של פאבל דורוב מצביע על שינוי גדול בתעשיית הטכנולוגיה, שבו יזמי הפלטפורמות אלו יכולים להישאר אחראים אישית.