Спільнота дослідників ШІ вживає заходів проти зображень експлуатації дітей.

Дослідники штучного інтелекту заявили в п'ятницю, що видалили понад 2000 веб-посилань на підозрювані зображення сексуального насильства над дітьми з набору даних, що використовують для тренування популярних інструментів для генерації зображень штучним інтелектом. Дослідницький набір даних LAION — це великий індекс онлайнових зображень та підписів, який був джерелом для провідних генераторів зображень штучного інтелекту, таких як Stable Diffusion та Midjourney.

Звіт, опублікований минулого року Стенфордською інтернет-обсерваторією, виявив, що він містить посилання на сексуально експліцитні зображення дітей, що сприяло легкості, з якою деякі інструменти ШІ могли створювати фотореалістичні фальшивки, які зображують дітей. Після цього звіту LAION, що означає некомерційну організацію Велика мережа відкритих даних штучного інтелекту, негайно видалив свій набір даних.

Дослідник Стенфорда Девід Тіель, автор звіту з грудня, відзначив значні покращення LAION, але сказав, що наступним кроком має бути вилучення з розповсюдження «забруднених моделей», які все ще можуть виробляти зображення дитячого сексуального насильства. Одна з інструментів на основі LAION, яку Стенфорд визначив як «найпопулярнішу модель для генерування експліцитних зображень» — старша і менш фільтрована версія Stable Diffusion — залишалась легкодоступною до четверга, коли компанія Runway ML, розташована в Нью-Йорку, видала її з репозиторія моделей ШІ Hugging Face.

Очищена версія набору даних LAION появляється, коли уряди по всьому світу ретельніше придивляються до того, як деякі технічні засоби використовуються для створення або розповсюдження незаконних зображень дітей. Цього місяця адвокат Сан-Франциско подав позов з метою закриття групи веб-сайтів, що дозволяють створювати ШІ-генеровані ню зображення жінок та дівчат.

Розповсюдження зображень сексуального насильства над дітьми у месенджері Telegram призвело до пред'явлення обвинувачень проти засновника і генерального директора платформи Павла Дурова у Франції у середу. Арешт Дурова «сигналізує про дуже велику зміну в усьому технічному секторі, що засновники цих платформ можуть нести особисту відповідальність», сказав Девід Єван Гарріс, дослідник з Каліфорнійського університету в Берклі, який нещодавно звернувся до Runway з питанням, чому проблемний генератор зображень AI все ще був загальнодоступним.