AI 연구 커뮤니티, 아동 착취 이미지에 대응하다.

인공 지능 연구원들은 인기 있는 AI 이미지 생성 도구를 훈련시키는 데 사용되는 데이터 세트에서 의심스러운 아동 성착취 이미지에 대한 2,000개 이상의 웹 링크를 삭제했다고 금요일에 발표했습니다. LAION 연구 데이터 세트는 온라인 이미지와 캡션의 거대한 인덱스로, Stable Diffusion과 Midjourney와 같은 선도적인 AI 이미지 메이커에게 자료를 제공해왔습니다.

스탠포드 인터넷 관측소의 작년 보고서에서는 아동의 성적인 이미지를 포함하고 있다는 것이 발견되었으며, 이는 어떤 AI 도구들이 아동을 묘사하는 사실적인 딥페이크를 쉽게 만들 수 있도록 기여했습니다. 이 보고서가 발표된 후, LAION은 즉시 자신들의 데이터 세트를 제거했습니다.

8개월 후, LAION은 스탠포드 대학 감시 그룹 및 캐나다와 영국의 반학대 기관과 함께 협력하여 문제를 해결하고 미래 AI 연구를 위한 깨끗한 데이터 세트를 출시했다고 블로그 글에서 밝혔습니다. 스탠포드의 연구원인 David Thiel은 LAION의 큰 개선을 칭찬했지만, 아동 학대 이미지 제작이 가능한 여전히 유통 중인 '오염된 모델들'을 철회하는 것이 다음 단계라고 말했습니다.

LAION 데이터 세트의 정화된 버전이 세계 각국의 정부가 아동의 불법 이미지를 만들거나 배포하는 데 사용되는 일부 기술 도구를 면밀히 조사하면서 나옵니다. 이 달 초, 샌프란시스코 시 검사장은 여성과 소녀들의 AI 생성 누드를 만드는 웹사이트 그룹을 폐쇄하려는 소송을 제기했습니다.

텔레그램 메시징 앱에서 아동 성착취 이미지를 유통한 혐의가 프랑스 당국으로 하여금 플랫폼의 창립자 겸 CEO인 파벨 두로프에 대한 기소를 수요일에 진행하도록 이끌었습니다. 두로프의 체포는 '이러한 플랫폼의 창립자들이 개인적으로 책임을 질 수 있다는 것을 보여주는 전체 기술 산업에서 정말 큰 변화를 나타낸다'고 캘리포니아 대학교 버클리의 연구원인 David Evan Harris가 말했습니다.