AI研究社区对儿童剥削图片采取行动.

人工智能研究员周五表示，他们已从用于训练流行的AI图像生成工具的数据集中删除了超过2000个疑似儿童性虐待图像的网站链接。 LAION研究数据集是一个庞大的在线图像和标题索引，一直是Stable Diffusion和Midjourney等领先AI图像生成器的来源。

斯坦福互联网观察站去年的一份报告发现，该数据集包含儿童色情图片链接，这些链接使一些AI工具能够轻松制作出描绘儿童的逼真深度伪造图像。 这份去年12月的报告促使代表非营利性大规模人工智能开放网络的LAION立即移除其数据集。

LAION在八个月后表示，它与斯坦福大学的监督团体以及加拿大和英国的反虐待组织合作，解决了这个问题，并发布了一个清理后的数据集，供未来AI研究使用。 斯坦福的研究员David Thiel，12月报告的作者，赞扬LAION取得了显著的改进，但表示下一步是从发行中撤回仍能生成儿童虐待图像的“污染模型”。

直到周四，斯坦福发现从LAION数据集衍生的最受欢迎的生成色情图像的模型之一——一个旧版本且筛选不严的Stable Diffusion模型仍然很容易获得，纽约Runway ML公司在周五声明中提到，这是一个“计划中的研究模型和代码的弃用”，并已经从AI模型仓库Hugging Face移除。 清理后的LAION数据集的发布，正值全球各地政府更加关注一些科技工具如何被用来制作或分发非法儿童图像之际。

旧金山市检察官本月早些时候提起诉讼，寻求关闭一批网站，这些网站支持创建女性和女孩的AI生成裸照。 关于Telegram消息应用程序上涉嫌分发儿童性虐待图像，这是导致法国当局于星期三对该平台创始人兼CEO帕维尔·杜罗夫提起指控的部分原因。