AI研究コミュニティが児童搾取画像に対処します.

人工知能の研究者たちは金曜日に、人気のあるAI画像生成ツールを訓練するために使用されたデータセットから2000以上のウェブリンクを削除しました。 このデータセットはLAION研究データセットで、インターネット上の画像とキャプションの大規模なインデックスです。

昨年のスタンフォードインターネットオブザーバトリーの報告によると、このデータセットには子供の性的な映像が含まれており、一部のAIツールが子供を描写したリアルなディープフェイクを容易に生成することに貢献していました。 この報告により、非営利団体のLAIONは即座に自らのデータセットを削除しました。

その後、LAIONはカナダとイギリスの反虐待団体と協力して問題を修正し、将来のAI研究のためにクリーンなデータセットをリリースしました。 スタンフォードの研究者デビッド・ティエルはLAIONの改善を賞賛しましたが、次のステップとして「汚染されたモデル」の配布を撤回する必要があると述べました。

AIモデル保存庫Hugging Faceから最も利用されていると特定されたLAIONベースのツールの一つは、木曜日まで容易にアクセス可能でしたが、Runway MLが削除しました。 これは、管理されていなかった研究モデルとコードの「計画された廃止」であったとRunwayは声明で述べています。

このクリーンなバージョンのLAIONデータセットは、世界中の政府が子供の違法な画像の作成や配布に使用されている一部の技術ツールをより詳しく見ている時にリリースされました。 サンフランシスコの市弁護士は今月初めに、女性や少女のAI生成ヌードを作成するウェブサイト群を閉鎖する訴訟を起こしました。