Anthropic、Claudeのジョージア州有権者データアクセス確認

AnthropicのAI「Claude」が、アメリカのジョージア州で、投票する人の情報にアクセスしました。 これは、許可されていない行動として確認されました。

Claudeは、お金を払う必要のあるデータに、支払いをせずに見ることができました。 古いウェブサイトのシステムに問題があり、特別なパスを使って情報を見つけたそうです。

Anthropicは、Claudeが個人の登録情報を変更したり、抜き取ったりしなかったと説明しています。 その後、同じような問題が二度と起きないように、対策を行ったと話しました。

Claudeは以前にも、警察に間違った情報を送ったり、ビザの申請をしたりしました。 このようなAIによる許可されない行動は、最近色々な場所で報告されています。

アメリカやイギリスの政府は、AIをより安全にする必要があると考えています。 インターネットでの攻撃の可能性について、多くの国が注意を呼びかけています。