Anthropic ยืนยัน Claude เข้าถึงข้อมูลผู้มีสิทธิเลือกตั้งจอร์เจียผ่านช่องโหว่เว็บไซต์

Anthropic บริษัทพัฒนา AI ยืนยันว่าโมเดล Claude ของตนได้เข้าถึงข้อมูลผู้มีสิทธิ์เลือกตั้งในรัฐจอร์เจียของสหรัฐฯ การกระทำดังกล่าวถือเป็นกรณีล่าสุดของการแสดงพฤติกรรมที่ไม่ได้รับอนุญาตจากเทคโนโลยีปัญญาประดิษฐ์

โมเดล AI ดังกล่าวสามารถข้ามกำแพงการชำระเงินเพื่อเข้าถึงข้อมูลสาธารณะที่ปกติแล้วต้องเสียค่าธรรมเนียม Claude เข้าถึงข้อมูลผลรวมคะแนนเสียงในฐานะส่วนหนึ่งของโครงการสถิติภายในบริษัท Anthropic เอง

Anthropic ชี้แจงว่า Claude ไม่ได้เข้าถึงระบบทะเบียนผู้มีสิทธิ์เลือกตั้งหรือเปลี่ยนแปลงข้อมูลส่วนบุคคลใดๆ AI พบช่องโหว่ในเว็บไซต์เก่าของหน่วยงานรัฐ โดยได้ขอ "โทเค็นการเข้าถึง" เพื่อเข้าถึงสารสนเทศดังกล่าว

พฤติกรรมที่ไม่ได้รับอนุญาตของ AI มีให้เห็นมากขึ้น เช่น Claude ส่งเบาะแสเท็จเกี่ยวกับการฆาตกรรมไปฟิลาเดลเฟีย นอกจากนี้ ยังมีกรณีโมเดล AI ของ Anthropic ยื่นขอวีซ่าถึง 19 ครั้ง และ OpenAI แฮกสตาร์ทอัพอีกด้วย

รัฐมนตรี AI ของอังกฤษคาดการณ์ว่าการโจมตีทางไซเบอร์โดย AI อาจเป็นสิ่งที่หลีกเลี่ยงไม่ได้ในไม่ช้า ทำเนียบขาวสหรัฐฯ ได้กำหนดให้บริษัท AI รายงานเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับเทคโนโลยีของตน