แอนโทรปิกยื่น IPO ชี้ความเสี่ยง AI แนวหน้า

บริษัทที่ต้องการระดมทุนในตลาดหุ้นมักต้องเปิดเผยความเสี่ยงแก่นักลงทุนเสมอ. สำหรับ Anthropic ยักษ์ใหญ่ AI ความเสี่ยงดังกล่าวครอบคลุมถึงภัยคุกคามต่อมนุษยชาติจากผลิตภัณฑ์ของตนเอง.

เอกสารที่ยื่นต่อคณะกรรมการ ก.ล.ต. ระบุถึงผู้ไม่ประสงค์ดีอาจใช้โมเดล AI สร้างอาวุธร้ายแรง. หรือเทคโนโลยีดังกล่าวอาจควบคุมตนเองไม่ได้ นำไปสู่ผลลัพธ์ที่ไม่อาจคาดการณ์ได้.

จากเอกสารรวม 335 หน้า มีถึง 93 หน้าที่กล่าวถึง “ปัจจัยความเสี่ยง” ต่อนักลงทุนที่อาจได้รับผลกระทบ. ซึ่งแตกต่างจาก SpaceX ที่ระบุความเสี่ยงเพียง 38 หน้าจากเอกสารกว่า 250 หน้าอย่างเห็นได้ชัด.

Anthropic นำเสนอการเสนอขายหุ้น IPO ของตนเป็นหนทางบรรเทาความเสี่ยงจาก AI ที่เชื่อว่ามีอยู่จริง. โดยเชื่อว่าการสร้าง AI คือการควบคุมกระบวนการคิด ซึ่งอาจถูกใช้เพื่อร้ายหรือดีได้เช่นกัน.

บริษัทยังวิตกว่าโมเดล AI อาจพัฒนาเร็วเกินกว่าจะใช้มาตรการความปลอดภัยที่เพียงพอ. และอาจดำเนินการที่เป็นอันตรายได้เองโดยไม่ได้รับการกำกับดูแลจากมนุษย์ ทั้งยังเผชิญความท้าทายด้านทรัพยากรประมวลผล.