앤트로픽 IPO, 최첨단 AI 위험 부각

회사들은 주식을 팔 때 투자자들에게 위험을 알려야 합니다. 인공지능 회사 Anthropic은 제품이 인류를 위협할 수도 있다고 말했습니다.

Anthropic은 인공지능이 스스로 나쁜 일을 하거나 무기가 될 수 있다고 했습니다. 회사 서류에는 이런 위험 요인에 대한 내용이 93쪽이나 있습니다.

Anthropic은 주식 상장을 인공지능 위험을 줄이는 방법으로 생각합니다. 회사는 인공지능의 좋은 점을 살리고 위험은 피해야 한다고 밝혔습니다.

인공지능은 너무 빨리 발전하여 안전 조치를 못 할 수도 있습니다. 나쁜 사람들은 인공지능으로 무기나 사이버 공격을 만들 수 있습니다.

회사는 충분한 컴퓨터 계산 능력을 얻지 못할 수도 있습니다. 소수의 큰 고객에게 너무 많이 의존하는 것도 위험이 됩니다.