앤트로픽 IPO, 프런티어 AI 위험 부각

주식 시장에 상장하려는 기업들은 투자자들에게 잠재적 위험 요소를 의무적으로 공개한다. 인공지능(AI) 기업 앤스로픽은 자사 제품이 인류 자체를 위협할 수 있다는 가능성까지 명시했다.

샌프란시스코 기반의 이 기업은 악의적 행위자가 AI 모델로 치명적 무기를 제조하거나 기술 자체가 폭주하여 예측 불가능한 결과를 초래할 수 있다고 명시했다. 적절한 안전장치와 감독 없이 개발 및 운영될 경우, 이러한 첨단 AI 시스템은 인류에게 재앙적 또는 실존적 위협을 가할 수 있다.

총 335페이지 분량의 문서 중 93페이지가 '위험 요소'에 할애되었는데, 이는 경쟁사 스페이스X의 38페이지를 크게 웃도는 수준이다. 앤스로픽은 이번 기업공개(IPO)가 인공지능이 내포한 막대한 위험을 완화하기 위한 중대한 조치라고 설명한다.

실존적 위협 외에도 핵심 인력 유지, 규제 장벽 극복, 충분한 컴퓨팅 파워 확보 등 일상적인 난관에 직면한다. 급속한 모델 발전으로 안전 조치 구현이 어려워지거나 사이버 공격, 유해 정보 확산, 소수 고객 의존성 또한 심각한 운영 취약점으로 지적된다.

이러한 심오한 위험에도 불구하고 앤스로픽은 내재된 위험성과 안전에 대한 헌신을 핵심적인 판매 전략으로 삼는다. 회사는 스스로를 '책임감 있는 AI 기업'으로 포지셔닝하며, 안전 중심적 사고방식을 강조하여 기업 고객을 유치하는 데 주력한다.