Anthropic上場申請、最先端AIのリスク浮き彫り

企業は株式公開に際し、投資家への潜在的リスク開示を義務付けられている。 AI大手アンソロピックは、人類そのものへの脅威すら可能性として言及した。

悪意ある行為者がAIで致死兵器を製造する恐れや、技術暴走による未知の結果が示された。 同社は335ページの申請書中93ページをリスク要因に割き、競合他社を大幅に上回る。

アンソロピックは、AIの潜在的脅威を軽減する手段として、今回のIPOを位置付けている。 創業者書簡は、強力なAIが悪用されうるため、安全確保と価値観駆動型組織の重要性を強調した。

主要人材の確保難や規制対応に加え、サイバー攻撃や誤情報の拡散もリスクに含まれる。 CEOは、AIが数ヶ月以内にインターネットを支配する可能性を警告し、自律性への懸念が高まる。

高度な計算資源「コンピュート」の確保難やデータセンターへの反対も事業を脅かす。 あるフロンティアAIの事故は、業界全体の評判を損ね、大規模な規制介入を招く恐れがある。