Подача IPO Anthropic подчеркивает риски ИИ

Каждая компания, намеревающаяся разместить акции на бирже, обязана раскрывать потенциальные риски инвесторам. Однако ИИ-гигант Anthropic превзошёл всех, включив в этот список угрозу самому существованию человечества.

В своём проспекте компания из Сан-Франциско описала сценарии злоупотребления ИИ-моделями для создания смертоносного оружия. Отдельно упоминаются риски бесконтрольного развития технологий с непредсказуемыми катастрофическими последствиями.

Из 335 страниц проспекта Anthropic 93 посвящены «факторам риска», что существенно больше, чем у конкурентов. Компания позиционирует первичное размещение акций как шаг к снижению угроз, которые, по её мнению, несёт искусственный интеллект.

Anthropic опасается, что её модели могут развиваться так стремительно, что адекватные меры безопасности будут недостаточны. Это увеличивает вероятность неконтролируемых действий систем, способных причинить масштабный вред без человеческого вмешательства.

Среди прочих рисков — неспособность обеспечить достаточные вычислительные мощности и зависимость от ограниченного числа крупных клиентов. Тем не менее, Anthropic стремится позиционировать себя как ответственного разработчика ИИ, делая акцент на принципах безопасности.