Anthropic benadrukt risico’s van frontier-AI bij beursgang

Bedrijven die op Wall Street willen noteren, moeten potentiële risico's openbaar maken aan investeerders. AI-gigant Anthropic heeft hierbij de mogelijkheid opgenomen dat haar producten een bedreiging vormen voor de mensheid zelf.

Het bedrijf uit San Francisco benoemde in zijn aanvraag met de toezichthouder kwaadwillende partijen. Zij zouden AI-modellen kunnen misbruiken voor dodelijke wapens of autonoom handelen met onvoorziene gevolgen.

Van de 335 pagina's over Anthropic's financiën, waren 93 gewijd aan "risicofactoren". Dit omvat zaken die de investeringen van potentiële aandeelhouders aanzienlijk kunnen schaden.

Anthropic positioneert haar beursgang als een stap naar het mitigeren van de risico's die AI met zich meebrengt. De oprichters benadrukken dat het benutten van cognitie zowel heilzaam als verderfelijk kan zijn.

Operationele risico's variëren van het behoud van personeel tot het navigeren door complexe regelgeving. Ook schaarste aan rekenkracht en afhankelijkheid van enkele grote klanten vormen een bedrijfsrisico.