Anthropic souligne les risques de l’IA de pointe

Toute entreprise cherchant à s'introduire en bourse doit impérativement divulguer les risques potentiels à ses investisseurs. Le géant de l'IA Anthropic a, lui, inclus la possibilité que ses produits menacent carrément l'humanité même.

Le dossier déposé évoque des acteurs malveillants utilisant l'IA pour fabriquer des armes létales ou la technologie elle-même devenant incontrôlable. Des systèmes toujours plus autonomes pourraient prendre des décisions néfastes à grande échelle sans intervention humaine.

Sur 335 pages, 93 sont consacrées aux « facteurs de risque », un volume considérable par rapport à ses rivaux. Anthropic présente son introduction en bourse comme un moyen d'atténuer les périls que l'IA représente intrinsèquement.

Les passifs potentiels incluent aussi des défis prosaïques tels que la rétention du personnel clé ou les obstacles réglementaires. La société craint également des cyberattaques, la diffusion de désinformation et un impact réputationnel généralisé pour l'industrie.

Le potentiel immense de l'IA, combiné à ses risques colossaux, constitue le principal argument de vente d'Anthropic. L'entreprise se positionne comme un acteur responsable, promouvant activement la sûreté et l'alignement de cette technologie.