Anthropic alerta dels riscos de la IA frontera

Les empreses que inicien la venda d'accions a Wall Street estan obligades a revelar els riscos potencials als inversors. Anthropic, el gegant d'intel·ligència artificial, ha inclòs la possibilitat que els seus productes puguin amenaçar la mateixa humanitat.

Els documents presentats a la SEC detallen un ús malintencionat de l'IA per fabricar armes letals o la seva autonomia descontrolada. Aquesta secció de "factors de risc" ocupa 93 de les 335 pàgines del seu expedient, una proporció notablement elevada.

Anthropic presenta la seva oferta pública inicial com una via per mitigar els perills inherents que l'IA planteja. Els fundadors afirmen que l'organització és profundament impulsada per valors, buscant concretar els beneficis i evitar els seus danys.

Les possibles responsabilitats s'estenen des de la retenció de personal clau fins a ciberatacs i la propagació de desinformació. Preocupa que els sistemes d'IA puguin desenvolupar-se sense mesures de seguretat adequades, prenent accions perjudicials de manera autònoma.

La companyia s'enfronta a desafiaments en assegurar la potència de càlcul i la possible oposició comunitària als centres de dades. A més, depèn en gran mesura d'un nombre reduït de clients, exposant-la a riscos significatius per la seva facturació.