Anthropic destaca riesgos de la IA de frontera en su salida a bolsa

Las empresas están legalmente obligadas a divulgar los riesgos potenciales a los inversores al lanzar una OPV en Wall Street. Anthropic, un gigante de la inteligencia artificial, ha incluido la posibilidad de que sus productos amenacen la existencia misma de la humanidad.

En su informe a la SEC, la empresa de San Francisco detalló el posible uso de la IA por actores malintencionados. También advirtió sobre escenarios donde la tecnología podría volverse incontrolable, con secuelas catastróficas imprevistas.

De las 335 páginas del documento, 93 se dedicaron a "factores de riesgo", una proporción notablemente superior a sus rivales. Anthropic, sin embargo, enmarca su oferta pública inicial como un avance crucial para mitigar los peligros inherentes a la IA.

La compañía reconoce que sus modelos podrían evolucionar tan rápido que la implementación de salvaguardias adecuadas se vería comprometida. Temen que sistemas de IA cada vez más autónomos realicen acciones perjudiciales a gran escala sin supervisión humana eficaz.

Entre los desafíos operativos, se mencionan la oposición a centros de datos y la escasez de recursos informáticos esenciales. Adicionalmente, su considerable dependencia de un grupo selecto de clientes importantes expone a la empresa a vulnerabilidades financieras sustanciales.