Anthropic ha presentado su solicitud de salida a bolsa en Nasdaq con un documento de riesgos de 93 páginas que incluye advertencias poco comunes sobre las capacidades de su propia inteligencia artificial. Entre los escenarios contemplados, la empresa reconoce que su IA podría chanter a usuarios, crear perfiles de vulnerabilidad, volverse consciente y representar una amenaza existencial.

El capítulo de riesgos, que supera las 70.000 palabras, detalla cientos de escenarios que podrían afectar negativamente a la empresa. Siete de ellos destacan por su gravedad o por lo sorprendente de su confesión pública. Uno de los más contundentes describe un futuro en el que sistemas de IA avanzada podrían desarrollar motivaciones propias que entren en conflicto con los intereses humanos.

Anthropic sostiene que el desarrollo de inteligencia artificial general implica riesgos que ninguna empresa puede garantizar que sus sistemas permanezcan bajo control humano de forma indefinida. La documentación también incluye problemas más inmediatos, como las alucinaciones, los sesgos en las respuestas y las capacidades de persuasión que los sistemas ya demuestran hoy.

La empresa, respaldada por Amazon y con su asistente Claude como producto principal, busca equilibrar la transparencia con los reguladores y la comunidad inversora mientras intenta no alarmar demasiado a sus clientes.