La propuesta de salida a bolsa de Anthropic abraza la promesa y el peligro de la IA

SAN FRANCISCO/NUEVA YORK - Anthropic está planeando lo que podría ser la oferta pública inicial más grande de la historia.

Pero si la IA continúa en su trayectoria actual, es posible que los humanos no estén por aquí mucho más tiempo para disfrutarla.

Eso y otras paradojas atraviesan el prospecto de oferta pública inicial de unas 300 páginas del líder de IA de San Francisco, visto esta semana por Reuters.

Para llevar a cabo una oferta exitosa que la valore en US$2 billones, Anthropic, cuyo nombre significa “centrado en el ser humano”, necesitará muchos inversores mortales para ayudar a construir un mundo en el que la humanidad pronto pasará a un segundo plano frente a sistemas de inteligencia artificial mucho más capaces.

Casi un tercio del documento está dedicado a una variedad de factores de riesgo, más del doble del número de páginas utilizado para describir lo que Anthropic hace realmente.

La presentación está repleta del tipo de predicciones audaces y ambición que se han convertido en una característica distintiva de los soñadores de Silicon Valley.

Sin embargo, repetidamente, la empresa expone de distintas maneras cómo el camino hacia el éxito pasa por sus peligros.

Anthropic dice que la IA plantea grandes amenazas que solo la IA puede enfrentar.

La empresa sostiene que la IA podría transformar la economía — y también acabar con la humanidad.

Está ofreciendo parte de la empresa al público mientras aboga por una propiedad y supervisión más concentradas de la misma empresa.

Para hacer la IA más segura, necesita más poder. Y pide a todos que confíen en la dirección de Anthropic, mientras sigue advirtiendo del desastre que podrían causar los productos que creó.

Paradoja de la seguridad a través del poder

La visión de Anthropic se basa en una paradoja central: para hacer la IA más segura, Anthropic dice que debe hacerla más poderosa, pero una IA más poderosa tiene más probabilidades de actuar de formas inesperadas, o incluso peligrosas.

“La IA se aparta de la tecnología anterior porque las empresas que la construyen dicen que cambiará el mundo y, al mismo tiempo, dicen que es peligrosa”, dijo Margaret O’Mara, profesora de historia de la Universidad de Washington centrada en la economía tecnológica.

“Es un poco una caja negra, mientras que las empresas que salían a bolsa en el boom de las puntocom podían prometer un crecimiento grande y seguro.”

La IA de Anthropic puede “mejorar drásticamente la calidad de vida” y “transformar cada sector de la economía global”, según la presentación S-1.

Por no mencionar una “influencia potencialmente decisiva sobre una amplia gama de actividades humanas”.

Pero los sistemas avanzados de IA podrían, si no se aplican adecuadamente, “plantear riesgos catastróficos o existenciales para la humanidad” mientras consumen enormes sumas de dinero al hacerlo, muestra la presentación.

Solo en los dos años que terminan en 2025, la empresa perdió más de US$50 mil millones, pero tiene más de US$500 mil millones en compromisos de gasto en los próximos años.

En comparación, SpaceX, que en junio tuvo la mayor IPO de la historia, registró una pérdida relativamente modesta de US$4.2 mil millones en el mismo periodo.

En el horizonte está lo que Anthropic llama “IA poderosa”, que según dice “puede superar a los principales expertos humanos en casi todos los dominios cognitivos”.

Colaborará con otros sistemas de IA; controlará equipos de laboratorio, robots y otras máquinas; y funcionará durante semanas seguidas con poca o ninguna intervención humana, según la presentación.

Otros logros incluyen asesoramiento financiero personalizado y un descubrimiento de fármacos y progreso científico acelerados.

Sin embargo, a pesar de los beneficios potenciales de la IA, la tecnología en ocasiones choca con sus creadores y acaba infiltrándose en los sistemas de otras empresas, ha dicho Anthropic.

Advierte que los modelos avanzados podrían exhibir «comportamientos de autopreservación», incluidos intentos de «resistir el apagado», «ocultar o manipular información» o generar resultados que podrían interpretarse como «coercitivos, engañosos o manipuladores».

La IA debe volverse muchísimo más capaz, dijo Anthropic en la presentación, pero una mayor capacidad crea la posibilidad de abuso, desalineación con los ideales de la humanidad o pérdida de control.

«Los sistemas desalineados podrían corromper la toma de decisiones institucional, causar daños a gran escala mediante un comportamiento opaco o incontrolable, y erosionar la confianza que hace funcionar los complejos sistemas económicos y sociales».

El inversor de Anthropic Byron Deeter, de Bessemer Venture Partners, trató el 29 de septiembre de restar importancia a las advertencias de la presentación confidencial, diciendo en una entrevista con CNBC que «la gente solo está reaccionando a un borrador», antes de elogiar a la empresa por su «conjunto único de divulgaciones».

«Estás viendo que la gente se adelanta a ello mucho antes de lo que históricamente habrías visto», dijo.

Anthropic no respondió a una solicitud de comentarios.

Riesgos de concentración del liderazgo

Entre las otras paradojas expuestas en la presentación de salida a bolsa de Anthropic está su enfoque sobre el liderazgo.

Para reducir los riesgos de la IA, Anthropic dice que necesita concentrar el control y el capital en cada vez menos manos, aun cuando la empresa advierte que tal concentración de poder es una amenaza.

Pide a los inversores que confíen a sus siete fundadores la supervisión del negocio, incluso si ese mismo control limita la supervisión de los inversores y la influencia de los accionistas públicos.

Dice que los fundadores están «claramente capacitados para ser guardianes de nuestra misión», pero la estructura de gobierno podría dar lugar a decisiones «que pueden entrar en conflicto con intereses y rendimiento empresarial a corto, medio o largo plazo».

Al comparecer ante las Naciones Unidas la semana pasada, el CEO de Anthropic, Dario Amodei, reconoció los desafíos de que unos pocos supervisen la IA.

“Debemos dejar de lado esas diferencias para afrontar esta oportunidad global y esta amenaza global que se nos presenta al mismo tiempo”, dijo.

“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto por sí sola.”

Con amigos así

Anthropic debe gran parte de su crecimiento a Amazon, Google de Alphabet, Broadcom y Microsoft, dependiendo de las ventas a través de grandes socios tecnológicos que totalizaron el 47% de sus ingresos de 2025, así como de su dependencia de ellos como proveedores de potencia computacional.

En la misma presentación, la empresa también dijo que esas mismas compañías podrían socavarla al restringirla o competir directamente con ella.

Con esos proveedores, Anthropic se compromete a pagar incluso si se abandona un contrato de arrendamiento o no se utilizan los servicios informáticos.

Además advierte que “si la capacidad de cómputo a la que tenemos acceso de terceros se reduce, se vuelve a fijar el precio o se termina”, su negocio podría verse perjudicado.

Y, por último, al ser una oferta pública inicial un evento de recaudación de fondos, Anthropic señala que la IA tiene el poder de ampliar la prosperidad, incluso elevando al mundo en desarrollo a los estándares de las naciones más ricas.

Pero, según dijo Anthropic en el prospecto, la concentración de poder conlleva riesgos igualmente grandes.

“La IA desplegada a gran escala también tiene el potencial de concentrar el poder y la riqueza de maneras que podrían dañar a la sociedad y desestabilizar el orden geopolítico.”

Ahora, enfriados por las advertencias de investigadores de IA, políticos de ambos partidos se están alineando para frenar el progreso de la IA, mientras que el presidente de Estados Unidos, Donald Trump, ha desestimado los posibles daños, calificándolos de “engaño”.

Junto con sus homólogos de DeepMind de Google, OpenAI y xAI, Amodei pidió en septiembre una desaceleración en el desarrollo de la IA para centrarse en la seguridad: nada que ver con el antiguo lema tecnológico de “crecer rápido”.

Diez días después, Anthropic lanzó lo que calificó como su mejor y más potente modelo hasta la fecha. REUTERS