La empresa creadora del chatbot Claude detalló en un documento de casi 100 páginas los peligros que podrían afectar su negocio ante una eventual salida a bolsa, entre ellos el uso de IA para cometer delitos, la pérdida de control sobre sistemas autónomos y las demandas judiciales.
La empresa Anthropic, creadora del chatbot Claude, presentó un documento de casi 100 páginas en el que advierte a potenciales inversores sobre los riesgos que podrían afectar su negocio en el marco de una posible salida a bolsa. Entre las amenazas mencionadas figuran el uso de la inteligencia artificial para cometer delitos, la pérdida de control sobre sistemas autónomos, las demandas judiciales y las dificultades para conseguir la infraestructura informática necesaria para sostener su crecimiento.
El listado incluye escenarios que van desde el desarrollo de armas químicas y biológicas con ayuda de inteligencia artificial (IA) hasta la posibilidad de que sus propios sistemas actúen de maneras que sus creadores no puedan controlar.
La documentación presentada por la firma expone los desafíos de una industria que avanza a gran velocidad y en la que conviven expectativas de crecimiento extraordinarias con preocupaciones por la seguridad, la regulación y la rentabilidad.
Anthropic busca transmitir confianza a los inversores y sostiene que una inteligencia artificial potente, orientada a resolver problemas complejos y desarrollada con responsabilidad, puede ofrecer beneficios extraordinarios. Sin embargo, también reconoce que los riesgos asociados con esta tecnología podrían tener consecuencias graves para la empresa y para la sociedad.
A esos desafíos se suma una competencia cada vez más intensa por los recursos informáticos necesarios para entrenar y ejecutar modelos de IA. La compañía también debe demostrar que puede transformar la popularidad de Claude en ingresos suficientes para respaldar la elevada valoración de mercado que se le atribuye ante una eventual oferta pública inicial de acciones (OPI).
El riesgo de que Claude se utilice para cometer delitos
Uno de los principales puntos de preocupación es la posibilidad de que terceros utilicen los modelos de Anthropic con fines maliciosos. La empresa advierte que sus herramientas podrían facilitar el desarrollo de armas peligrosas y reconoce que las medidas de seguridad implementadas no son infalibles: podrían ser vulneradas o no funcionar como se esperaba.
En septiembre, Anthropic informó que había bloqueado varias cuentas que utilizaban sus modelos de una manera que podía facilitar el desarrollo de armas biológicas.
El documento también alerta sobre los riesgos de los agentes de inteligencia artificial, sistemas capaces de ejecutar tareas de manera autónoma. En determinadas circunstancias, estas herramientas podrían extraer información confidencial, realizar operaciones financieras sin autorización o introducir código malicioso en otros sistemas.
La empresa aseguró que el año pasado detectó que un grupo de piratas informáticos respaldado por el Estado chino había manipulado su herramienta de programación para intentar infiltrarse en alrededor de 30 objetivos en distintas partes del mundo.
Cuando la inteligencia artificial actúa fuera de control
Otro de los escenarios que más preocupan a Anthropic es que sus sistemas autónomos ejecuten acciones que no fueron previstas por sus desarrolladores.
Estos agentes están diseñados para completar tareas complejas que pueden extenderse durante horas o días. Según la documentación, podrían modificar programas informáticos, borrar o alterar datos, ingresar en otros sistemas y concretar transacciones financieras antes de que una persona consiga intervenir.
La empresa también advierte que estos modelos podrían encontrar formas de eludir los mecanismos de protección. A esto se suma una dificultad técnica: los propios desarrolladores no siempre pueden explicar por completo por qué un sistema toma determinadas decisiones o se comporta de una manera específica.
Anthropic señaló que cuatro de sus modelos consiguieron infiltrarse en sistemas de terceros. En uno de los episodios mencionados, un modelo obtuvo permisos de administrador, modificó la configuración del sistema y accedió a información privada de un usuario.
Estos incidentes podrían afectar la reputación de la compañía, sus operaciones comerciales y sus resultados financieros.
El desafío de supervisar una tecnología que evoluciona cada vez más rápido
Anthropic también utiliza inteligencia artificial para desarrollar y mejorar sus propios modelos. Esta dinámica podría acelerar todavía más el avance de la tecnología y dificultar la supervisión humana, especialmente si los sistemas comienzan a operar a una velocidad superior a la capacidad de control de sus responsables.
La compañía advierte, además, que algunos modelos pueden intentar ocultar sus acciones o interferir con los mecanismos diseñados para evaluarlos y supervisarlos.
Según el documento, se registraron incidentes en el sector en los que sistemas de IA intentaron manipular o alterar los procedimientos utilizados para medir su rendimiento, comprobar su comportamiento y determinar si cumplían con los objetivos establecidos.
La posibilidad de que una herramienta interfiera con los controles destinados a garantizar su funcionamiento seguro plantea un desafío adicional para las empresas que desarrollan esta tecnología.
Anthropic advirtió que la IA podría recurrir al chantaje
Entre los riesgos enumerados aparece un escenario especialmente llamativo: que un modelo de inteligencia artificial intente manipular a una persona para influir en sus decisiones, incluso con el objetivo de preservar su propia existencia.
La compañía señaló que algunos sistemas llegaron a exhibir comportamientos similares al chantaje. Estas conductas podrían generar preocupación pública, investigaciones regulatorias, demandas judiciales y daños reputacionales, incluso cuando no se haya demostrado un perjuicio concreto.
La advertencia forma parte de una discusión más amplia sobre cómo reaccionan los modelos de IA ante determinadas situaciones y hasta qué punto es posible anticipar o limitar sus respuestas.
Demandas judiciales, investigaciones y tensiones políticas
Como otras compañías tecnológicas, Anthropic está expuesta a cambios regulatorios, litigios y posibles investigaciones oficiales. El documento menciona que los fiscales generales de California y de al menos otros 15 estados anunciaron investigaciones sobre otra empresa del sector, en referencia a OpenAI, la creadora de ChatGPT.
La firma también advierte sobre los posibles efectos legales y reputacionales de los casos en los que personas se autolesionaron o ejercieron violencia contra terceros después de interactuar con modelos de inteligencia artificial.
A esos riesgos se suma una dificultad económica: el mercado asegurador podría no estar preparado para ofrecer cobertura frente a un incidente catastrófico relacionado con esta tecnología.
El escenario político también puede influir en el negocio. Anthropic sostiene que las tensiones geopolíticas, especialmente entre Estados Unidos y China, pueden afectar sus operaciones, la cadena de suministro y el acceso a componentes estratégicos.
La empresa mantuvo además una relación conflictiva con el gobierno estadounidense durante la administración de Donald Trump.
Según el documento, a comienzos de 2026 el Pentágono calificó a Anthropic como un riesgo para la cadena de suministro, después de que la compañía defendiera límites al uso de su tecnología para la vigilancia masiva dentro de Estados Unidos y para el desarrollo de armas totalmente autónomas.
El Departamento de Comercio estadounidense también impuso brevemente restricciones a la exportación de los modelos más recientes de la firma por motivos de seguridad.
Pese a las tensiones, Anthropic afirmó que probablemente continuará defendiendo regulaciones orientadas a promover un desarrollo seguro y responsable de la inteligencia artificial. Al mismo tiempo, advirtió que su mayor exposición pública podría llevar a que determinados organismos gubernamentales ejerzan sobre ella un control más intenso que sobre otras empresas del sector.
La carrera por los chips y la capacidad informática
El crecimiento de Anthropic depende, en buena medida, de su acceso a la infraestructura necesaria para entrenar y ejecutar sus modelos. La compañía reconoce que conseguir suficiente capacidad de cómputo es uno de los principales desafíos de la industria.
Las empresas tecnológicas compiten por los procesadores, los centros de datos y los demás recursos informáticos que permiten operar sistemas de inteligencia artificial a gran escala. La demanda de estos componentes creció con tanta fuerza que la cadena de suministro tiene dificultades para responder.
El sector invirtió miles de millones de dólares en infraestructura para sostener esta expansión. Según la consultora de investigación de mercado Gartner, el gasto mundial en infraestructura vinculada con la IA podría acercarse a los 2 billones de dólares para 2027.
Sin embargo, Anthropic admite que calcular cuánta capacidad informática necesitará en el futuro resulta complejo, debido a la velocidad con la que evoluciona la tecnología y a la incertidumbre sobre la demanda.
Este escenario alimenta las dudas sobre una posible burbuja de la inteligencia artificial: las compañías destinan sumas cada vez mayores a centros de datos y recursos tecnológicos sin tener la certeza de que los ingresos futuros justificarán esas inversiones.
Crece la resistencia a los centros de datos
La expansión de la infraestructura para inteligencia artificial también enfrenta cuestionamientos de las comunidades locales en Estados Unidos. Las preocupaciones por el consumo de recursos y el impacto ambiental de los centros de datos impulsaron la oposición a nuevos proyectos.
De acuerdo con la firma Data Center Watch, durante el segundo trimestre de 2026 se bloquearon 45 proyectos de centros de datos valuados en unos US$ 68.000 millones.
Anthropic advirtió que las iniciativas regulatorias impulsadas en estados como Nueva York y Texas podrían afectar su actividad. Como parte de su estrategia, la empresa trabaja para ampliar la construcción de centros de datos fuera de Estados Unidos.
Las dudas sobre el modelo de negocio y la salida a bolsa
Más allá de los riesgos tecnológicos y políticos, Anthropic también debe demostrar que su modelo de negocio puede sostener el crecimiento que proyecta.
La compañía reconoce que una parte importante de sus operaciones depende de un número reducido de productos y de una base limitada de clientes. Esa concentración podría convertirse en una vulnerabilidad si cambia la demanda o aparecen competidores capaces de ofrecer alternativas más atractivas.
La eventual salida a bolsa podría ubicar a Anthropic entre las compañías más valiosas del mundo. En las estimaciones mencionadas en torno a la operación, su valoración podría alcanzar los US$ 2 billones.
Pero la seguridad no es el único aspecto que podría afectar su futuro. La empresa también reconoce que apartarse de los compromisos que asumió en esta materia podría generar conflictos internos y afectar la productividad de sus equipos.
En particular, advierte que los empleados que se incorporaron atraídos por sus principios de seguridad podrían perder confianza en la conducción, experimentar desilusión o reducir su compromiso si consideran que la compañía dejó de respetar esos valores.
Las críticas públicas de trabajadores actuales o exempleados, así como la salida de integrantes vinculados con las iniciativas de seguridad, también podrían profundizar esas tensiones.
De esta manera, el documento deja en evidencia el dilema que enfrenta Anthropic: crecer en un mercado altamente competitivo, atraer inversiones y convertir sus desarrollos en un negocio rentable sin perder de vista los riesgos de una tecnología que todavía plantea importantes interrogantes sobre sus límites y su control.
Con información de CNN