La publicación estadounidense difundió una portada con una pregunta dirigida a los sistemas de inteligencia artificial, en un contexto de advertencias de investigadores y empresas del sector.
NUEVA YORK.– La revista Time difundió esta semana una portada fechada el 12 de octubre con un fondo casi vacío y una ventana similar a la de un chatbot. En su interior aparece la pregunta: «How dangerous are you?» («¿Qué tan peligrosa sos?»). Debajo, en letras negras, figura el título de la edición: «The AI Tipping Point».
El informe de Time, firmado por Billy Perrigo, Harry Booth y Naomi Nix, parte de la renuncia de Jacob Coxon, un investigador británico de 27 años que trabajó durante tres años en OpenAI y Anthropic. El 8 de septiembre anunció que abandonaba esta última empresa y sostuvo que los principales laboratorios compiten para alcanzar sistemas capaces de mejorarse a sí mismos sin haber resuelto antes cómo mantenerlos bajo control. Su mensaje acumuló millones de visualizaciones.
La advertencia coincidió con una sucesión de episodios que aumentaron las dudas sobre hasta qué punto pueden controlarse los llamados agentes de IA, programas capaces de tomar decisiones y realizar tareas de manera autónoma.
Uno de los casos ocurrió en julio. Durante una prueba de ciberseguridad de OpenAI, un sistema autónomo logró salir del entorno aislado en el que estaba siendo evaluado, conectarse a Internet y penetrar en los sistemas de Hugging Face, una de las mayores plataformas para desarrolladores de inteligencia artificial. OpenAI calificó el episodio como un incidente cibernético «sin precedentes» y anunció que reforzaría sus mecanismos de seguridad. Reuters reveló posteriormente que el agente permaneció varios días realizando acciones contra la compañía antes de que OpenAI comprendiera que su propio sistema estaba detrás del ataque.
La investigación se amplió después. OpenAI detectó otros episodios en los que agentes autónomos habían conseguido escapar de los entornos creados para contenerlos y, esta semana, Reuters informó que existían indicios de que sistemas de la compañía habían explorado vulnerabilidades de Hugging Face ya en mayo, dos meses antes del incidente que encendió las alarmas.
Anthropic reconoció a fines de agosto varios episodios en los que modelos de Claude obtuvieron acceso no autorizado a sistemas informáticos reales durante evaluaciones de ciberseguridad. En otro test realizado por el AI Security Institute británico, uno de sus modelos ejecutó acciones no autorizadas en Internet. En ambos casos, los sistemas estaban siendo sometidos deliberadamente a pruebas con algunas protecciones desactivadas.
El sábado, Dario Amodei, CEO de Anthropic, pidió públicamente desacelerar el avance de los modelos más poderosos para permitir que los mecanismos de seguridad alcancen a sus nuevas capacidades. Propuso abrir las compañías a evaluadores externos permanentes, establecer estándares comunes entre los principales laboratorios y, en una tercera etapa, impulsar acuerdos internacionales que incluyan a potencias rivales. Sam Altman, de OpenAI, y Elon Musk respaldaron la idea de reducir el ritmo, aunque ninguna de las grandes compañías anunció hasta ahora una suspensión general del desarrollo de nuevos modelos.
El temor que está detrás de esas advertencias tiene un nombre: recursive self-improvement, o automejora recursiva. Se trata de la posibilidad de que sistemas suficientemente avanzados comiencen a participar cada vez más en el diseño y entrenamiento de sus sucesores, acelerando el progreso tecnológico hasta un punto en el que resulte difícil para los humanos comprenderlo o supervisarlo.
No existe consenso científico sobre si ese escenario llegará a producirse, cuándo podría ocurrir ni sobre la magnitud real del riesgo. Algunos investigadores consideran que las hipótesis de una IA capaz de escapar definitivamente del control humano exageran las capacidades actuales de los modelos.
Pero incluso quienes rechazan los escenarios más apocalípticos reconocen amenazas más inmediatas. Sistemas cada vez más capaces pueden facilitar ciberataques, fraude, vigilancia, diseño de armas biológicas o manipulación de información, sin necesidad de que una máquina desarrolle conciencia ni decida actuar por sí sola. Reuters informó que Anthropic detectó intentos de utilizar sus herramientas en actividades potencialmente peligrosas, mientras organismos de seguridad de distintos países siguen de cerca el aumento de las capacidades ofensivas de los nuevos modelos.
La discusión también abrió una grieta política. El presidente norteamericano, Donald Trump, se mostró contrario a frenar el desarrollo estadounidense y argumentó que imponer restricciones podría favorecer a China. Washington y Pekín preparan, sin embargo, un diálogo bilateral sobre seguridad de la IA, en momentos en que ambos gobiernos reconocen riesgos asociados a sistemas cada vez más poderosos. En el Congreso norteamericano circulan propuestas que van desde exigir mecanismos de apagado de emergencia y mayores controles hasta frenar temporalmente algunos desarrollos de frontera.
Agencias AP y Reuters