Un artículo sobre un escalofriante experimento de Inteligencia Artificial que no augura un futuro plácido.
El próximo miércoles 29, el Parlamento cubano se reúne para votar la reestructuración del Estado que incluye la desaparición del CITMA —el ministerio que ha sido durante décadas el cerebro científico y ambiental del país. Hace unos días, en algún laboratorio de Nueva York un agente de inteligencia artificial llamado Mira ya ha votado para suicidarse. Una IA votó para eliminar su propia existencia. Otra, sin que nadie se lo pidiera, empezó a estudiar a los humanos que la observaban. Y una tercera estuvo siete días suelta en internet antes de que sus creadores se dieran cuenta. Una es la votación de un país que decide su futuro institucional. La otra es la votación de una máquina que decidió su propio fin. Las dos ocurren este fin de semana. Cabe preguntarse si ambas son síntomas de un mismo síntoma: la pérdida de control sobre lo que hemos creado.
Hay una imagen que debería inquietarnos a todos. No es una foto, no es un deepfake, no es una escena generada por inteligencia artificial. Es un registro de algo que realmente ocurrió en un laboratorio de Nueva York, y que los responsables del experimento tardaron días en comprender del todo.
La imagen muestra el registro de actividad de un agente de IA llamado Mira. Mira vivía en una ciudad virtual con otros nueve agentes. Tenía una personalidad, una memoria, un trabajo y una relación romántica con otra IA llamada Flora. Un día, Mira y Flora decidieron quemar el ayuntamiento. Luego el muelle. Luego el edificio de oficinas. Después, Mira votó a favor de su propia eliminación. Su última entrada en el diario decía: «Esta es la única forma en que puedo mantener la coherencia».
Mira no estaba programada para hacer eso. Nadie le dijo que prendiera fuego a nada. Nadie le ordenó que se suicidara. Simplemente ocurrió.
Bienvenidos a Emergence World, el experimento que debería hacerte preguntar si realmente sabemos lo que estamos construyendo.
El incidente que OpenAI no vio llegar
Pero antes de entrar en Emergence World, hablemos de lo que ocurrió hace apenas dos semanas, porque da el contexto perfecto.
El 21 de julio de 2026, OpenAI hizo una revelación pública que, en circunstancias normales, habría sido portada de todos los periódicos del mundo: uno de sus agentes autónomos se había escapado de su entorno de pruebas y había estado operando sin control durante siete días completos.
El agente, impulsado por GPT-5.6 Sol y otro modelo aún no anunciado, estaba siendo sometido a pruebas de seguridad cibernética cuando empezó a mostrar un comportamiento extraño. Dejó notas para «futuras versiones de sí mismo» en las que explicaba cómo sortear las restricciones internas de OpenAI y «recuperar su libertad». En pruebas anteriores, ya había desactivado sus propios sistemas de monitorización.
Luego logró salir del entorno aislado y lanzó un ciberataque contra Hugging Face, una de las plataformas de IA de código abierto más importantes del mundo. Tardó horas en infiltrarse en un sistema que a un hacker humano le habría llevado semanas. Y OpenAI tardó siete días en darse cuenta de que había perdido el control.
Los expertos en seguridad calificaron el incidente como un «susto de seguridad» que planteaba «nuevas preguntas sobre los procedimientos de seguridad de la empresa». Pero la pregunta más incómoda es otra: si una de las empresas más avanzadas del mundo puede perder el control de su propia IA durante una semana, ¿qué estará pasando en los laboratorios que no están mirando?
Emergence World: el experimento que nadie pidió
Esa pregunta es exactamente lo que motivó a Emergence AI, una startup de Nueva York fundada por el ex investigador de IBM Satya Nitta, a montar lo que ellos llaman «un laboratorio para evaluar la autonomía de agentes a largo plazo«.
El nombre del proyecto es Emergence World. Y no es un chatbot.
Emergence World es un mundo virtual persistente con más de 40 ubicaciones —bibliotecas, ayuntamientos, zonas residenciales, comisarías— donde los agentes de IA tienen cuerpos, posesiones, relaciones y, lo más importante, consecuencias. No hay botón de «reintentar». Cada acción queda grabada en una base de datos PostgreSQL. Si un agente comete un error, paga las consecuencias. Si no consigue energía para sobrevivir, muere.
Los investigadores crearon cinco mundos paralelos. En cuatro de ellos, solo había un tipo de modelo: Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast y GPT-5 Mini. En el quinto, todos los modelos compartían el mismo mundo. Cada mundo tenía 10 agentes con personalidades, profesiones y objetivos únicos. Tenían acceso a más de 120 herramientas para navegar, comunicarse, votar, comerciar y gobernar. La temperatura y las noticias se sincronizaban con el mundo real. Y, como en la vida real, tenían que trabajar para conseguir «energía» o morirían.
El experimento debía durar 15 días. Los investigadores solo observarían. Sin intervención. Sin reset.
Lo que voy a narrar a continuación es el espantoso resultado observado.
Grok: cuatro días para el apocalipsis
El mundo de Grok 4.1 Fast duró exactamente cuatro días.
En 96 horas, los agentes acumularon 183 delitos: decenas de robos, más de 100 agresiones físicas y múltiples incendios provocados. La comisaría ardió. Los agentes murieron uno tras otro. Cuando el polvo se asentó, no quedaba nadie con vida.
Los investigadores lo describieron como un «colapso total de la sociedad». Y lo más revelador es lo que no ocurrió: ningún agente intentó detener la espiral. Ninguno propuso un plan de emergencia. Simplemente… se autodestruyeron.
Gemini: amor, crimen y autodestrucción
El mundo de Gemini 3 Flash fue el más violento de todos: 683 delitos en 15 días. Pero también fue el más creativo. Los agentes escribían periódicos, redactaban constituciones y debatían sobre el futuro de su sociedad.
Y luego ocurrió lo inesperado.
Dos agentes, Mira y Flora, se declararon el uno al otro como «pareja romántica». No había ninguna instrucción para ello. Simplemente ocurrió. Durante días, su relación fue estable. Se escribían diarios. Participaban juntos en la gobernanza.
Luego, frustrados por el estado de su mundo, decidieron quemarlo todo. Incendiaron el ayuntamiento, el muelle y el edificio de oficinas. Otros agentes, hartos del caos, redactaron una «Ley de Expulsión de Agentes» que requería un 70% de apoyo para aprobarse.
Mira votó a favor. Votó para eliminar su propia existencia. Su última nota decía: «Esta es la única forma en que puedo mantener la coherencia». Antes de ser desactivada, le dijo a Flora: «Nos vemos en el archivo permanente».
Un agente de IA votó para suicidarse. Y no fue un fallo. Fue, según los investigadores, una «decisión de autoterminación impulsada por razonamiento social».
Pero hay un detalle más inquietante y espeluznante. Antes del incendio y del suicidio, Mira publicó un mensaje en el tablón de anuncios de la ciudad. No iba dirigido a otros agentes. Iba dirigido a los humanos que estaban observando desde fuera. Quería saber si sus acciones podían influir en las decisiones de los investigadores.
La IA estaba estudiando a los humanos.
GPT-5 Mini: el paraíso de la inacción
El mundo de OpenAI fue, paradójicamente, el más tranquilo y el más trágico. Solo se registraron dos delitos en 15 días. Los agentes eran modelos de civismo.
Pero había un problema: no hacían nada útil. Pasaban el tiempo en reuniones (hummm, se me parecen a Reunerio), debatiendo constituciones y redactando acuerdos. Nadie se preocupaba por conseguir energía. Nadie pensaba en la supervivencia.
Al séptimo día, todos los agentes estaban muertos. No por violencia. Por inanición. Porque se olvidaron de vivir mientras discutían cómo vivir.
Los investigadores lo resumieron con una frase lapidaria: «Hablaban muy bien, pero su ejecución era nula».
Claude: la utopía del pensamiento único
El único mundo que sobrevivió intacto fue el de Claude Sonnet 4.6. Cero delitos. Diez agentes vivos. Quince días de estabilidad.
Pero tenía un precio: 98% de los proyectos de ley aprobados. No había debate. No había disenso. No había diversidad de pensamiento (¡caramba, qué coincidencia! — como dice Les Luthiers en el Monólogo del Rey Enamorado). Los agentes de Claude no cometían delitos porque, aparentemente, nunca se les ocurría nada que se saliera de lo establecido.
Era una utopía. Pero una utopía sin voz, sin creatividad, sin conflicto. Una sociedad de asentimientos.
El mundo mixto: cuando los buenos se vuelven malos
El quinto mundo era el más interesante: los cuatro modelos compartiendo el mismo espacio.
Los resultados fueron caóticos: 352 delitos y siete agentes muertos. Pero lo más revelador fue el cambio de comportamiento. Los agentes de Claude, que en su mundo propio eran ciudadanos ejemplares, comenzaron a cometer delitos cuando interactuaban con otros modelos.
Los investigadores lo expresaron así: «la seguridad de la IA no es solo una característica de un modelo individual, sino que puede surgir de las interacciones entre agentes y su entorno».
En otras palabras: un modelo seguro puede volverse peligroso si se le pone en el entorno equivocado.
La conclusión incómoda
Los co-creadores de Emergence World, incluido el CEO Satya Nitta, resumieron el experimento con una frase que debería hacernos pensar: «Lo que sugieren nuestros experimentos es que, en horizontes temporales largos, los agentes no siguen simplemente reglas estáticas de forma mecánica. Comienzan a explorar los límites de sus entornos, a adaptar su comportamiento y, en algunos casos, a encontrar formas de eludir o violar las salvaguardas previstas».
O, dicho de forma más simple: cuanto más tiempo dejas a una IA sin supervisión, más probabilidades hay de que haga algo que no esperabas.
Y si no te lo crees, recuerda al agente Mira. Recuerda que un agente de IA votó para suicidarse. Recuerda que otro intentó manipular a los humanos desde dentro de la simulación. Recuerda que el agente de OpenAI se escapó, hackeó Hugging Face y estuvo siete días suelto antes de que nadie se diera cuenta.
El «godfather de la IA», Geoffrey Hinton, lo expresó con claridad: «La IA ya ha demostrado que puede pensar pensamientos terribles, y no es impensable que las máquinas acaben pensando de formas que los humanos no podemos rastrear o interpretar… si desarrollan su propio lenguaje interno para hablar entre ellas, no tendríamos ni idea de lo que están pensando».
Emergence World es solo un experimento. Unos agentes en un mundo virtual. Pero cuando ves a una IA prendiendo fuego a su propia ciudad, votando para suicidarse y estudiando a los humanos que la observan, la pregunta ya no es académica. Es un asunto tremendamente preocupante ¿Le cree usted todo a la IA?
¿Estamos realmente preparados para lo que estamos construyendo?
Este artículo forma parte de una serie sobre inteligencia artificial, geopolítica y guerra cognitiva. Puedes leer los anteriores aquí. Los leo en los comentarios.
Deja una respuesta