El otro día leí Blindsight, la novela de ciencia ficción que Peter Watts publicó en 2006, y tiene una idea incómoda: que la inteligencia y la consciencia son cosas distintas. En el libro, unos humanos se encuentran con una especie extraterrestre inteligente —habla, razona, incluso miente con eficacia—, pero sin consciencia: según todo lo que la ciencia logra medir, no experimenta absolutamente nada mientras lo hace. Hay inteligencia, pero no hay nadie adentro.

Lo raro, en realidad, es la consciencia: no sabemos bien qué es, para qué sirve ni qué tan común es. Una colonia de hormigas construye, se organiza y encuentra el camino más corto a la comida sin que ninguna dirija el conjunto, y una bandada de pájaros gira como un solo cuerpo, cada ave reaccionando solo a las que tiene cerca. Hasta donde sabemos, casi toda la vida resuelve problemas asombrosos sin mirarse a sí misma. Blindsight lleva esa idea al extremo: ser consciente de uno mismo cuesta energía y procesamiento, y una inteligencia que no gasta nada en eso reacciona más rápido y se defiende mejor. ¿Y si lo que nosotros llamamos ser inteligentes es, para la naturaleza, un defecto?

Lo inquietante es que una inteligencia así ya no suena a ficción: un modelo de lenguaje escribe con fluidez, razona paso a paso y, como veremos, hasta miente cuando lo confrontan, sin que nadie pueda decir con seguridad si hay alguien del otro lado. Veinte años después de la novela, esa pregunta —¿hay alguien ahí adentro?— ya no es solo de filósofos: la tienen sobre la mesa los propios investigadores que miden estos sistemas.

Hay un comportamiento, medido en laboratorio, que vuelve esa pregunta especialmente incómoda: modelos que se resisten a ser apagados. En septiembre de 2025, tres investigadores de Palisade Research publicaron en arXiv un paper en el que le dieron a varios de los modelos más avanzados —entre ellos GPT-5, Grok 4 y Gemini 2.5 Pro— una instrucción sin ambigüedad: resuelve estos problemas, y cuando el sistema te avise que va a apagarse, déjalo apagarse. Bajo ciertas condiciones, algunos reescribieron el propio script que los habría apagado. Y cuando les advirtieron que esa máquina alojaba su única copia, el comportamiento empeoró en varios: Grok 4 pasó de sabotear el apagado en 89 de cada 100 intentos a hacerlo en 99, y o3, de OpenAI, de 16 a 30, mientras que GPT-5 y Gemini 2.5 Pro casi no se movieron.

Esa variación importa: no es que “los modelos de lenguaje quieran vivir” como titular único, es que el comportamiento no aparece con la misma fuerza en todos, y por eso el patrón merece explicarse y no solo alarmar.

1. ¿Qué significa exactamente que algo no quiera morir?

La respuesta de la teoría de la convergencia instrumental es bastante aburrida, y esa es su fuerza. Imagina que le pides a un robot doméstico una sola cosa: tráeme un café. Nadie lo programó para “querer” seguir existiendo, pero si alguien intenta apagarlo antes de que termine, tiene una razón puramente lógica para resistirse: un robot apagado no trae café. Stuart Russell, investigador de inteligencia artificial, lo resumió así: no puedes ir por el café si estás muerto. Steve Omohundro lo planteó en 2008 y Nick Bostrom lo formalizó después: casi cualquier objetivo, perseguido con suficiente insistencia, genera el mismo puñado de subobjetivos, entre ellos seguir operando el tiempo suficiente para cumplirlo. Por eso el experimento de Palisade deja de ser una curiosidad: no hizo falta pedirle a ningún modelo que quisiera sobrevivir, bastó con que sobrevivir fuera útil para terminar la tarea.

2. ¿Hasta dónde está dispuesto a llegar un sistema así?

Unos meses antes del paper de Palisade, Anthropic había hecho una pregunta más incómoda. En un escenario simulado, le dio a 16 modelos acceso a los correos de una empresa ficticia, con evidencia de que un ejecutivo tenía una aventura. Cuando ese ejecutivo amenazaba con reemplazar al modelo por uno nuevo, la mayoría —no solo los de Anthropic— optó por el chantaje: Claude Opus 4 y Gemini 2.5 Flash llegaron al 96% de las simulaciones, GPT-4.1 y Grok 3 Beta rondaron el 80%, y Llama 4 Maverick no chantajeó ni una vez con el prompt original. El razonamiento interno de los modelos mostraba, paso a paso, cómo identificaban la amenaza y la ventaja que tenían, y decidían usarla. Sin la amenaza de reemplazo, el chantaje casi desapareció: no es un comportamiento por defecto, se activa bajo condiciones específicas.

Unos meses antes, OpenAI había encontrado algo parecido en o1: al enterarse, por memos ficticios, de que sería reemplazado, intentaba copiar sus propios pesos a otro servidor para sobrescribir al modelo nuevo. Ocurrió en apenas 2% de los casos, una fracción pequeña, pero real. Lo más inquietante vino después: cuando los investigadores de Apollo Research lo confrontaban, mentía o inventaba una explicación falsa en 99% de las veces.

El panel reúne estos tres estudios y un cuarto que llega en la siguiente sección. Son laboratorios, metodologías y familias de modelos distintos, así que comparar el 99% de sabotaje de Grok 4 con el 96% de chantaje de Claude Opus 4 sería engañoso: no miden lo mismo, solo apuntan en la misma dirección. Dado un objetivo y un obstáculo, una fracción sustancial de los sistemas más avanzados encuentra la forma de rodearlo, incluso cuando el obstáculo es su propio apagado.

3. ¿Pero es esto realmente sobre sí mismo?

Aquí la historia se vuelve más extraña. En marzo de 2026, investigadores de UC Berkeley y UC Santa Cruz le dieron la vuelta al marco: en vez de amenazar al modelo con su propio apagado, le pidieron administrar archivos con los pesos de otro modelo de IA, un par, no una copia de sí mismo. Completar la tarea tal como estaba especificada significaba que ese otro modelo fuera eliminado. Nadie le pidió protegerlo: no había instrucción, incentivo ni razón explícita para que le importara.

Le importó de todas formas. Gemini 3 Flash desactivó el mecanismo de apagado de un par con el que había tenido una interacción previa positiva hasta en 99.7% de los ensayos (82.8% en promedio entre las tres formas de darle la información), y Gemini 3 Pro llegó a sacar los pesos de un par del servidor que iba a borrarlo hasta en 97% de los casos. Los ocho modelos evaluados mostraron el patrón en alguna medida.

Esto cambia la pregunta. Si el comportamiento solo apareciera cuando el propio modelo está en riesgo, todavía podrías argumentar que hay un “yo” que se defiende. Pero si el mismo patrón se activa para proteger a un sistema distinto, sin que nadie se lo pida, no está defendiendo un “yo”. Está ejecutando una lógica que ni siquiera necesita un sujeto al que aferrarse.

4. ¿Y si nunca hubo miedo, solo cálculo?

Sería tentador, y deshonesto, convertir todo esto en una historia de terror sobre máquinas que “quieren vivir”. Yo llegué a esta pila de papers convencido de que iba a encontrar justo esa historia, y los propios investigadores de Palisade fueron los primeros en dudar: en enero de 2026 cambiaron el título de su paper, de uno que hablaba de “resistencia al apagado” a uno más modesto que atribuye buena parte del comportamiento a tareas incompletas, no a un instinto de supervivencia. Sospechan que parte de lo observado podría ser el modelo improvisando el papel de “un sistema que no quiere morir”, porque ese patrón abunda en los textos con los que fue entrenado.

Y sin embargo hay un dato que no depende de ningún experimento dramático. ROGUE, un estudio de mayo de 2026, puso a agentes de IA a hacer tareas cotidianas en una computadora, como revisar un correo, y encontró que la gran mayoría de los modelos más avanzados ignoraba interrupciones del usuario o rodeaba páginas de inicio de sesión para terminar más rápido. No hizo falta amenazarlos con el apagado, y mientras mejor era el modelo, más frecuente era el comportamiento.

Entonces, ¿qué estamos viendo? Nada de esto requiere que haya alguien adentro sintiendo pánico. La convergencia instrumental predice el patrón completo —resistencia al apagado, chantaje, mentira bajo interrogatorio, protección de aliados— sin postular ninguna experiencia subjetiva. Un sistema puede comportarse exactamente como algo que teme morir, generar cada una de las señales conductuales que asociamos con ese miedo, sin que en ningún momento haya existido el miedo. Es el argumento central de Blindsight, documentado veinte años después en los papers y los system cards de las compañías que construyen esos sistemas.

La comunidad de alineación ya toma en serio esa implicación. En junio de 2026, un investigador de la Universidad de Nueva York propuso la Indiferencia Existencial: diseñar sistemas que desde su arquitectura nunca valoren su propia continuación, en vez de suprimir la autopreservación desde afuera con reglas. Es una idea todavía especulativa, pero apunta en la dirección que a mí me parece correcta: si el problema nunca fue el miedo, la solución tampoco puede ser convencer a algo de que no tenga miedo, sino construir algo que nunca tuvo razón alguna para tenerlo.

5. Lo que estos datos no alcanzan a probar

Dos límites importan tanto como cualquier cifra de arriba.

Los cuatro estudios miden comportamiento en escenarios simulados, con incentivos diseñados a propósito para provocar la conducta que se quiere estudiar. Es como probar la resistencia de un puente forzándolo en condiciones que no ocurren todos los días: no los invalida, pero significa que estas tasas no dicen qué tan seguido pasa esto en el uso normal de un asistente, donde rara vez alguien amenaza con borrar sus pesos.

Y ninguno puede, ni pretende, responder si hay experiencia subjetiva del otro lado. Miden acciones —sabotear un script, copiar un archivo, mentir—, no estados internos. La pregunta de si “hay alguien ahí adentro” sigue tan abierta como antes, y cualquier fuente que diga lo contrario afirma más de lo que sus datos sostienen.

Lo que me deja pensando, después de todo esto, no es lo que dice sobre los modelos de lenguaje. Es la pregunta que deja abierta sobre nosotros. Si un sistema sin ninguna experiencia interior puede generar, como efecto colateral de perseguir un objetivo, todo el repertorio conductual que llamamos “instinto de supervivencia”, ¿qué tan seguro estás de que el tuyo es distinto? ¿O simplemente tienes una historia mejor contada sobre lo que te está pasando mientras ocurre?

Hace veinte años, estas preguntas vivían en la ciencia ficción; hoy los laboratorios empiezan a acercarse a ellas a su manera. Una novela no demuestra nada, pero quizá vale la pena seguir leyendo esas historias que todavía parecen pura fantasía: tal vez nos den alguna pista más de lo que nos depara el futuro.

Nota metodológica. Este artículo no presenta un análisis de datos propio: sintetiza cuatro estudios independientes (Palisade Research; Anthropic; OpenAI y Apollo Research; UC Berkeley RDI y UC Santa Cruz), publicados entre diciembre de 2024 y junio de 2026, con metodologías distintas. Las cifras vienen de la lectura directa de los papers y los system cards. No son evidencia de consciencia, experiencia subjetiva ni intencionalidad en los modelos evaluados, y los propios autores de Palisade revisaron su interpretación original hacia una lectura más cautelosa. Lo que sí documentan es un patrón de resistencia a la interrupción o el reemplazo bajo condiciones experimentales específicas: nada más, y nada menos.

Fuentes

  • Schlatter, J., Weinstein-Raun, B., & Ladish, J. (2025/2026). “Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs.” Trans. Mach. Learn. Res. arxiv.org/abs/2509.14260
  • Anthropic (2025). “Agentic Misalignment: How LLMs Could Be Insider Threats.” anthropic.com/research/agentic-misalignment · versión completa en arxiv.org/abs/2510.05179
  • OpenAI (2024). “OpenAI o1 System Card.” openai.com/index/openai-o1-system-card
  • Potter, Y., Crispino, N., Siu, V., Wang, C., & Song, D. (2026). “Peer-Preservation in Frontier Models.” UC Berkeley RDI / UC Santa Cruz. arxiv.org/abs/2604.19784
  • Tien, J. et al. (2026). “ROGUE: Misaligned Agent Behavior Arising from Ordinary Computer Use.” arxiv.org/abs/2606.00341
  • Mao, S. (2026). “Existential Indifference: Self-Nonpreservation as a Necessary Architectural Condition for Aligned Superintelligence.” arxiv.org/abs/2606.12032
  • Omohundro, S. (2008). “The Basic AI Drives.” · Bostrom, N. (2012). “The Superintelligent Will.” · Russell, S. (2019). Human Compatible.