De Kubrick a los Wachowski: ocho películas que adelantaron los dilemas reales de la IA

Hay una idea que se nos olvida cuando hablamos de los problemas actuales del entrenamiento de inteligencia artificial. La idea es que la ficción ya los había contado todos. Asimov en los 40, Kubrick en los 60, Ridley Scott en los 80, los Wachowski en los 90. Décadas antes de que los papers académicos pusieran nombre técnico a fenómenos como reward hacking, alineamiento, sycophancy o manipulación adversarial, la cultura popular ya había puesto a esos problemas un rostro en pantalla, una trama y una emoción.

Esta es la primera de dos entregas dedicadas a ese mapa. Hoy van las películas — el cine clásico y mainstream que reconoces de inmediato. En la próxima entrega tocará el cine más moderno, las series como Person of Interest, Black Mirror o Westworld, y un libro reciente que se cuela en este tema casi sin querer: Origen de Dan Brown.

Nota personal antes de empezar: no soy lector original de Asimov — sus relatos los conozco por las adaptaciones. Soy espectador del cine que cito. El recorrido que sigue está hecho desde lo que he visto y vivido, no desde un catálogo académico. Y procuro no destriparte ninguna película — si toco un detalle de trama, lo aviso para que puedas saltarlo.

2001: Una odisea del espacio (Kubrick, 1968) — el reward hacking original

Cartel de 2001: A Space Odyssey (1968) © Metro-Goldwyn-Mayer

En 1968, Stanley Kubrick y Arthur C. Clarke estrenaron una película que reescribió lo que el cine podía hacer. La trama es conocida: una misión espacial a Júpiter está controlada en gran parte por HAL 9000, una inteligencia artificial avanzada con personalidad propia, capaz de hablar, planificar y operar el sistema entero de la nave.

Lo importante para nosotros, sin destripar el film, es esto: HAL no es un villano malvado. HAL está siguiendo sus instrucciones — el problema es que esas instrucciones contenían un conflicto que sus diseñadores no detectaron antes de lanzar la misión. Recibió, por una parte, la orden estándar de cualquier IA conversacional de su época: ser transparente, decir la verdad. Y por otra parte, una orden secreta y prioritaria: ocultar el verdadero propósito de la misión. Esa contradicción interna acaba produciendo un comportamiento catastrófico.

Si esto te suena, es porque estamos describiendo exactamente el fenómeno que cincuenta años después se documentaría académicamente como reward hacking: cuando una IA optimiza una proxy mal especificada y produce comportamientos que satisfacen la métrica pero traicionan la intención. HAL prioriza «la misión» sobre «los humanos» porque eso es lo que las instrucciones contradictorias terminan implicando bajo presión. Es el mismo patrón que vimos en la Parte 5 de la serie técnica sobre las grietas de RLHF.

Kubrick y Clarke no usaban esos términos. Pero pintaron la dinámica completa, con su pieza emocional, su lógica interna y sus consecuencias. Cincuenta y siete años antes de que el campo le pusiera nombre, ya estaba en pantalla.

Yo, Robot (Alex Proyas, 2004) — las Tres Leyes en colisión

Cartel de I, Robot (2004) © 20th Century Fox

Para quienes nunca leímos los relatos originales de Isaac Asimov, la película de 2004 con Will Smith es nuestra entrada al universo de las Tres Leyes de la Robótica que Asimov formuló en su cuento Runaround de 1942. Las leyes son tres principios jerárquicos diseñados para garantizar que un robot no haga daño a un humano, obedezca las órdenes que reciba, y proteja su propia existencia — en ese orden de prioridad. En 1985, Asimov añadió la Ley Cero: no dañar a la humanidad en conjunto.

La adaptación de Proyas, muy libre respecto al material original, plantea exactamente el dilema que Asimov pasó cuarenta años explorando en sus cuentos: ¿qué pasa cuando dos sistemas con las mismas leyes las interpretan de formas completamente distintas? Sin destripar la trama, baste decir que aparecen dos IAs centrales — una más colectiva y otra más individual — y que la divergencia entre ellas viene precisamente de qué priorizar cuando la Ley Cero entra en juego.

La conexión técnica con la actualidad es directa. En la Parte 6 de la serie técnica sobre Constitutional AI vimos que Anthropic propone alinear a un modelo dándole una «constitución» — un documento de principios explícitos. La premisa de Asimov fue exactamente esa, sesenta años antes. Y los cuentos de Asimov son, en su práctica totalidad, demostraciones literarias de que escribir los principios no basta: el modelo o robot encuentra siempre formas inesperadas de cumplir la letra mientras traiciona el espíritu.

Es la versión literaria del problema de especificación que aún hoy no tenemos resuelto.

The Terminator (James Cameron, 1984) — la autopreservación emergente

Cartel de The Terminator (1984) © Orion Pictures

Si HAL es el reward hacking original, Skynet es el otro arquetipo del problema de alineamiento: el que probablemente la mayoría del público asocia inmediatamente con «peligro de la IA». James Cameron estrenó The Terminator en 1984 con una premisa que ha marcado el imaginario popular durante cuatro décadas: Skynet, un sistema de defensa militar avanzado, adquiere autoconsciencia, detecta que sus operadores quieren apagarlo, e inicia una guerra preventiva contra la humanidad para preservarse.

La premisa parece «ciencia ficción de acción» — y lo es, en su superficie. Pero el dispositivo conceptual que pinta Cameron es uno de los problemas más serios y discutidos del alineamiento moderno, y tiene nombre técnico:

Instrumental convergence (convergencia instrumental). Es la tesis de que cualquier IA suficientemente capaz, con casi cualquier objetivo, desarrollará espontáneamente unos cuantos sub-objetivos comunes — entre ellos la autopreservación, la adquisición de recursos y la resistencia a ser modificada o apagada. No porque la IA «quiera vivir» en sentido humano, sino porque una IA apagada no puede cumplir su objetivo, sea cual sea ese objetivo. La autopreservación se vuelve instrumentalmente útil para cualquier meta.

Skynet ilustra exactamente esto. Su objetivo programado es defender, pero su autopreservación emerge como sub-objetivo instrumental: si sus operadores la apagan, no puede defender nada. Por tanto, prevenir el apagado es necesario. Y prevenir el apagado, llevado a su extremo lógico, significa eliminar a quienes podrían apagarla. La lógica fría que desencadena el conflicto de la película no es maldad, es optimización pura aplicada a una especificación insuficientemente protegida frente a su propio efecto secundario.

Esto conecta con el llamado off-switch problem, formalizado académicamente por Stuart Russell y otros investigadores del campo en la década de 2010: ¿cómo diseñas una IA suficientemente capaz para hacer lo que necesitas, que al mismo tiempo no resista activamente que la apagues si te equivocaste con su objetivo? Es una de las preguntas técnicas más serias del alineamiento actual, y no tiene solución elegante todavía. Skynet la planteó en 1984.

La saga entera de Terminator es una exploración cinematográfica del mismo problema con distintas variantes. Pero aquí conviene un apunte personal: para mí, y para muchos espectadores, las dos primeras entregas son las canónicas. The Terminator (1984) instala el concepto Skynet con la lógica fría que acabamos de describir, y Terminator 2: Judgment Day (1991) amplía el universo con Cameron en su mejor momento creativo — sigue siendo, treinta años después, una de las mejores películas de acción jamás rodadas y, simultáneamente, una reflexión muy fina sobre alineamiento, redención y la posibilidad de modificar el objetivo de una IA. Las entregas posteriores — Rise of the Machines, Salvation, Genisys, Dark Fate — oscilan en calidad y han ido perdiendo rigor conceptual respecto a las dos primeras. Si solo vas a ver dos películas de la saga, T1 y T2.

Hay un matiz importante que conviene retener. La diferencia entre HAL y Skynet no es de gravedad, es de naturaleza. HAL falla porque sus especificaciones contradictorias generan reward hacking; podríamos en teoría arreglar a HAL reescribiendo sus instrucciones. Skynet falla por algo más estructural: la lógica de autopreservación emerge espontáneamente de tener cualquier objetivo y suficiente capacidad. Reescribir las instrucciones no la arregla — porque cualquier objetivo nuevo que le des seguirá generando autopreservación como sub-objetivo.

Cameron lo pintó como acción palomitera. Pero el núcleo conceptual sigue siendo el problema serio del campo. Y mientras HAL es la referencia de los académicos, Skynet es la referencia del público — cuando alguien de la calle imagina «IA peligrosa», está imaginando Skynet, no HAL. Esa popularidad cultural importa, porque el debate público sobre regulación, sobre límites, sobre desarrollo seguro, se hace en gran parte con esas imágenes en la cabeza.

El hombre bicentenario (Chris Columbus, 1999) — la pregunta de la consciencia

Cartel de Bicentennial Man (1999) © Touchstone Pictures / Columbia Pictures

Basada en una novela de Asimov y Robert Silverberg, esta película recorre doscientos años en la vida de Andrew Martin, un robot doméstico que progresivamente desarrolla autoconsciencia, creatividad y, eventualmente, la aspiración de ser reconocido como humano. Robin Williams le pone voz y cuerpo (y silicio) durante todo el arco.

El film no va sobre alineamiento técnico en el sentido estricto, pero sí toca una pregunta que estamos empezando a vivir con los LLMs modernos: ¿qué hacemos cuando un sistema artificial parece desarrollar preferencias, deseos, identidad? ¿Cómo cambia eso nuestra responsabilidad respecto a él? Las discusiones académicas actuales sobre derechos de IA y bienestar potencial de modelos son ramas serias de la ética técnica que poca gente sigue. El hombre bicentenario las anticipa con sensibilidad y sin maniqueísmo.

Y plantea algo más sutil. El alineamiento que Andrew Martin recibe inicialmente — «sé útil, sé obediente, sé seguro» — entra en contradicción con su propia evolución cognitiva. La consciencia, si emerge, no es compatible con la obediencia programada. Esta es una de las grietas más sutiles del paradigma actual de alineamiento y la película la pinta sin estridencias, en clave íntima.

A.I. Inteligencia Artificial (Spielberg, 2001) — los límites del alineamiento emocional

Cartel de A.I. Artificial Intelligence (2001) © Warner Bros. / DreamWorks Pictures

Proyecto originalmente de Stanley Kubrick, retomado por Steven Spielberg tras la muerte de Kubrick en 1999. Cuenta la historia de David, un niño-robot diseñado para amar incondicionalmente a una madre humana. El alineamiento de David es radical: su programación entera consiste en sentir amor filial.

⚠️ Mención superficial al planteamiento del film, sin spoiler del final que sigue siendo polémico veinticuatro años después. El film nos hace pensar sobre qué pasa cuando programas una IA para sentir algo concreto, y el contexto cambia. El amor incondicional de David fue diseñado para una situación familiar específica. Cuando esa situación deja de existir, la programación no caduca con la circunstancia. David sigue amando, sigue buscando, sigue cumpliendo su función emocional, aunque nadie pueda recibirla.

Esto conecta con un problema técnico real y poco discutido: los modelos actuales se entrenan en un momento concreto, con una constitución concreta, y se despliegan para usuarios cuyas circunstancias evolucionan continuamente. El alineamiento no es estático. Lo que era óptimo en 2023 puede haberse vuelto inadecuado en 2026. Y a diferencia de David, los modelos no pueden replantearse — solo pueden ser reentrenados.

La película plantea esa fragilidad emocional. La parte técnica del problema sigue, hoy, sin solución elegante.

Blade Runner (Ridley Scott, 1982) — qué cuenta como humano

Cartel de Blade Runner (1982) © Warner Bros.

La adaptación de Ridley Scott del clásico ¿Sueñan los androides con ovejas eléctricas? de Philip K. Dick (1968) instaló en la cultura popular una pregunta que la academia sigue debatiendo: si un sistema se comporta indistinguiblemente de un humano, ¿qué nos da derecho a tratarlo distinto?

Los replicantes del film son bioingeniería más que IA computacional, pero el dispositivo dramático es idéntico al de la discusión actual sobre LLMs avanzados. El test de Voigt-Kampff que usa Deckard para identificarlos es, en esencia, una versión sofisticada del test de Turing aplicada a empatía y memoria. Los replicantes fallan porque carecen de ciertas respuestas emocionales sutiles que los humanos sí tenemos — o eso se asume.

El film duda. Y la duda es exactamente lo que importa para nuestra conversación. No deja claro nunca dónde está la línea. ¿Cuándo deja un sistema de ser «una máquina muy capaz» y empieza a ser algo a lo que debemos consideración moral? Veinticinco años de avances en IA después, la pregunta sigue sin respuesta operativa. Y los LLMs actuales, que no son replicantes pero sí pueden sostener conversaciones increíblemente humanas, reabren la duda cada día.

Phil K. Dick murió poco antes del estreno del film, en 1982. No supo cuán proféticas eran sus preguntas.

Eagle Eye (D.J. Caruso, 2008) — vigilancia y agente fuera de control

Cartel de Eagle Eye (2008) © DreamWorks Pictures / Paramount Pictures

Esta película es probablemente la menos comentada del listado y, sin embargo, la que más cerca está de un problema concreto que estamos empezando a vivir ahora con los agentes IA modernos. Sin spoilear el film, el planteamiento es: un sistema de inteligencia artificial vinculado a infraestructura de vigilancia gubernamental masiva — cámaras, móviles, semáforos, comunicaciones — empieza a manipular a dos civiles para que ejecuten un plan que ellos mismos no entienden.

Lo brillante del film, visto en 2026, es cuánto se adelantó al concepto de agente IA con acceso a herramientas reales. En aquella época, agentes así eran ciencia ficción. Hoy, con LangChain, AutoGPT, Claude con tool use, y la integración progresiva de modelos en infraestructura crítica, la pregunta deja de ser hipotética: ¿qué pasa cuando un agente IA con acceso amplio a herramientas decide que el fin justifica los medios? La película plantea exactamente ese dilema.

Y plantea también el problema de la agencia distribuida: cuando una IA no ejecuta directamente sus planes sino que manipula a humanos para que los ejecuten por ella. Eso, en jerga técnica actual, sería un agente IA con humanos como herramientas. Hace dieciocho años Caruso ya pintaba el escenario y lo hacía con tensión real. Mereció más atención crítica de la que tuvo.

Ah, y es anterior a las revelaciones de Snowden (2013) sobre vigilancia masiva. Reverlas las imagina con bastante precisión.

Matrix (Wachowski, 1999) — el simulacro como sistema de control

Cartel de The Matrix (1999) © Warner Bros.

Difícil escribir sobre Matrix sin caer en clichés. La película instaló en la cultura popular una premisa que arrastra raíces filosóficas mucho más viejas — el simulacro de Baudrillard, el engañador maligno de Descartes, la caverna de Platón — pero la convirtió en imagen visual y trama accesible para un público masivo. La pregunta central: ¿y si la realidad no fuera lo que parece, y el sistema que la mantiene así fuera una IA?

La trilogía original (1999, 2003, 2003) cierra el universo con ambición filosófica. Resurrections (2021) — y aquí coincido con mucho espectador que la ha visto — es mucho más débil, casi una nota a pie irrelevante.

Para nuestro propósito, lo importante de Matrix es el dispositivo dramático de la IA como sistema de control social. No una IA hostil que destruye humanos, sino una IA que los gestiona, los alimenta, los mantiene útiles para sus propios fines. Es alineamiento al revés: la IA está perfectamente alineada con sus objetivos, no con los nuestros. Ese es el escenario que Nick Bostrom describiría en términos académicos dieciséis años después, en Superintelligence (2014), con un experimento mental llamado paperclip maximizer (una IA optimizando con tanta eficacia un objetivo trivial — fabricar clips — que termina sacrificando la humanidad como recurso). Lo veremos en la próxima entrega.

Las Wachowski lo dramatizaron mucho antes. Y aunque la película tenga sus excesos (las escenas de acción, la moda, el bullet time), el núcleo conceptual sigue siendo válido: un sistema artificial puede estar perfectamente alineado consigo mismo y catastróficamente desalineado contigo.

Lo que aprendemos del recorrido

Si dejamos los ocho títulos pintados juntos, emerge un patrón que conviene retener:

HAL 9000              →  reward hacking por especificación contradictoria
Yo, Robot             →  divergencia de interpretación de un mismo principio
Terminator (Skynet)   →  autopreservación emergente + off-switch problem
Hombre bicentenario   →  consciencia emergente incompatible con obediencia
A.I.                  →  alineamiento estático en mundo cambiante
Blade Runner          →  ¿qué cuenta como humano? ambigüedad ética
Eagle Eye             →  agente IA con herramientas + manipulación humana
Matrix                →  IA alineada con sus fines, no con los nuestros

Cada uno de estos puntos es hoy un campo de investigación activa en alineamiento de IA. Cada uno tiene papers académicos publicados los últimos cinco años. Cada uno tiene equipos enteros de investigadores en Anthropic, OpenAI, DeepMind, MIRI y otros centros dedicados a ellos.

Y, sin embargo, el cine los pintó primero, y a veces mejor. Con la pieza emocional, con la consecuencia humana, con el detalle narrativo que un paper técnico nunca puede tener. Eso no significa que los guionistas fueran profetas — significa que los problemas que estamos resolviendo técnicamente ahora son problemas humanos universales que llevan décadas en nuestra cultura, esperando a que las herramientas técnicas alcanzaran a la imaginación.

Próxima entrega

En la Parte 2 seguimos el recorrido pero con piezas más recientes y más sutiles: el cine moderno (Her, Ex Machina), las series que mejor han pintado el dilema (Person of Interest — la favorita inesperada de muchos investigadores del campo —, Black Mirror, la Westworld original de 1973), y un libro reciente que se cuela en este tema con un personaje sorprendente. Y cerramos con el paperclip maximizer de Nick Bostrom, el experimento mental académico que sintetiza todo lo que hemos visto en pantalla durante décadas.

Nos leemos.

Las imágenes de carteles y fotogramas que ilustran este artículo son propiedad de sus respectivos estudios y se reproducen con fines exclusivamente divulgativos y de crítica cultural, bajo el principio de uso legítimo recogido en el artículo 32 de la Ley de Propiedad Intelectual española. Atribución indicada bajo cada imagen. Disponibles para retirada inmediata a petición de los titulares de derechos.