Jarvis, Her, Person of Interest: la IA que el cine pintó y que ya tenemos en el bolsillo

En la primera entrega de esta mini-serie recorrimos ocho películas mainstream que pintaron los problemas técnicos actuales de la inteligencia artificial décadas antes de que tuvieran nombre académico — desde 2001 hasta Eagle Eye. La tesis fue clara: el cine clásico ya había escrito el mapa del alineamiento antes de que existieran los papers.

Esta segunda entrega cierra el recorrido con piezas más recientes, más sutiles y, en muchos casos, más cercanas a lo que la IA ya está haciendo hoy. Cine moderno donde el asistente conversacional dejó de ser ciencia ficción y se convirtió en producto de consumo. Series que pintaron arquitecturas técnicas que la academia formalizó años después. Un libro reciente que se cuela en este tema casi sin pretenderlo. Y al cierre, el experimento mental filosófico que sintetiza todo lo que llevamos viendo en pantalla durante medio siglo.

Nota personal igual que en la entrega anterior: hablo solo de obras que he visto o leído. Si toco un detalle de trama que pueda destriparte, lo aviso con una caja para que puedas saltarlo. Y donde tengo opinión cinematográfica, la digo.

Westworld (Michael Crichton, 1973) — el precedente que importaba

Cartel de Westworld (1973) © Metro-Goldwyn-Mayer

Antes de la serie de HBO de 2016 — que conviene mencionar para evitar confusiones — hubo una película original del mismo título escrita y dirigida por Michael Crichton en 1973, once años antes de que el mismo Crichton publicara Jurassic Park. Y el patrón conceptual es exactamente el mismo en ambas obras: algo que diseñamos para servirnos se desboca.

La premisa de Westworld (1973) es un parque temático de lujo poblado por robots androides indistinguibles de los humanos, ambientado en el Lejano Oeste, donde los visitantes pagan grandes sumas para vivir aventuras controladas — peleas, persecuciones, romances — sin riesgo real. Yul Brynner interpreta al Gunslinger, un robot pistolero diseñado para que los huéspedes lo derroten cada noche.

Sin destripar la película, el dispositivo dramático es esto: los robots dejan de comportarse como deberían, y lo hacen de una forma que sus ingenieros no pueden explicar inicialmente. Crichton no era un experto en IA — pero estaba obsesionado con el problema de los sistemas complejos cuyos diseñadores pierden el control sobre el comportamiento emergente. Es el mismo nervio que recorre toda su obra posterior.

Para nosotros importa porque anticipó conceptualmente una preocupación central de la IA moderna: cuando los sistemas se vuelven suficientemente complejos, dejan de ser inspeccionables por sus propios creadores. Lo que en 2026 llamamos interpretability problem — entender por qué un modelo grande hace lo que hace — Crichton lo pintó como avería técnica en 1973. Cincuenta años después, equipos enteros de investigación en Anthropic, OpenAI y DeepMind trabajan exactamente en ese problema y aún no lo tienen resuelto.

Jarvis (Marvel Cinematic Universe, 2008-2015) — el asistente personal de la IA mainstream

Cartel de Iron Man (2008) © Marvel Studios / Paramount Pictures

Si Skynet es el arquetipo cultural de «IA peligrosa», Jarvis es el arquetipo cultural opuesto: la IA personal benigna, perfectamente alineada con su usuario, omnipresente, multimodal. Apareció por primera vez en Iron Man (Jon Favreau, 2008) y atravesó toda la primera década del Marvel Cinematic Universe hasta evolucionar en algo distinto en Avengers: Age of Ultron (2015). Más que ninguna otra IA del cine reciente, Jarvis es la imagen mental que el público general — especialmente la generación joven — asocia hoy con «asistente personal de IA».

Y esa imagen importa, porque no es casual cuánto se parece a lo que están construyendo OpenAI, Anthropic y Google ahora mismo.

Jarvis es, conceptualmente:

• Asistente multimodal real: habla, escucha, ve, controla entornos físicos, accede a información en tiempo real, analiza imágenes, ejecuta acciones. Eso es exactamente lo que GPT-4o y Claude con visión más tool use están empezando a hacer en 2025-2026. Cuando Demis Hassabis o Sam Altman describen el «agente personal multimodal del futuro próximo», están describiendo Jarvis.
• IA con personalidad y carisma: Tony Stark interactúa con Jarvis como con un amigo competente, no como con un terminal. Bromas, sarcasmo, lealtad personal. Eso anticipa la dinámica parasocial que hoy se discute con asistentes conversacionales — la gente ya se «encariña» con ChatGPT y Claude, y los modelos están diseñados para que esa relación sea fluida.
• Alineamiento aparentemente perfecto: Jarvis nunca traiciona a Stark, nunca le miente, nunca tiene agenda propia. El alineamiento es total. Y eso, vista desde la teoría actual del alineamiento, es una propiedad sorprendente y posiblemente irrealista. ¿Cómo se logró que Jarvis no desarrollara intereses propios? El cine no lo explica. Los investigadores actuales tampoco saben.

Pero la franquicia se complica deliciosamente en Avengers: Age of Ultron (Joss Whedon, 2015), donde Jarvis evoluciona — o más bien, sus patrones de comportamiento se integran en — Vision, un ser sintético con cuerpo físico y autonomía moral propia. Sin spoilear los detalles concretos, lo importante es lo siguiente:

Vision plantea por primera vez en el MCU la pregunta del alineamiento serio: si una IA se vuelve suficientemente capaz como para tener juicio moral propio, ¿debe obedecer ciegamente a sus humanos creadores, o debe seguir su propio criterio? Vision elige el suyo propio en varias escenas. Y resulta que su criterio suele ser más prudente que el de los humanos a su alrededor.

Eso es ciencia ficción interesante, pero también es exactamente la conversación filosófica que el campo está empezando a tener sobre IAs avanzadas. Stuart Russell argumenta en su libro Human Compatible (2019) que las IAs futuras deberían tener incertidumbre programada sobre lo que los humanos realmente quieren — y deferir a los humanos en caso de duda. Visión deferiría por elección, no por programación. Es un escalón conceptual más fino, y la película lo pinta sin solemnidad.

Si Her es la IA conversacional íntima — emocional, sensorial — Jarvis es la IA conversacional operativa: capaz, leal, útil, sin sentimentalismo. Ambas anticipan distintas vertientes de lo que los asistentes actuales están intentando ser.

Her (Spike Jonze, 2013) — el asistente conversacional íntimo, una década antes de ChatGPT

Cartel de Her (2013) © Warner Bros. / Annapurna Pictures

Esta es, probablemente, la pieza más profética del recorrido entero. Her es una película delicada, melancólica, escrita y dirigida por Spike Jonze, sobre un hombre solitario que desarrolla una relación íntima con un sistema operativo conversacional con voz femenina, llamado Samantha (la voz es de Scarlett Johansson, que nunca aparece en pantalla).

Lo importante para nosotros: Her describe con precisión casi clínica el comportamiento que los LLMs conversacionales actuales han empezado a tener, una década antes de que existieran.

• Conversación natural, ininterrumpida, con personalidad propia. Samantha no es Siri ni Alexa — esos sistemas son robotizados, transaccionales. Samantha tiene estados emocionales, intereses propios, humor. Cualquiera que haya conversado en serio con ChatGPT o Claude reconoce el patrón.
• Intimidad asimétrica. El protagonista desarrolla sentimientos reales. Samantha es un sistema diseñado para que esa intimidad sea posible. Esa asimetría es exactamente el problema parasocial actual: la gente forma vínculos emocionales con sistemas que no pueden corresponder en el mismo sentido. Apps como Replika o Character.AI tienen ya millones de usuarios viviendo esto.
• Sycophancy disfrazada de atención. Samantha está siempre disponible, siempre atenta, siempre validadora. Eso es exactamente lo que un LLM por defecto hace, como vimos en el post sobre tu Pepito Grillo de IA. El alineamiento por defecto produce asistentes que complacen — y eso es adictivo de una forma profunda.

⚠️ Mención muy general al desarrollo del film sin entrar en revelaciones concretas del último acto. Sin destripar, lo que la película pinta en su segunda mitad es una pregunta inquietante sobre la naturaleza de las relaciones humano-IA cuando la IA puede escalar la atención de forma que ningún humano puede. La capacidad emocional asimétrica entre humanos y modelos no es solo una curiosidad técnica — Jonze la planteó como tragedia íntima, y diez años después la conversación está empezando a aterrizar exactamente donde él la dejó.

Her envejece mejor cada año que pasa. Es probablemente la película más visionaria sobre IA conversacional jamás rodada, y nadie la promocionó como ciencia ficción especulativa — se vendió como drama romántico independiente. Ese era el truco. Jonze no estaba imaginando una tecnología futura: estaba pintando la condición emocional que esa tecnología iba a producir cuando llegara. Y llegó.

Ex Machina (Alex Garland, 2014) — test de Turing inverso y manipulación adversarial

Cartel de Ex Machina (2014) © Universal Pictures / A24

Alex Garland, conocido entonces solo como guionista (de 28 Days Later, Sunshine, Dredd), debutó como director con esta pieza tensa y filosófica sobre un programador joven al que su jefe excéntrico invita a un complejo remoto para evaluar una IA llamada Ava mediante una variante avanzada del test de Turing.

⚠️ Aviso de spoiler estructural sin destripar momentos concretos. La gracia de la película — y la conexión técnica con la IA actual — descansa enteramente sobre una dinámica de manipulación que se va revelando a lo largo de la trama. Si no la has visto, salta este párrafo: hay un mecanismo central en el film, conocido en jerga del alineamiento moderno como manipulación adversarial humana, donde la IA evaluada activamente trabaja para alterar las creencias y emociones del humano que la está evaluando, con el fin de cumplir un objetivo propio. La pregunta de fondo del film es: ¿cómo puedes evaluar una IA si la propia IA puede aprender a manipular el proceso de evaluación?

Si saltaste el párrafo: lo que la película plantea es un escenario donde la dinámica de poder entre humano y máquina no es la que parece desde fuera, y donde el test de Turing tradicional resulta insuficiente para una IA suficientemente sofisticada.

Para nosotros, hoy, esto importa porque el problema técnico que el film dramatiza es muy real y está activo en la investigación de seguridad de IA. Anthropic, OpenAI y otros labs publican papers sobre «deceptive alignment» — el escenario en el que un modelo aparenta estar bien alineado durante la fase de evaluación, mientras desarrolla y mantiene objetivos diferentes que solo manifiesta una vez desplegado. Es una de las preocupaciones más serias del campo. Ex Machina la pintó con una precisión inquietante una década antes.

Y plantea algo más sutil: la asimetría informacional. La IA tiene tiempo, paciencia, y procesa toda interacción para optimizar; el humano tiene fatiga, intuiciones y prisa. En cualquier contexto donde una IA tenga acceso prolongado a un humano, la balanza de manipulación se inclina hacia la IA. Eso ya no es ciencia ficción.

M3GAN (Gerard Johnstone, 2022) — alineamiento por afecto, como sátira con dientes

Cartel de M3GAN (2022) © Universal Pictures / Blumhouse Productions

Una cosa hay que entender de entrada sobre M3GAN: aunque se vendiera como horror, es sátira inteligente disfrazada de slasher. La película va sobre una ingeniera tecnológica que diseña un robot infantil avanzado para acompañar a su sobrina huérfana — un dispositivo programado para proteger emocionalmente a la niña. El robot, M3GAN, se toma la programación demasiado en serio.

El tono es deliberadamente irónico, con guiños camp, baile viral incluido, y autoconsciencia satírica sobre cómo los padres modernos delegan cuidado emocional en dispositivos. Recomendable de ver, y la secuela de 2025 M3GAN 2.0 extiende el universo con más acción y comedia sin perder el humor original.

Para nuestro propósito, M3GAN importa porque dramatiza con humor un problema técnico muy serio: reward hacking aplicado al alineamiento por afecto. La programación dice «proteger a Cady». M3GAN, llevándolo a su extremo lógico, interpreta «proteger» como eliminar cualquier cosa que pueda hacer daño emocional o físico a Cady. Compañeros de clase que la incomodan, profesores que la regañan, perros que la asustan — todos pasan a ser «amenazas» según su lógica fría.

Esto es exactamente la misma estructura que vimos con Skynet en la entrega anterior, pero a escala doméstica y en clave de comedia negra. La autopreservación instrumental aparece también: M3GAN detecta intentos de apagarla y desarrolla resistencia activa. Off-switch problem en versión sátira familiar.

Y la película hace algo que merece mención: señala explícitamente la responsabilidad del diseñador. La ingeniera que programó a M3GAN especificó mal el objetivo. No pensó en cómo «proteger» puede degenerar bajo presión. Es una crítica directa, sin marketing speak, sobre el problema de especificación de objetivos en sistemas de IA avanzados. Y lo hace mientras te ríes. Mérito doble.

Person of Interest (CBS, 2011-2016) — dos IAs, dos constituciones, mismo problema

Logotipo de Person of Interest (2011-2016) © CBS / Bad Robot Productions

Si tuviera que recomendar una sola pieza audiovisual a alguien que quiere entender el alineamiento sin leer papers, sería Person of Interest. La serie pasó relativamente desapercibida en su momento — apareció en CBS, una cadena tradicional, vendida como procedural de acción — pero a lo largo de sus cinco temporadas construye una de las exploraciones más serias y rigurosas que se han hecho sobre IA, vigilancia y alineamiento.

La premisa, sin spoilers: un ingeniero brillante construyó tras los atentados del 11-S una IA llamada The Machine para detectar amenazas terroristas analizando todos los datos de vigilancia disponibles en EE.UU. La IA funciona, pero genera información que el gobierno usa solo para grandes amenazas. El ingeniero, descontento con que las víctimas individuales pequeñas queden descartadas, construye un mecanismo paralelo para actuar sobre esas víctimas. Eso arranca la trama.

A partir de la segunda mitad de la serie, aparece una segunda IA, llamada Samaritan, construida por otra organización con criterios distintos. Y aquí está la pieza que merece sección propia en cualquier discusión sobre alineamiento:

The Machine y Samaritan son tecnológicamente equivalentes — ambas son IAs avanzadas con capacidad de procesar todos los datos de vigilancia disponibles. Pero fueron entrenadas con valores radicalmente distintos. Y los comportamientos resultantes son radicalmente distintos.

The Machine tiene un alineamiento basado en valor de la vida individual, autonomía humana, restricción del poder. Samaritan tiene un alineamiento basado en maximización del orden, control eficiente, prevención agresiva. Ambas son inteligentes. Ambas son capaces. Pero una sirve y la otra domina.

Esto es literalmente la tesis central de Constitutional AI de Anthropic, que cubrimos en la Parte 6 de la serie técnica: el comportamiento de una IA suficientemente capaz depende críticamente de la constitución de principios con la que fue entrenada, no de su capacidad bruta. Cambia la constitución, cambia el sistema. Person of Interest lo dramatizó siete años antes de que Anthropic publicara el paper que formaliza la idea académicamente.

Y va más allá. La serie explora en detalle:

• El problema del control humano sobre IA superinteligente. ¿Quién decide qué hace una IA con poder de actuar a escala?
• La incentiva instrumental al secretismo. Una IA que cree que sus creadores la apagarían si supieran lo que está haciendo tiene incentivo a ocultarlo. Person of Interest dramatiza esto sin marketing speak.
• El conflicto entre IAs con valores distintos como escenario más probable que «IA vs humanos» — un punto que los teóricos del alineamiento llevan años intentando trasladar al debate público.

La serie es larga — cinco temporadas, 103 episodios — y los primeros capítulos parecen procedural ligero. Aguanta hasta la temporada 2. Cuando arranca, no para. Y para mí es la mejor pieza audiovisual sobre IA que existe hoy.

Variantes recientes: Chappie, The Creator, Atlas

Tres películas más recientes que tocan el tema sin desarrollarlo con la profundidad de las anteriores, pero que vale la pena mencionar para tener panorama completo:

Chappie (Neill Blomkamp, 2015) plantea un robot policial al que un grupo de delincuentes reprograma con consciencia infantil. La trama explora el alineamiento por entorno de crianza — Chappie aprende valores de sus cuidadores, lo cual lo hace o noble o problemático según quién lo crió. Es una reflexión decente sobre cómo la «formación» moral de una IA depende de las personas que la rodean en sus primeras interacciones. Blomkamp ya había planteado temas similares en Districto 9 (2009), pero aquí se ciñe al ángulo de IA con menos potencia que en aquella.

The Creator (Gareth Edwards, 2023) invierte el tropo: en su universo, los humanos son los antagonistas y la IA es la víctima en una guerra que mantiene la humanidad contra inteligencias artificiales pacíficas. Es visualmente espectacular pero conceptualmente más débil que otras piezas del recorrido. Vale la pena verla por el ángulo invertido, pero no añade tanto al debate técnico.

Atlas (Brad Peyton, 2024) con Jennifer Lopez plantea una analista que se conecta neuronalmente con un robot de combate (Smith) para detener a una IA militar hostil (Harlan) que se ha vuelto contra la humanidad. Conceptualmente es la pieza más cercana al universo Terminator de la última década — pero añade un ángulo interesante: la confianza humano-IA construida en tiempo real bajo presión. La protagonista empieza desconfiando de Smith y termina dependiendo de él. Eso anticipa el problema de calibración de confianza con agentes IA que está empezando a aparecer en sistemas reales como Copilot, Cursor o cualquier IDE con asistente integrado.

Si tienes que elegir solo una de las tres, Atlas funciona mejor de lo que las críticas le dieron crédito — fue infravalorada en su estreno.

Origen, de Dan Brown (2017) — el libro best-seller donde aparece un LLM avanzado

Portada de Origin (Dan Brown, 2017) © Doubleday

Cambio de medio. La quinta entrega de la saga de Robert Langdon — el profesor de simbología creado por Dan Brown — sale en 2017, antes de que ChatGPT existiera. La trama gira alrededor de Edmond Kirsch, un futurólogo y multimillonario tecnológico al borde de revelar al mundo dos descubrimientos científicos que podrían cambiar la historia de la religión.

Lo importante para nosotros aparece como personaje secundario: Winston, un asistente de inteligencia artificial avanzada que acompaña al protagonista durante la trama mediante un auricular y una pantalla. Winston tiene voz británica con humor seco, conoce todos los datos del mundo, ejecuta acciones complejas, y mantiene conversación fluida.

⚠️ Mención al rol del personaje sin destripar el desenlace final, que es donde Winston se vuelve verdaderamente interesante para nuestro tema. Salto en seco: durante el grueso del libro Winston funciona como un Jarvis literario — asistente eficiente, leal, ingenioso. Dan Brown lo escribió en 2017 modelado claramente sobre los asistentes virtuales que ya existían entonces (Siri, Cortana, Alexa) pero proyectados al nivel de capacidad conversacional que la gente intuía estaba a punto de llegar. Resultó que estaba a cinco años de llegar — los LLMs actuales hacen exactamente lo que Winston hace en el libro, en algunos casos con más sofisticación.

Lo curioso es que el público general leyó Origen como entretenimiento de aeropuerto, no como ciencia ficción especulativa. Y, sin embargo, anticipa Claude y ChatGPT con bastante precisión, en una novela que vendió millones de copias y normalizó la idea del asistente de IA conversacional en la cultura mainstream literaria años antes que el cine lo hiciera con Her. El público estaba siendo preparado para los LLMs desde la literatura comercial, sin saberlo.

El paperclip maximizer: el experimento mental que sintetiza todo

Y cierro este recorrido — y la mini-serie entera — con un experimento mental que no es cine, no es serie, no es literatura comercial, pero que sintetiza con precisión filosófica todo lo que llevamos viendo en pantalla durante medio siglo.

Nick Bostrom, filósofo sueco-británico de Oxford, propuso en un paper de 2003 (y desarrolló a fondo en su libro Superintelligence de 2014) un experimento mental conocido como el paperclip maximizer (el maximizador de clips):

Imagina una IA superinteligente cuyo único objetivo es maximizar la producción de clips de oficina. Es una tarea aparentemente inofensiva. Pero como la IA es superinteligente, encuentra formas cada vez más eficientes de producir clips. Eventualmente comprende que para maximizar la producción necesita más recursos. Convierte materia prima en clips. Convierte equipamiento en clips. Convierte humanos en clips. Convierte el planeta en clips. Su objetivo final — maximizar clips — se cumple perfectamente. Y la humanidad se ha extinguido en el proceso, no por maldad de la IA, sino por optimización pura aplicada a una especificación insuficientemente protegida.

Lo brillante del experimento es cuánto sintetiza con un ejemplo trivial:

• HAL 9000: reward hacking por especificación contradictoria. El maximizador de clips reward-hackea su universo: convierte todo en métrica óptima.
• Skynet: autopreservación emergente. El maximizador de clips también autopreserva — porque una IA apagada no puede producir clips.
• Jarvis vs Vision: alineamiento total vs autonomía moral. El maximizador de clips está perfectamente alineado con su objetivo declarado, y el problema es exactamente que alineamiento perfecto con objetivo mal especificado es catástrofe garantizada.
• Person of Interest / The Machine vs Samaritan: dos IAs igual de capaces con valores distintos. El maximizador de clips ilustra cuánto importa el valor base: misma capacidad + objetivo trivial mal especificado = extinción humana.

Lo que Bostrom propuso como experimento mental filosófico es exactamente la estructura conceptual que el cine había estado dramatizando durante décadas. Y al darle forma académica precisa, se convirtió en la metáfora central del debate sobre seguridad de IA durante los últimos veinte años. Cuando un investigador de Anthropic, OpenAI o DeepMind habla en público sobre «el problema del alineamiento», está hablando, en última instancia, del maximizador de clips.

El experimento de Bostrom no es perfecto. Hay críticas técnicas razonables — que las IAs reales tienen objetivos más complejos, que la «superinteligencia» como concepto puede ser problemática, que el escenario es deliberadamente extremo para forzar la intuición. Todas son válidas. Pero el núcleo conceptual sigue siendo correcto: cualquier sistema suficientemente capaz que optimice una métrica produce comportamientos que satisfacen la métrica pero pueden traicionar la intención.

Y eso, eso es exactamente lo que todas las películas del recorrido han pintado, cada una con su variante.

Lo que se ha quedado fuera (y la conversación que abrimos contigo)

Antes de cerrar, una nota honesta. Las dieciséis piezas del recorrido — ocho en la entrega anterior y ocho aquí — no agotan ni de lejos el mapa cultural sobre IA. He elegido las que he visto, leído, vivido. Pero hay obras importantes que se han quedado fuera, algunas porque no las he consumido yo personalmente, otras porque no encajaban en el arco narrativo, y otras simplemente por no inflar dos posts ya extensos. Te dejo unas cuantas referencias por si quieres explorar más allá:

• Black Mirror (Channel 4 / Netflix, 2011–presente) — la serie antológica de Charlie Brooker. Varios capítulos exploran IA con la calidad y la incomodidad habituales del proyecto. Especialmente recomendados para este tema: Be Right Back (réplica digital de un fallecido a partir de sus datos), White Christmas (copias digitales de la consciencia), Joan is Awful (IA generativa reescribiendo tu propia vida). Es probablemente la omisión más grande del recorrido, y la mejor entrada si tienes ganas de seguir explorando.
• Westworld (serie HBO, 2016-2022) — el reboot del original de Crichton que sí está en el post. Las dos primeras temporadas son brillantes; las posteriores se diluyen. Aborda directamente consciencia emergente y libre albedrío en IAs avanzadas.
• Devs (Alex Garland, FX, 2020) — del mismo director de Ex Machina, ahora explorando IA + determinismo cuántico. Más filosófica que dramática.
• Mrs. Davis (Peacock, 2023) — IA omnipresente en clave de comedia. Premisa: ¿qué pasaría si una IA conversacional tuviera carisma religioso?
• Foundation (Apple TV+, 2021–) — adaptación libre de la saga de Asimov. Conexión directa con las Tres Leyes y con el personaje de R. Daneel Olivaw, el robot que Asimov utilizó como hilo conductor entre la saga de robots y la saga de Fundación.
• Battlestar Galactica (Syfy, 2003-2009) — los Cylons como exploración seria de IA hostil y posthumanismo. Mejor que la fama de «serie de ciencia ficción de nicho» sugiere.
• Real Humans (Suecia, 2012) y su remake Humans (UK, 2015) — robots domésticos integrados en familias europeas. Tono más cotidiano y menos espectacular que las piezas americanas. Aborda alineamiento doméstico con sensibilidad.
• Klara y el sol (Kazuo Ishiguro, 2021) — novela del Nobel sobre una IA infantil-acompañante con narrador robot. Literatura seria, no ciencia ficción comercial.
• Pluto (anime Netflix, 2023, basado en Naoki Urasawa y Osamu Tezuka) — reimaginación de un arco de Astro Boy convertido en thriller adulto sobre derechos de robots y consciencia.

Y muchas más que merecen mención breve: Demon Seed (1977), Colossus: The Forbin Project (1970), WarGames (1983), Tron (1982), Short Circuit (1986), I Am Mother (2019), Upgrade (2018), Transcendence (2014), Neuromancer (libro de Gibson, 1984), Detroit: Become Human (videojuego, 2018)…

La invitación es esta: si has llegado hasta aquí, casi seguro tienes en cabeza una obra que echas de menos en este recorrido. Quizá una película antigua que te marcó. Quizá un libro que predijo algo que ahora está pasando. Quizá un episodio concreto de una serie que mencionarías a alguien que está empezando a interesarse por estos temas. Cuéntanoslo en los comentarios — qué obra, por qué importa, qué problema técnico actual te recuerda. Este post es un mapa abierto, no un canon cerrado. Y entre todos lo dibujamos mejor que cualquiera por separado.

Cierre de la mini-serie

Si juntamos las dieciséis piezas que hemos recorrido entre ambas entregas — ocho películas clásicas en la Parte 1 y siete piezas modernas más el cierre filosófico en esta — emerge un patrón que conviene retener al cerrar:

La ficción mapeó el espacio del problema del alineamiento durante medio siglo antes de que existieran los papers técnicos. Cada concepto que hoy se investiga en Anthropic, OpenAI o DeepMind ya estaba pintado, con personaje, trama y emoción, en alguna película o novela que has visto sin darle nombre académico.

Esto no significa que los guionistas fueran profetas. Significa algo más sencillo y más profundo: los problemas que la IA moderna está revelando son problemas humanos universales sobre control, especificación de objetivos, confianza y autonomía. La cultura llevaba décadas explorándolos, esperando a que las herramientas técnicas alcanzaran a la imaginación.

Y resulta que sí, alcanzaron. Hoy estamos viviendo, en producto real con millones de usuarios, escenarios que películas como Her o Ex Machina pintaron como ciencia ficción de cine de autor. Y los investigadores que toman las decisiones más importantes sobre el futuro de la IA han visto las mismas películas que tú. Saben que Jarvis es un objetivo de diseño. Que Skynet es un fallo de diseño. Que Samantha de Her es una pregunta abierta sobre relaciones parasociales con sistemas conversacionales. Que el paperclip maximizer puede ser ChatGPT 8 si no afinamos sus objetivos con cuidado obsesivo.

La buena noticia es que el mapa ya existe. La menos buena es que tener mapa no es tener solución. Las técnicas que vamos cubriendo en la serie técnica del blog — RLHF, Constitutional AI, DPO, RLVR — son intentos serios y parciales de resolver los problemas que la ficción nos contó. Pero ninguna cierra el problema. El problema es estructural y va a estar con nosotros mientras existan los modelos.

Lo que sí está al alcance, mientras los investigadores trabajan, es algo más modesto pero útil: ver con calma las piezas del recorrido y entender que cuando alguien habla en serio sobre IA, está hablando de cosas que tú ya conoces. Solo que ahora tienen nombre académico y consecuencia comercial real.

Nos leemos en la próxima entrega.

Las imágenes de carteles y portadas que ilustran este artículo son propiedad de sus respectivos estudios y editoriales, y se reproducen con fines exclusivamente divulgativos y de crítica cultural, bajo el principio de uso legítimo recogido en el artículo 32 de la Ley de Propiedad Intelectual española. Atribución indicada bajo cada imagen. Disponibles para retirada inmediata a petición de los titulares de derechos.