EDITORIAL: ALMAS DE METAL
Almas de metal
Es difícil determinar desde cuando existe el temor al Otro. La inquietud frente a lo desconocido ha sido un eco persistente a lo largo de los siglos. Sin embargo, en un giro irónico, la Otredad que ahora nos acecha no surge de ningún lugar lejano ni de manos foráneas, sino que es un fruto de nuestra propia creación: las Inteligencias Artificiales, cuya sombra se proyecta ominosamente sobre nuestras cabezas, y que han capturado la imaginación colectiva y suscitado un debate ferviente[1].
Dentro de la ciencia ficción encontramos el miedo a nuestras creaciones desde la propia génesis del género, en esa novela seminal en todos los sentidos que es Frankenstein o El moderno Prometeo (1818) de Mary Shelley. Una historia paradigmática que ha resonado en películas tan referenciadas en el tema de la rebelión de las máquinas como Metrópolis (Fritz Lang, 1927), Blade Runner (Ridley Scott, 1982), Terminator (James Cameron, 1984) o Matrix (Lily y Lana Wachowski, 1999).
En lo que respecta a nuestra relación actual con las IA, el 2023 marcó un punto de inflexión. Fue el año en el que las voces de los creativos de Hollywood se alzaron al unísono por el reconocimiento y la equidad. La huelga, convocada en el epicentro de la meca del cine, fue el desencadenante de una serie de eventos que reverberó más allá de las colinas de California, atrayendo la atención y solidaridad de los sindicatos de escritores de la industria en todo el mundo. Fue un movimiento de reivindicación que finalizó con un acuerdo histórico: se reguló por primera vez el uso de la Inteligencia Artificial en el trabajo.
La tecnofobia no es nueva, es una sombra que se ha proyectado en páginas y pantallas permeando innumerables historias. La tecnología suele introducirse de la mano de una promesa de progreso y cambio, pero también está mezclada con la pérdida de control, la intrusión en la privacidad y la tergiversación de la verdad. Esta ambivalencia hacia lo nuevo y lo desconocido es un tema que ya no es propio solo de la ciencia ficción, sino que ha saltado a otras historias que podríamos decir que tienen un corte más realista y que muestran cómo es nuestra nueva relación con las tecnologías. Prueba de esto es Kimi (2022) de Steven Sorderbergh, película que presenta a Angela Childs (Zoë Kravitz), una analista informática que revisa grabaciones y repara los errores de un asistente doméstico llamado «Kimi» hasta que recibe el audio de una mujer que está siendo abusada e intenta denunciarlo, descubriendo entonces que la empresa para la que trabaja arrastra una larga lista de crímenes.
La tecnología es la amenaza y también la salvación. La protagonista pasa la mayor parte de su tiempo interactuando con Kimi, es su vía de escape y su ventana al mundo al que no se atreve a salir debido a su agorafobia. A través de esta relación, la película examina temas como la soledad en la era digital, la privacidad y la confianza en la tecnología. Leitmotivs similares se exploraban en Her (2013) de Spike Jonze, pero esta era una fábula especulativa ambientada en un futuro próximo y con una óptica diferente, mientras que Kimi, tanto por su marco temporal como por su acercamiento a la tecnología, nos resulta más familiar y posible, y tal vez por eso sea más desafiante.
Si bien la crítica que se hace en Kimi no es muy profunda ni novedosa, deja abiertas las eternas dudas de dónde pondremos los límites a la tecnología, nos devuelve el miedo al control y la vigilancia – con ciertas resonancias a La Conversación (Francis Ford Coppola, 1974), el gran reflejo de la paranoia post-Watergate-, a la vez que hace completamente patente, por si no lo habíamos visto ya claro, la máxima de Donna Haraway de que todos somos cyborgs, siempre lo fuimos en realidad dice su Manifiesto Cyborg (1983), pero ahora las ficciones nos lo gritan de manera constante. A pesar de ello, parece que aún no hemos llegado a aceptar completamente esta condición.
El giro hacia lo analógico
En Kimi, la opción de Angela para no ser rastreada es simple: apagar el móvil y valerse por sí misma. La película se balancea entre el uso de la tecnología y la naturaleza humana. Un tanto premonitoria en este sentido es Enemigo Público (Tony Scott, 1998), donde también se aborda la paranoia del control. Este film de nuevo nos hace remitirnos a la película citada de Coppola, pues el personaje de Gene Hackman, en esta ocasión en lugar de obsesionarse con ser espiado, interpreta a un exagente experto en espionaje que recurre a técnicas clásicas para enfrentar la amenaza de la vigilancia gubernamental de alta tecnología.
En el 2023, dos ficciones muy dispares han dado una réplica similar a la amenaza del control de la Inteligencia Artificial. En la última entrega de la saga Misión Imposible, el equipo debe volver a lo básico y redescubrir el valor de los archivos físicos, los sistemas de comunicación analógicos y las interconexiones humanas para vencer a la «Entidad», una IA omnipotente y omnipresente. Hasta donde nos han contado en esta primera parte, este es el primer villano sin rostro de esta saga, una amenaza que no se puede ver ni comprender completamente. Un ente que aúna en sí mismo todas las angustias de los peligros abstractos el mundo real y del virtual, como la manipulación de la verdad. Es una maldad que no pueden vencer en un plano físico, por lo que resulta mucho más abrumadora. A pesar de la tendencia de la franquicia a destacar inventos imaginarios de alta tecnología, Misión Imposible: Sentencia Mortal Parte 1 (Christopher McQuarrie) explora el valor persistente de la tecnología aparentemente anticuada, en un posible guiño y retroceso a la serie original de los 60, pero que mantiene un diálogo con la actualidad asombroso que se enfatiza al haberse estrenado en medio de la huelga de guionistas de Hollywood casi de manera profética.
Nos remitimos esta vez a la pura ciencia-ficción porque solo unos meses antes del estreno de esta película finalizaba la tercera temporada Star Trek: Picard (Alex Kurtzman, 2020-2023). En los últimos episodios regresan los Borg, una raza cibernética colectiva que busca asimilar a otras especies convirtiendo a los individuos en simples extensiones de una conciencia parecida a una mente colmena. Gracias a las nuevas tecnologías implantadas en las naves de la Federación, para esta especie es sencillo hacerse con el control de la mayoría de los miembros de la Flota.
Cuando todo parece perdido, La Forge (LeVar Burton) declara que necesitan tecnología analógica. El giro que le procede parece, en un primer momento, un guiño nostálgico, pues la Enterprise-D vuelve a escena, la nave que acompañó a los protagonistas a lo largo de las siete temporadas de Star Trek: La nueva generación (Gene Roddenberry, 1987-1994) y que no se había visto tras su destrucción en la película Star Trek: la próxima generación (David Carson, 1994). Si bien esta nave no es estrictamente analógica, el término es utilizado para destacar que no está conectada a la extensa red de la Flota Estelar, una incorporación reciente en su sistema. Esta desconexión impide que los enemigos hackeen la nave, proporcionando así una ventaja crucial.
Esta trama evoca de manera muy directa a otra serie creada por Ronald D. Moore, uno de los guionistas principales de La nueva generación, y esta es Battlestar Galactica (2004-2009). En ella, un ataque devastador de los Cylons, una inteligencia artificial hostil, borra de manera fulminante mil millones de vidas humanas. Durante años, los Cylons se han infiltrado y han hackeado los sistemas humanos, pero la nave que da nombre al título permanece inmune. En un principio destinada a convertirse en un museo, la Galactica es una reliquia flotante con una tecnología tan obsoleta que resulta impenetrable para los hackeos. Y es esta obsolescencia tecnológica la que asegura la supervivencia tanto de la nave como de su tripulación.
Un posible nexo común de todas estas tecnologías anticuadas es su cualidad material. La importancia de lo físico y lo tangible parece acercarse más a lo humano y a lo individual incluso. Lo que hace que los Borg sean particularmente aterradores es justo su falta de individualidad y su mentalidad colectiva, pues cada Borg es parte de un todo, sin identidad propia ni libre albedrío, ni siquiera con pensamientos propios. La filosofía central de Star Trek es la celebración de la diversidad y la individualidad. A lo largo de la serie, los personajes humanos y alienígenas valoran y defienden la singularidad de cada ser consciente, algo que se enfrenta directamente a la condición de los Borg.
La vuelta a lo analógico no es un mero capricho nostálgico, en estos casos concretos aparece como una respuesta necesaria, a veces la única. Es una especie de búsqueda de refugio en un mundo cada vez más dominado por la digitalización. En este sentido, el retorno a lo analógico no solo representa un acto de resistencia, sino una afirmación de la identidad y capacidad humana para mantener el control en un entorno cada vez más complejo y abstracto. Es un recordatorio de que aún tenemos necesidades y deseos que trascienden la virtualidad.
Una eterna tensión
La repetición de ciertos miedos y preocupaciones en estas historias refleja las ansiedades arraigadas en la sociedad sobre el avance tecnológico y su impacto en la humanidad. Estas narrativas, ya se encuentren en un espectro más fantástico o realista, evidencian que el diálogo en torno a la intersección entre la humanidad y la tecnología permanece vigente y en constante evolución.
Deberíamos recapitular si en realidad lo que nos sigue aterrando es vernos reflejados en el espejo, ¿nos asusta verdaderamente lo que podríamos llegar a ser al fusionarnos con la tecnología o ver reflejado lo peor de nuestra identidad en las máquinas que creamos? El lamento que expresan nuestras ficciones es solo un eco de nuestros propios temores y ansiedades hacia el futuro. Como conclusión recurrente, vemos que es un recordatorio de que, si bien la tecnología puede ser una fuerza poderosa para el bien, también conlleva riesgos significativos.
Como hemos visto no todo es tecnofobia, en Kimi el asistente personal tiene un papel clave a la hora de salvar la vida de su protagonista. La película de Sorderbergh nos habla de la autonomía y el poder que todavía tenemos a la hora de utilizar la tecnología y es un reflejo muy claro de lo que Rosi Braidotti llamó el “devenir máquina”, concepto que expresa que los seres humanos están en un proceso de coevolución con la tecnología, adoptando características y comportamientos tradicionalmente asociados a las máquinas y que están integrando aspectos de la tecnología en sus vidas de formas cada vez más complejas. Esta idea propone una reconfiguración de la identidad y expande las posibilidades de lo que significa ser humano. Algo que perseguía Westworld (Jonathan Nolan y Lisa Joy, 2016-2022), pero que no terminó por alcanzar.
En nuestro mundo, aunque esta fusión con las máquinas ya se haya cumplido en un plano no tan visible, lo que propone la autora de Lo Posthumano, es decir, reconocer y abrazar esta interconexión entre humanos y tecnología, parece que aún nos aterra, o así lo dicen nuestras ficciones más mainstream, donde el humanismo clásico sigue predominando en esta tensión constante entre los cuerpos reales y el mundo digital.
[1] En su crítica de Misión Imposible: Sentencia Mortal Parte 1, Faustine Ngila en Quartz https://qz.com/dead-reckoning-mission-impossible-ai-weaponization-1850625753 habla de la preocupación de los magnates y señala la firma que se pidió para detener el avance en el trabajo de las IAs y cita el artículo de The Guardian que habla de todos los peligros a los que podemos enfrentarnos en un futuro próximo: https://www.theguardian.com/technology/2023/jul/07/five-ways-ai-might-destroy-the-world-everyone-on-earth-could-fall-over-dead-in-the-same-second
