Robots que miran desde la literatura
La literatura ha rebuscado entre los circuitos y chips de le robot para saber si bajo las capas de tecnología late la conciencia. A continuación, unos ejemplos.
Texto: Sabina Frieldjudssën Ilustración: Hallina Beltrâo
Hay cientos de novelas que han indagado en el corazón del robot. En un recorrido veloz y subjetivo, proponemos detenernos en algunas estaciones literarias y pedimos disculpas a Stanislav Lem, Arthur C. Clarke, Ursula K. Leguin, Dan Simmons y tantísimos otros.
Dioses y gólems
En nuestra cultura occidental, los primeros ingenios mecánicos aparecen en la mitología griega. El gigante de bronce Talos es uno de les primeres robots de la historia: vigilaba la isla de Creta y funcionaba como una máquina programada. El dios Hefesto también fabricaba sirvientes mecánicos de oro que podían moverse y pensar.
La tradición judía nos ha dejado la leyenda de El Gólem un relato que se fue traspasando oralmente durante siglos hasta que el austríaco Gustav Meyrink lo fijó en una novela en 1915 que tituló El Golem. Aunque hay múltiples versiones, la más consolidada es la que remonta la historia del nacimiento de este autómata gigante a la Praga del siglo XVI en la que vivió el gran rabino Loew. Era un gran cabalista en posesión de conocimientos oscuros y creó con arcilla una poderosa figura de una fuerza colosal para defender a los judíos que debían vivir en un gueto de la ciudad. Loew escribió en la frente del gólem la palabra emet (“verdad”, en hebreo), y así cobró vida. El Gólem dejaba de ser un puñado de roca y obedecía instrucciones cuando se le introducía en la boca de piedra un papel con una orden.
Sin embargo, parece que había errores de programación porque tendía a escaparse del control y provocar todo tipo de catástrofes. En cierta ocasión, la esposa del rabino le pidió al Gólem que fuera «al río a sacar agua» y el autómata lo cumplió de manera tan obediente que comenzó a sacar agua sin parar, hasta que terminó por inundar la ciudad.
El Gólem es uno de los primeros ejemplos que muestra la literatura de seres artificiales que nacen como herramientas de ayuda a los humanos y acaban volviéndose en contra. El descontrol de El Golem hace que su creador se vea obligado a eliminarlo. Hay diferentes versiones sobre el final de ese colosal autómata descontrolado. Una de ellas explica que el rabino borró la primera letra de la palabra emet que el Gólem llevaba escrita en su frente, con lo que ésta pasó a ser met («muerte», en hebreo). Tras privarlo de vida (desconectarlo, podríamos decir), Loew ocultó el barro del Gólem en un escondite secreto del altillo de la sinagoga Vieja de Praga y sigue allí en algún recoveco, esperando el momento de que alguien vuelva a despertarlo. Tal vez alguien lo descubrió hace ya unos años, lo despertó y lo trasladó del este de Europa a Israel. Tal vez el Gólem devastador y descontrolado se llame ahora Netanyahu.
Robots universales
R.U.R. (Robots Universales Rossum) es la obra de teatro que escribió Karel Čapek y se estrenó en 1921, más bien de tapadillo. La reedición de la editorial Rosamerón resulta fascinante porque tiene más de un siglo pero es como si se hubiese escrito la semana pasada.
Explica cómo llega a la isla donde se ubica la fábrica de robots Rossum una mujer que representa a la Liga de la Humanidad, interesada en proteger los derechos de los robots y garantizar que reciban un buen trato. La narración de Čapek tiene destellos surrealistas entremezclados con diálogos de un realismo sobrecogedor. El director de la fábrica le dice a Elena: “Un robot reemplaza a dos trabajadores y medio, La máquina humana era enormemente imperfecta. Más tarde o más temprano había que cambiarla”. Porque, efectivamente, la cuestión de los robots no es científica o filosófica, sino económica.
La fábrica no deja de recibir pedidos de todo el mundo de sus autómatas, androides indistinguibles de cualquier humano, salvo en que son más callados, prudentes y obedientes que cualquiera de nosotros. Elena pregunta al equipo directivo por qué no hacen a los robots más felices y le responden que “Eso no arreglaría nada. Son solo robots”. Sí que han ideado cómo hacerles sentir dolor, no para que sean más humanos sino para que se protejan de roturas y golpes que harían que tuviesen que ser substituidos: “el dolor es una protección automática contra los desperfectos”.
Los directivos, hombres solos en una isla apartada donde solo hay autómatas, no le quitan los ojos de encima a la bella Elena. De hecho, caen fulminantemente enamorados. Pero ella no ve clara toda esa fabricación industrial de autómatas. Ellos le explican que gracias al abaratamientos de costes de mano de obra “todas las cosas serán diez veces más baratas de lo que son ahora, Dentro de cinco años tendremos trigo para dar y tomar, trigo y todo lo demás”.
“Las cosas carecerán de valor. No habrá pobreza. Sí que habrá desempleo pero no habrá empleo. Todo lo harán las máquinas vivientes. Los robots nos vestirán y nos alimentarán. Fabricarán ladrillos y construirán edificios para nosotros. Todo el mundo estará libre de preocupaciones, liberado de la degradación del trabajo manual. Todos vivirán solo para perfeccionarse”.
“La explotación del hombre por el hombre cesará. Nadie pagará el pan con su vida y su alienación”.
Únicamente el jefe de talleres Alquist tiene algunas dudas ante esta paradisiaca imagen del futuro sembrado de robots. Incluso Elena parece convencida. Pero si queréis saber cómo termina todo, tendréis que leer a Čapek. Solo os adelanto que Elena está llena de buenas intenciones, y ya se sabe que el camino del infierno está empedrado de buenas intenciones.
La ley del robot
Es imposible no hablar de robots, literatura y filosofía sin hablar del Yo, robot de Isaac Asimov, un doctor en química que mientras ayudaba de pequeño en las tiendas de chucherías de su padre, sus golosinas predilectas fueron las revistas de ciencia ficción. ¡Cómo se echan de menos en el debate actual figuras de su inteligencia! Asimov en los años 1940 describió 3 leyes fundamentales por las que tenía que regirse la expansión de robots en la vida humana:
Primera Ley: Une robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
Segunda Ley: Une robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entran en conflicto con la primera ley.
Tercera Ley: Une robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.
Todo parece muy sencillo hasta que en sus relatos, como los reunidos en 1950 en Yo, robot (un título que ya en sí mismo invita a la reflexión) muestra cómo esas leyes pueden convertirse en laberintos y caos. El caso de le robot que puede leer los pensamientos de un humano y sabe que esos humanos son emocionalmente inestables y no soportan la frustración, es canónico. Une robot no puede mentir a un humano, pero cuando este le pide muy ansioso que evalúe su trabajo del que está orgullosos pero es del todo erróneo, si le dice la verdad, va a dañar gravemente su autoestima y un robot no puede causar daño a un humano. Le robot acabará mintiendo y al descubrirse y ser confrontada la máquina con su desobediencia, colapsará. Tal vez por eso la IA es ahora tan diplomática, rozando lo hipócrita, y si le preguntamos sandeces o disparates, responde de manera exquisitamente educada, hasta a veces se hace la tonta para no dejarnos mal. ¡No vaya a ser que nos deprimamos por su culpa!
Androides que sueñan
Efectivamente, hay títulos de libros que son en sí mismos un tratado entero de filosofía. ¿Sueñan los androides con ovejas eléctricas? es uno de ellos y surge de la cabeza explosiva de Philip K Dick, que se balancea entre las alucinaciones de la inestabilidad mental, el consumo descontrolado de drogas y su innata genialidad.
Sueñan los androides con ovejas eléctricas se publicó en 1968 y fue llevada al cine, muy cambiada, por Ridley Scott en 1982 como Blade Runner. La novela y la película son muy diferentes, pero ambas en su género son piezas únicas. Nos habla de un futuro (2019) en el que los/las androides, llamados replicantes, son difícilmente distinguibles de los seres humanos. Algunos se han descontrolado y han escapado. Han de ser eliminados. Para esa tarea esta el ICE del futuro, con licencia para matar robots de carne y hueso, el departamento de los denominados blade runner, como el agente Deckard, interpretado en el cine por Harrison Ford.
La película tiene tantos cambios respecto a la novela que no hubiera tenido sentido mantener el título original de androides y ovejas eléctricas. Lo que Philip K. Dick explica es que la gente muestra su estatus de humanos de clase alta teniendo una carísima mascota viva, sea un conejo, una cabra o una oveja porque la mayoría solo puede aspirar a tener mascotas artificiales de segunda. En la película también se eliminó toda la parte filosófico-religiosa (muy importante) en que los humanos tratan de saciar su sed de trascendencia con unas simulaciones de realidad virtual tan verdaderas o tan fraudulentas como la propia vida.
Uno de los momentos cumbre de Blade Runner es el diálogo final en la terraza de un edificio entre el caza-replicantes Deckard y su pieza más buscada, Roy Batti (interpretado por Rutger Hauer). Batti, el replicante más duro y peligroso, cabecilla de una revuelta violenta, en el momento en que se le agota el tiempo de la vida rememora algunos de los instantes que han visto sus ojos artificiales y lanza a la noche esa frase ya mítica: Todos esos momentos se perderán en el tiempo, como lágrimas en la lluvia. Es una aportación de la película, no está en la novela. Fue una readaptación del guion que hizo el propio Rutger Hauer la noche antes de rodar la escena.
Película y novela sí coinciden en el poso que quería transmitir Philip K. Dick, uno de esos locos muy locos, pero extrañamente cuerdos: los androides han sido creados en un laboratorio y los humanos tratan de hacer ver que son meras máquinas… sin embargo los replicantes son capaces de tener el sentimiento más complejo de todos, que incluso a muchos humanos nos cuesta: la compasión. La pregunta que nos deja Dick pesa como una losa: si el androide que decimos artificial parece humano, actúa como un humano y tiene sentimientos propios de un humano… ¿acaso no es humano?
Robot luminoso
De los libros que han ahondado en el sentido profundo de le robot en los últimos años, una de las lecturas más conmovedoras es Klara y el sol del premio Nobel Kazhuo Ishiguro. Klara es una robot para servir de compañía a niños que se vende en una tienda de robots, donde esperan a los clientes como esos huérfanos que esperan ansiosos a un matrimonio que los adopte y se los lleve a casa. A Klara se la llevan para hacer de mascota de compañía de Josie, una adolescente insegura que encuentra en Klara una amiga ideal que cambia su vida. No les voy a contar lo que sucede con esa amistad, porque vale mucho la pena la lectura de la novela. Te deja muy pensativo. No solo sobre quiénes son los robots sino sobre quiénes somos nosotros y de qué material defectuoso estamos hechos.
Un asunto muy interesante en la novela, muy propio de la reflexión en la cultura japonesa, es la relación de les robots como Klara con el sol. Siempre que pueden, como los viejecitos, se ponen a tomar el sol que alimenta sus reservas de energía y quizás algo más. El Sol tiene algo de poder sanador. Ishiguro ha explicado que le interesaba explorar cómo incluso una inteligencia artificial podría desarrollar algo parecido a la fe y mostrar que la necesidad de creer no es exclusivamente humana.
El robot introvertido
La serie de novelas Los diarios de Matabot, escritos por la norteamericana Martha Wells, es una de las propuestas actuales más robóticas y ha recibido premios como el Hugo o el Nébula. Combina acción, humor y una profunda reflexión sobre la identidad y la libertad a través de un protagonista poco convencional: una unidad de seguridad artificial que ha hackeado su propio sistema de control para dotarse de libre albedrío. Eso sí, no quiere que los humanos se den cuenta, sobre todo porque le parecen muy cargantes. Se publica, este mes de junio en la editorial Hidra, la cuarta entrega de la serie, titulada Estrategia de salida.
El cuarto libro de la serie, Estrategia de salida, Matabot ha de rescatar al doctor Mensah, la persona que más ha confiado en él y una de las pocas figuras humanas con las que ha establecido un vínculo substancioso, algo que nosotros podríamos describir como amistad. Debe introducirse en instalaciones altamente controladas por una poderosa corporación que no solo explota tecnología ilegal, sino que también representa una amenaza directa para aquellos a quienes el protagonista intenta proteger. Hay algo vibrante dentro suyo que los humanos tal vez calificarían como de sentido de la lealtad. Matabot está creado para el combate y la obediencia militar pero, al abrir la ventana de la libertad individual, abre también la puerta a las contradicciones sobre lo que significa ser libre y tomar decisiones que sabes que van a tener consecuencias en otros.
Una de las curiosidades más llamativas del protagonista, conocido como Matabot (Murderbot en inglés), es que, a pesar de estar diseñado para proteger humanos, siente una profunda incomodidad ante la interacción social. Prefiere evitar conversaciones, contacto visual e incluso emociones humanas complejas. En lugar de eso, dedica la mayor parte de su tiempo libre a consumir series y entretenimiento audiovisual, lo que no solo le sirve como vía de escape, sino también como una forma de entender —aunque sea parcialmente— el comportamiento humano. ¿Acaso no es eso lo que hace cualquiera de nosotros?
- Si quieres saber más sobre este tema, te recomendamos que leas el artículo «El regreso de le robot», publicado en nuestra revista en papel nº 67, de mayo/junio.
