No soy un robot. Blade Runner: RePlicantes y ReCaptcha

Pienso en mi alma: “El hombre que construye a Robot

Necesita primera ser un Robot él mismo,

Vale decir podarse y desvestirse

De todo su misterio primordial”.

                                                               Leopoldo Marechal, El poema de robot (1966)

 

Seguramente más de una vez tuviste que marcar en una página, con una tilde, la opción No soy un robot. A veces parece bastar con esta declaración de buena fe, otras te hace solucionar un pequeño test para respaldarla. Como introducir un texto incomprensible, o marcar en determinadas imágenes cuáles corresponden a puentes, colinas o autos.

Esto dispara dos interrogantes. Primero, ¿por qué no podría un “robot” ingresar a la página? ¿Qué valor se otorga a la existencia de una conciencia detrás del teclado? ¿Es solamente por su carácter de receptor de publicidad? Quizás haya llegado el momento de reformular el viejo koan zen que se preguntaba sobre el árbol que caía en el bosque sin que hubiera nadie cerca para oírlo, adaptándolo a nuestras sociedades digitales.

En segundo lugar, ¿qué nos dice sobre lo humano esa distribución de capacidades? ¿Lo que prueba que somos humanos es nuestra capacidad para interpretar, es decir, saber en unas fotos tomadas a la distancia qué es un negocio y qué el frente de una casa? ¿O en un texto borroneado y cruzado por líneas poder detectar las letras y números que forman una palabra?

Magro asiento para lo humano. En sintonía con el tema principal de Blade Runner, tanto la clásica de 1982 como su sucesora de 2017.

Hagamos rápidamente la peregrinación necesaria: Blade Runner está basada en una novela de Philip K. Dick de 1962 (¿Sueñan los androides con ovejas eléctricas?), es una película de culto dirigida por Ridley Scott, es un film noir con sus detectives, su femme fatal, su amenaza permanente flotando en un ambiente lleno de luces de neón, lluvia y, claro, replicantes.

Un replicante, como se marca desde la introducción de la película, es un ser virtualmente idéntico a un humano, creado mediante ingeniería genética. Usados como mano de obra esclava, se rebelan y son cazados por unidades especiales creadas a tal efecto, los blade runner. Ahora bien: si son virtualmente idénticos es porque hay una diferencia. Y en esa diferencia se funda también el derecho a darles muerte.

Al desobedecer los límites impuestos a su a creación, al pretender superarlos, rompieron cierta partición sensible del trabajo y el orden social sobre él asentado. Y lo que es peor, lo hicieron sin fundarse en ningún derecho, en tanto son cosas y no seres humanos. Si el argumento suena similar a cualquier rebelión de esclavos, es porque lo es. El personaje de Jared Leto lo dice en Blade Runner 2049: “todo salto civilizatorio se construyó sobre la base de una fuerza de trabajo desechable. Perdimos nuestro estómago para los esclavos, a menos que fueran diseñados”. Volveremos sobre esto.

 

El problema central de la película (más allá de los límites de su historia detectivesca) es qué define lo humano. ¿La historia y los recuerdos? ¿La posibilidad de desobedecer? ¿La presencia o ausencia de alma? ¿La capacidad de sentir emociones? ¿La muerte y la finitud?

Sí, todo eso, y seguramente más, y seguramente menos. La moraleja, en un tono derridiano, podría plantearse así: no existe la humanidad, existen efectos de humanización.

Blade Runner 2049 suma a esto una vuelta de tuerca: la inteligencia artificial. A los humanos y replicantes de carne y hueso se suman inteligencias artificiales, lógicamente más limitadas en su capacidad de incidencia real. Volvemos a la definición de replicante de 1982: las inteligencias artificiales operan también en un terreno de virtualidad idéntica, lo que no hace sino resaltar su diferencia. Sobre todo la carencia de un cuerpo, lo que no implica que no sean visibles.

Dentro del universo Blade Runner, quizás la pregunta más persistente en esta línea ha sido siempre si Deckard, el detective encarnado por Harrison Ford, es un replicante o no. El verdadero genio de la película, y de su secuela, es habilitar el planteo de la pregunta. No las respuestas contingentes que se puedan otorgar, y para las cuales la opinión de Ford importa tan poco como la de Ridley Scott.

El planteo mismo de la pregunta, ¿no presupone la dificultad para distinguirlos? Y dicha dificultad, ¿no rompe con la virtualidad de la identidad replicante-humano? Si en la práctica son indistinguibles, su distinción tendrá que ser remitida a una diversidad de origen, fundacional. Y allí es donde Blade Runner 2049 encuentra un terreno de juego que la vuelve brillante, frente a series futuristas contemporáneas como Altered Carbon y su planteo simplonamente esencialista.

Jaron Lanier, pionero en el campo de la realidad virtual, plantea en “Quién controla el futuro” que “La gran historia de nuestra época es que estamos decidiendo cómo queremos que sea la humanidad a medida que aumenten nuestras capacidades tecnológicas. ¿Cuándo tendremos la valentía de estar a la altura de nuestros propios inventos?”.

 

Volvamos al principio: ¿quién nos pide en nuestro uso diario de internet la confirmación de que no somos unos robots? La respuesta difícilmente sorprenda: Google.

La tecnología Captcha (actualmente, en su nueva versión, reCaptcha), tal el nombre de los cuadritos a tildar confirmando nuestra humanidad, es propiedad de Google desde 2009. En un principio, consistía en introducir esas palabras o números de lectura relativamente compleja que ya hemos mencionado; luego Google introdujo la declaración de identidad humana que nos ocupa. Y actualmente está virando a un sistema en que se prescinde hasta de dicha declaración.

¿Pero qué quiere decir Captcha? Conforme sus siglas en inglés: Test de Touring completamente automatizado para diferenciar entre humanos y computadoras. Es decir un test de Touring, pero que en esta ocasión nos realizan las computadoras a nosotros. ReCaptcha consiste en “una combinación de machine learning y análisis avanzado de riesgos que se adapta a amenazas nuevas y emergentes”. O lo que es lo mismo: don’t worry, nosotros sabemos lo que estamos haciendo.

Decía Deleuze ya en 1990 que “en las sociedades de control (…) lo esencial no es ya una firma ni un número, sino una cifra: la cifra es una contraseña, mientras que las sociedades disciplinarias son reglamentadas por consignas (tanto desde el punto de vista de la integración como desde el de la resistencia). El lenguaje numérico del control está hecho de cifras, que marcan el acceso a la información, o el rechazo”.

Estamos en presencia de un sistema propietario que decide si somos o no robots y brinda acceso a la información en consecuencia. ¿Qué podría salir mal?

 

La razón de existir de los Captcha sería confirmar el carácter humano del usuario, y prevenir abusos por parte de bots (programas sumamente eficientes para la realización de tareas repetitivas) en sitios web y servidores. Bot, claro, es aféresis de robot.

Claro que desde un primer momento el Captcha se presentó dotado de otros propósitos, más altruistas: auxiliar en la digitalización de textos, anotar información valiosa o clasificar imágenes, y actualmente ayudar a la construcción de bases de datos de machine learning.

Dicho de otro modo: todos somos pasantes ad honorem de Google. Su página web oficial apunta en esta dirección, agrupando las distintas utilizaciones del Captcha como creación de valor. Y dentro de este apartado, lo más sorprendente de todos: el lema “Stop a bot. Build a bot” (“Detén a un bot. Crea un bot”).

En una espiral creciente, nuestro esfuerzo humano consciente aplicado a demostrar que no somos robots está ayudando a construir la próxima generación de robots. La pedestre aplicación de nuestra inteligencia (señale en qué imágenes hay colinas) está ayudando a desarrollar la inteligencia artificial del futuro.

En Blade Runner la producción de replicantes está siempre a cargo de una corporación. Que en virtud de ello goza de una preeminencia social incontestable, representado en la película clásica por la pirámide tecnológica radicada en el medio de una degradada Los Ángeles.

El carácter propietario de esta receta tiene consecuencias muy reales para quienes no la poseen. Y su existencia misma se basa en dos factores: en primer lugar, el reconocimiento del talento humano, el genio creador detrás de la producción. Encarnado en ambas películas por un hombre, y siendo en ambas películas significativo, por motivos diferentes, la cuestión de sus ojos.

En segundo lugar, la existencia misma de los replicantes se explica por su necesidad para la conquista de otros mundos. La expansión de la frontera posible de la humanidad a partir del trabajo de autómatas. Pero no de toda la humanidad.

En una operación ideológica por excelencia, la parte de la humanidad ascendida introdujo una doble fractura social: humanos de primera vs humanos de segunda, y humanidad como un todo vs replicantes. Adivinen a quién odian más los humanos de segunda, los condenados a vivir en el planeta Tierra.

 

Para nuestras propias vidas digitales, cada vez más, será vacua también la pregunta sobre si somos humanos o robots. Porque la respuesta no la brindaremos nosotros; porque la habilitación o denegación de acceso a la información que entrañará, vendrá determinada por algoritmos ajenos a nuestro control. Y porque el único afuera posible es prácticamente inaccesible para el usuario promedio.

El anonimato y la libre circulación información serán cada vez más misterios para iniciados. ¿Recuerdan los tiempos en que bajar música y películas era lo más común del mundo? Plataformas de distribución online con copyright y ecosistemas cerrados: hemos aceptado entregar libertad de acción a cambio de no quedar afuera. Quizás deberías cerrar tu cuenta de Facebook, pero no lo vas hacer. Sería recomendable no tener un smartphone para no aceptar obligadamente condiciones con que no estamos de acuerdo. Suerte con eso.

La pasantía ad honorem que desarrollamos en la sociedad digital no tiene fecha de vencimiento. Un algoritmo seguirá decidiendo si somos humanos y merecemos acceso.

Pero lo importante para pensar alternativas de resistencia no es la respuesta contingente que podamos brindar.

Es entender, como para el caso de Deckard, por qué la pregunta es relevante.

Discusión (0)

No hay comentarios para este documento aún.

La generación de comentarios ha sido deactivada en este documento.