“Estás en un desierto, caminando en la arena, cuando de repente miras hacia abajo y ves una tortuga ... Te agachas y le das la vuelta a la tortuga. La tortuga yace de espaldas, su barriga se cuece al sol y golpea sus patas tratando de darse vuelta, pero no puede. No sin tu ayuda. Pero no estás ayudando ".
contenido relacionado
- Voltaire: filósofo de la ilustración y estafador de lotería
Quizás nada sea más emblemático de la película distópica de 1982 de Ridley Scott, Blade Runner, que la prueba Voight-Kampff administrada por los agentes de la ley titulares de la película, incluido Harrison Ford como Rick Deckard. La serie de preguntas en la prueba ficticia, como la anterior, está diseñada para separar a los humanos de los replicantes provocando una respuesta fisiológica que indica empatía. Solo los humanos verdaderos, no los replicantes, sienten esa emoción. El cargo de Deckard es lidiar con los replicantes que comienzan a desobedecer las órdenes. Él y otros usan la prueba para decidir si se “retiran” o no, matan a los replicantes.
Estos androides rebeldes no solo representan una amenaza para los humanos, sino que en este mundo no tienen ningún derecho legal de protección. ¿Cómo podrían ellos, cuando no son considerados humanos?
Es un dilema tan interesante que la historia continuará en la esperada secuela Blade Runner: 2049. Parte de la razón de la popularidad duradera de la película original es la lucha personal de Deckard, una que se desarrolla de manera similar en películas como Ella y se muestra como "Westworld ": ¿Quién o qué cuenta como humano, especialmente en un mundo de tecnología avanzada?
Y para entenderlo, tenemos que recurrir a algunos filósofos muy antiguos.
***
Para los antiguos griegos, las máquinas hechas por dioses o humanos excepcionalmente talentosos a menudo engañaban a la gente para que creyera que los androides eran auténticos, escribe Adrienne Mayor en Aeon. El rey Nabis de Esparta poseía una versión robótica de su esposa, su pecho adornado en secreto con uñas. Usó la máquina para abrazar a los ciudadanos que lo desobedecieron, su carne perforada por las armas ocultas. Y en China, un autómata del siglo X a. C. hecho por el inventor Yan Shi parecía tan humano, cantando y guiñando el ojo a las damas, que el rey se enfureció. Luego se enteró de la verdad y se maravilló de una máquina que incluso tenía órganos mecánicos. Como escribe el académico Nigel Wheale, "En todos los períodos, las 'cosas humanas' se han imaginado como entidades que prueban o definen el sentido contemporáneo del valor humano".
Todo esto quiere decir que las preocupaciones sobre cómo distinguir a los humanos de carne y hueso de las máquinas que simplemente parecen humanas (y decidir si esas máquinas representan una amenaza para nosotros, el Homo sapiens) no se limitan a los tiempos modernos. Siempre nos hemos preguntado si todos los humanos realmente son lo que parecen ser, razón por la cual los filósofos de la Ilustración pasaron tanto tiempo diseccionando la cuestión de lo que hace humano a un humano.
René Descartes, un filósofo francés del siglo XVII que viajó ampliamente por Europa, consideró profundamente la cuestión de qué nos hizo humanos. No es coincidencia que su cita más famosa sea repetida por uno de los replicantes en Blade Runner: "Pienso, luego existo". Y si todo eso no es prueba suficiente de su conexión con la película, considere los nombres: Descartes y Deckard
Como señala el filósofo Andrew Norris, Descartes sospechaba que algún día podría ser necesario probar si algo era humano o máquina. "Si hubiera máquinas con imágenes de nuestros cuerpos, y capaces de imitar nuestras acciones en la medida en que sea moralmente posible, quedarían dos pruebas más seguras para saber que, por lo tanto, no eran realmente hombres", escribió Descartes. Entonces creó sus propias pruebas, que se basaban en la capacidad lingüística y la flexibilidad de comportamiento.
Los replicantes hablan y se comportan igual que los humanos, lo que significa que pasarían las pruebas de Descartes. Pero hay otra razón por la que Deckard lucha por refutar su humanidad: los replicantes también tienen recuerdos implantados. Para el filósofo inglés John Locke, lo que le da a una persona un sentido de sí mismo es la continuidad de sus recuerdos. El cuerpo humano cambia con el tiempo, pero los recuerdos permanecen, ofreciendo una base para una identidad estable. "En la medida en que esta conciencia pueda extenderse hacia atrás a cualquier Acción o Pensamiento pasado, hasta ahora llega a la Identidad de esa Persona", escribió Locke.
Entonces, para Rachael de Blade Runner, el replicante más avanzado desarrollado hasta ahora, no importa que solo tenga unos pocos años; Sus recuerdos se remontan mucho más lejos, dándole la impresión de haber vivido mucho más. Eso es lo que hace que Rachael sea una figura tan trágica: "sus" recuerdos no le pertenecen. Vienen de la sobrina de su inventor.
"Eso es algo desgarrador, pero puedes imaginar que [los recuerdos] siguen siendo especiales para ella, incluso después de que se entera de que no son realmente suyos", dice Susan Schneider, profesora de filosofía en la Universidad de Connecticut y miembro de Ética y Tecnología. grupo en Yale. “Es como descubrir que eres la copia cargada, no la persona que está cargando. Pero aún tienes alguna relación especial con ellos. Como un padre ".
Pero no son solo los recuerdos o la racionalidad los que hacen a un humano en Blade Runner. Lo más importante de todo, según la prueba de Voight-Kampff, es la empatía. Como no podemos leer las mentes ni ver ninguna evidencia física de ellas, pensadores como el filósofo alemán Theodor Lipps han argumentado que podemos percibir que otros sienten y actúan como lo hacemos a través del poder de la empatía.
Harrison Ford como Rick Deckard administra la prueba Voight-Kampff en el Blade Runner original. (Warner Bros.) "El Blade Runner debe, irónicamente, probar la empatía de los demás, no aquí, en el sentido de Lipps, sino en su sensibilidad hacia un mundo natural ahora perecido poblado por animales no humanos", escribe Norris en su artículo sobre La filosofía de la película. De aquí viene la famosa pregunta de la tortuga atrapada en su espalda en el desierto.
"Las emociones en sí mismas nunca serán una prueba perfecta de la humanidad: los sociópatas también son humanos, después de todo", dijo por correo electrónico Deborah Knight, profesora de filosofía en la Universidad de Queen. “Pero las emociones son más que respuestas no cognitivas. Nos ayudan a emitir juicios sobre lo que debemos hacer y a quién debemos aspirar a ser ".
Esto es especialmente claro en el caso del replicante Roy Batty, interpretado por Rutger Hauer. Roy siente emociones similares a las de los humanos y tiene aspiraciones, pero no tiene una vida humana, dijo Knight. Roy es consciente de que, al igual que los otros replicantes, fue construido para morir después de solo cuatro años, lo que es comprensible que lo enfurezca.
Por lo tanto, se puede decir que los replicantes sienten emociones y tienen recuerdos. ¿Eso los hace humanos? Para Schneider, una respuesta definitiva no necesariamente importa. Los replicantes comparten suficientes cualidades con los humanos que merecen protección. “Es un caso muy fuerte para tratar [a un no humano] con los mismos derechos legales que le damos a un humano. No llamaríamos a [Rachel] un humano, sino tal vez una persona ”, dice ella.
Para Eric Schwitzgebel, profesor de filosofía en la Universidad de California en Riverside, la conclusión es aún más dramática. "Si algún día creamos robots con capacidades cognitivas y emocionales similares a las humanas, les debemos más consideración moral de la que normalmente le deberíamos a seres humanos similares", escribe en Aeon. “Habremos sido sus creadores y diseñadores. Por lo tanto, somos directamente responsables tanto de su existencia como de su estado feliz o infeliz ".
***
Blade Runner es solo una película y los humanos aún no han logrado crear replicantes. Pero hemos hecho muchos avances en inteligencia artificial, desde autos autónomos que aprenden a adaptarse al error humano hasta redes neuronales que discuten entre sí para ser más inteligentes. Por eso, para Schneider, las preguntas planteadas por la película sobre la naturaleza de la humanidad y cómo podríamos tratar a los androides tienen importantes implicaciones en el mundo real.
“Una de las cosas que he estado haciendo es pensar si alguna vez se sentirá algo como ser una IA. ¿Habrá alguna vez un Rachael? ”, Dice Schneider, quien usa Blade Runner en su clase de filosofía en ciencia ficción. Este año, Schneider publicó un artículo sobre la prueba que desarrolló con el astrofísico Edwin Turner para descubrir si un ser mecánico podría ser consciente. Al igual que la prueba Voight-Kampff, se basa en una serie de preguntas, pero en lugar de exigir la presencia de empatía (sentimientos dirigidos hacia otro), considera los sentimientos acerca de ser uno mismo. La prueba, llamada Prueba de conciencia AI, está en proceso de patentarse en Princeton.
La prueba difiere de la prueba de Turing más famosa, desarrollada por el matemático Alan Turing en 1951. En esta prueba anterior, un juez entablaba una conversación digital con el participante (como lo que experimentaría hoy en las salas de chat), haciendo preguntas para discernir si el encuestado era humano o una máquina. Pero como Schneider señala en su artículo, los científicos pueden desarrollar programas que pasan la prueba de Turing pero no son seres conscientes. La prueba de Turing está interesada en evaluar la verosimilitud entre la respuesta de una máquina y la respuesta de un humano, no con la comprensión de si la máquina es sensible o no. Al igual que la prueba Voight-Kampff, la prueba de conciencia de inteligencia artificial de Schneider trata de tratar de entender lo que está sucediendo dentro de la máquina.
Un trabajo como este es urgente, dice, porque la humanidad no está éticamente preparada para lidiar con las repercusiones de crear vida sensible. Lo que hará que juzgar nuestras creaciones sea aún más difícil es la dependencia humana del antropomorfismo para indicar lo que debe considerarse como un ser digno de consideración moral. "Algunos [robots] parecen humanos, o son lindos y esponjosos, así que pensamos en nuestros gatos y perros", dice Schneider. “Nos hace creer que ellos sienten. Somos muy crédulos. Puede resultar que solo los sistemas biológicos pueden ser conscientes, o que las IA más inteligentes son las conscientes, esas cosas que no parecen humanas ".
Es importante que los científicos consulten con los filósofos, lo que muchos ya hacen, dice Schneider, pero también que los miembros del público piensen en las repercusiones de este tipo de tecnología. Y, agrega, no todos los filósofos están de acuerdo con la naturaleza de la conciencia, por lo que no hay respuestas fáciles.
Tal vez películas de Hollywood como Blade Runner: 2049 nos acerquen un paso más a participar en esas conversaciones. Pero si no es así, tendremos que asumir el trabajo de entrar en el atolladero ético por nuestra cuenta. Más temprano que tarde, o terminaremos con un problema como los replicantes y sin idea de cómo responder.
