Una gran cantidad de discusión y pensamiento ético sobre los autos sin conductor se han centrado en dilemas trágicos, como los hipotéticos en los que un automóvil tiene que decidir si atropellar a un grupo de niños en edad escolar o lanzarse por un acantilado, matando a sus propios ocupantes. Pero ese tipo de situaciones son casos extremos.
Como lo demuestra el accidente más reciente, en el que un automóvil sin conductor mató a un peatón en Tempe, Arizona, las situaciones cotidianas y mundanas en cada cruce de peatones, curvas y cruces presentan dilemas éticos mucho más difíciles y más amplios.
Ética de los extremos.
Como filósofo que trabaja con ingenieros en el Centro de Investigación Automotriz de Stanford, inicialmente me sorprendió que pasáramos nuestras reuniones de laboratorio discutiendo lo que pensé que era una pregunta fácil: ¿cómo debería un automóvil autónomo acercarse a un cruce peatonal?
Supuse que pensaríamos en cómo un automóvil debería decidir entre la vida de sus pasajeros y la vida de los peatones. Sabía cómo pensar en tales dilemas porque estos escenarios de choque se asemejan a un famoso rompecabezas filosófico llamado el "problema del carro". Imagínese que un carro fuera de control está lanzándose por las vías y está obligado a golpear a un grupo de cinco o a una sola persona. matar a uno para salvar a cinco?
Sin embargo, muchos filósofos hoy en día dudan de que investigar tales preguntas sea una vía fructífera de investigación. Barbara Fried, una colega de Stanford, por ejemplo, ha argumentado que los dilemas trágicos hacen que la gente crea que los dilemas éticos surgen principalmente en circunstancias extremas y graves.
De hecho, los dilemas éticos son ubicuos. Todos los días, las situaciones mundanas son sorprendentemente desordenadas y complejas, a menudo de manera sutil. Por ejemplo: ¿Debería su ciudad gastar dinero en un programa de prevención de diabetes o en más trabajadores sociales? ¿Debería su Departamento de Salud Pública local contratar a otro inspector para las normas de higiene de restaurantes, o continuar un programa que proporcione agujas y suministros de inyección gratuitos?
Estas preguntas son extremadamente difíciles de responder debido a las incertidumbres sobre las consecuencias, como quién se verá afectado y en qué medida. Las soluciones que los filósofos han propuesto para situaciones extremas y desesperadas son de poca ayuda aquí.
El problema es similar con los autos sin conductor. Pensar en situaciones extremas y escenarios de choque no puede ayudar a responder preguntas que surgen en situaciones mundanas.
Un desafío en los cruces peatonales
Uno podría preguntarse qué puede ser tan difícil en situaciones de tráfico mundano como acercarse a un cruce de peatones, conducir a través de una intersección o girar a la izquierda. Incluso si la visibilidad en el cruce de peatones es limitada y a veces es difícil saber si un peatón cercano realmente quiere cruzar la calle, los conductores se enfrentan a esto todos los días.
Pero para los autos sin conductor, tales situaciones mundanas representan un desafío de dos maneras.
Fácil para los humanos a menudo significa difícil para las computadoras. (XKCD, CC BY-SA) Primero, está el hecho de que lo que es fácil para los humanos a menudo es difícil para las máquinas. Ya sea que se trate de reconocer rostros o andar en bicicleta, somos buenos en la percepción y las tareas mecánicas porque la evolución construyó estas habilidades para nosotros. Eso, sin embargo, hace que estas habilidades sean difíciles de enseñar o diseñar. Esto se conoce como "la paradoja de Moravec".
En segundo lugar, en un futuro en el que todos los autos sean autos sin conductor, los pequeños cambios en el comportamiento de conducción marcarían una gran diferencia en conjunto. Las decisiones tomadas por los ingenieros de hoy, en otras palabras, determinarán no cómo conduce un automóvil, sino cómo conducen todos los automóviles. Los algoritmos se convierten en política.
Los ingenieros enseñan a las computadoras cómo reconocer caras y objetos utilizando métodos de aprendizaje automático. También pueden usar el aprendizaje automático para ayudar a los automóviles autónomos a imitar la forma en que los humanos conducen. Pero esta no es una solución: no resuelve el problema de que los ingenieros toman decisiones amplias sobre seguridad y movilidad.
Además, los automóviles autónomos no deberían conducir como las personas. Los humanos en realidad no son muy buenos conductores. Y conducen de maneras éticamente problemáticas, decidiendo si ceder el paso en los cruces peatonales, según la edad, la raza y los ingresos de los peatones. Por ejemplo, los investigadores en Portland descubrieron que los peatones negros pasan por el doble de automóviles y tuvieron que esperar un tercio más que los peatones blancos antes de poder cruzar.
Los autos autónomos deben conducir de manera más segura y más justa que las personas.
Ética mundana
Los problemas éticos se profundizan cuando atiende los conflictos de intereses que surgen en situaciones mundanas como cruces peatonales, giros e intersecciones.
Por ejemplo, el diseño de automóviles autónomos debe equilibrar la seguridad de los demás, peatones o ciclistas, con los intereses de los pasajeros de los automóviles. Tan pronto como un automóvil va más rápido que el ritmo de caminar, no puede evitar chocar contra un niño que podría correr hacia la carretera en el último segundo. Pero el ritmo de marcha es, por supuesto, demasiado lento. Todos necesitan llegar a lugares. Entonces, ¿cómo deberían los ingenieros lograr el equilibrio entre seguridad y movilidad? ¿Y qué velocidad es lo suficientemente segura?
Hay otras preguntas éticas que también surgen. Los ingenieros necesitan hacer compensaciones entre la movilidad y los impactos ambientales. Cuando se aplican en todos los automóviles del país, los pequeños cambios en la aceleración, las curvas y los frenos controlados por computadora pueden tener enormes efectos sobre el uso de energía y las emisiones contaminantes. ¿Cómo deberían los ingenieros compensar la eficiencia de los viajes con el impacto ambiental?
¿Cuál debería ser el futuro del tráfico?
Las situaciones mundanas plantean nuevos problemas éticos y de ingeniería, pero también llevan a las personas a cuestionar los supuestos básicos del sistema de tráfico.
Por mi parte, comencé a preguntarme si necesitamos lugares llamados "cruces peatonales". Después de todo, los autos autónomos pueden hacer que sea seguro cruzar una carretera en cualquier lugar.
Y no solo los pasos de peatones se vuelven innecesarios. Los semáforos en las intersecciones también podrían ser cosa del pasado. Los humanos necesitan semáforos para asegurarse de que todos puedan cruzar la intersección sin chocar y caos. Pero los autos autónomos podrían coordinarse entre ellos sin problemas.
La pregunta más importante aquí es la siguiente: dado que los autos autónomos son mejores que los humanos, ¿por qué deberían estar sujetos a reglas diseñadas para fallas y errores humanos? Y para extender este experimento mental, considere también la pregunta más general: si nosotros, como sociedad, pudiéramos diseñar nuestro sistema de tráfico desde cero, ¿cómo nos gustaría que se viera?
Debido a que estas preguntas difíciles conciernen a todos en una ciudad o en una sociedad, requieren que una ciudad o sociedad acuerden las respuestas. Eso significa equilibrar intereses en competencia de una manera que funcione para todos, ya sea que las personas piensen solo en los cruces peatonales o en el sistema de tráfico en general.
Con los autos sin conductor, las sociedades pueden rediseñar sus sistemas de tráfico. Desde el cruce de peatones hasta el diseño general del tráfico: son situaciones mundanas las que generan preguntas realmente difíciles. Las situaciones extremas son una distracción.
El problema del carro no responde a estas preguntas difíciles.
Este artículo fue publicado originalmente en The Conversation.
Johannes Himmelreich, becario de ética interdisciplinaria, Centro de la familia McCoy de la Universidad de Stanford para la ética en la sociedad
