¿Cómo tomar la mejor decisión si eres un coche autónomo?


Si eres un humano autónomo, la mejor decisión es a veces muy difícil de tomar. No solo si eres un autónomo de los que generan empleo (aunque sea para sí), sino que si eres una persona adulta y con conciencia, a veces la vida te obligará a tomar decisiones que son difíciles de ajustar a la moral más estricta.

Todo esto viene a cuento de que leo desde hace unas semanas algunos artículos que hablan del coche autónomo y de cómo puede llegar un momento en el que tomen decisiones basándose en parámetros éticos o morales. De los parámetros como “ahora, ¿salvo a mi conductor poniendo en peligro a estos inocentes, o pienso en mi conductor como un mal menor frente a esos mismos inocentes?”. Ciencia ficción en el presente, según algunos, realidad en el futuro según otros. Y para mi que todo esto no va a hacer falta…

¿Qué decisiones de tipo moral podemos plantearnos? Desde no pisarle demasiado al acelerador en una zona residencial (se puede hacer, pero está mal, aparte de que es sancionable), adelantar en una curva de mala visibilidad (posile, pero mal hecho), hasta aparcar un ratito en una zona que, potencialmente, estorbe a otros conductores. Es ese tipo de situaciones las que incluyen la moral (o moralina, depende de la persona) en la conducción diaria.

El coche autónomo como utopía del “cero accidentes”

Otras veces quedamos en que el coche autónomo podrá calcular en milisegundos (o menos) la mejor ruta instantánea dentro de la ruta general. O, por decirlo de una manera menos pedante: la ruta hacia nuestro destino será una genérica, pero el coche autónomo podrá, teóricamente y con los servicios a su alcance, recalcular mini-tramos dependiendo del estado del tráfico, de incidencias, del tiempo…

Asimismo, ya que circula solo, tendrá la capacidad de detectar los obstáculos de su entorno inmediato (coches, movimiento de los mismos, trayectorias probables,… y lo mismo para los peatones), y tendrá la capacidad de conocer aspectos de su próximo entorno gracias a la comunicación intervehicular. Es decir, sobre el papel, el coche autónomo podría hacer buena esa utopía de cero accidentes: cada uno de los coches sabrá exactamente qué ruta, velocidad y demás parámetros tomar para evitar a cualquiera de los otros vehículos en las inmediaciones. Siempre que, por supuesto, no existan los impredecibles conductores humanos.

Coche autónomo de Google
Los impredecibles conductores humanos serían el único elemento que (en mi más personal e intransferible opinión) forzaría a las máquinas a tener que tomar decisiones morales. Eso y los fallos mecánicos, pero entiendo (o presumo) que estos fallos se erradicarán en ese futuro. Pero, ¿y las máquinas? Veamos las cosas con un ejemplo (que sí, hoy es ciencia ficción):

Una tranquila mañana de invierno, clara y soleada, pero todavía muy fría, conduces tu utilitario en dirección al trabajo. Estás algo preocupado por el último balance de cuentas de la empresa y temes que en unos pocos días llegue el Inspector y destape algo con lo que no habías contado. Eso te pone tenso, la verdad. Te sientes mejor apretando algo más el acelerador, esta carretera te encanta…

De repente te encuentras una placa de hielo que hace que te lleves un buen susto. Afortunadamente, controlas el coche y, en ese instante tan corto, pero tan largo, te das cuenta de que estás en el carril contrario y un microbus con una docena de escolares está en trayectoria de colisión directa con tu utilitario. Tienes unas décimas de segundo para decidir:

  1. No haces nada, que se aparte el del microbús que se supone que te ha vistoperder el control antes de que tú te dieses cuenta.
  2. Pegas un volantazo y te encomiendas a San Galletón de la Calzada.
  3. Frenas con todas tus fuerzas, rezando para que el conductor del microbús haga algo.
  4. No haces nada, porque tu coche se ha puesto al mando y va a resolver la situación.

Cuando el coche toma el mando para resolver un problema

Lo que ocurre si eliges (4) es que el coche tiene una papeleta importante que va a resolver en unos milisegundos como máximo. Ahí, el sistema de “razonamiento” que sea, debe valorar todas las variables (de la trayectoria, de velocidades, de probabilidades de colisión y fuerzas involucradas en cada una de esas colisiones, de número de víctimas potenciales, de daños materiales, de… mil cosas) y elegir una o varias soluciones que minimicen alguna variable de forma prioritaria.

Es decir, podemos programar estos cerebros para que elijan la mejor solución para minimizar las víctimas mortales, si importar si se trata del conductor o de otros ocupantes, o de los ocupantes de otros coches. O bien elegir la solución que da exactamente la “librada” imposible, pero que gracias a la precisión de la electrónica se consigue. Todo esto es muy teórico, y no resuelve (ni creo que resuelva nunca) ese problema tan complejo y tan humano que es “la perspectiva moral del asunto“.

Y a veces, de hecho, ni los humanos sabemos resolver cosas o responder a preguntas como “si alguien va a morir, ¿quién es mejor candidato para ello, a la vista de las pruebas?”. Esas cosas no se deciden, nadie quiere hacerlo y nos parece una monstruosidad.

Por ir terminando, todo esto viene a cuento de que no creo que sea necesario que un coche autónomo tenga que tomar decisiones morales a menos que coexista con conductores humanos que, de por sí, pueden ser impredecibles. Si el conductor humano respeta las reglas del juego a rajatabla, si no tiene un momento de furia o un despiste, si no le vence el sueño, si no va bebido… entonces no haría problema. Sin embargo, para un sistema medido y controlado como sería una población completa de coches autónomos el problema no es tomar decisiones basadas en la moral: el problema es el humano.

3 comentarios

s63aut

Cualquier decisión de un ordenador responderá a decisiones humanas tomadas con anticipación, los ordenadores, al menos por ahora, no deciden al respecto, otra cosa es que su programación les haga ser objetivos y que siempre respondan igual ante una misma circunstancia, pero no sería una decisión suya, sino la simple consecuencia de no tener todos lo datos subjetivos de ese caso.

Por ejemplo, supongamos que se nos cruza delante del coche, en invierno, un animal cualquiera, doméstico o salvaje, en ese caso quizá lo ideal sea, sobretodo si hay tráfico de frente y alguna cuneta helada en el lateral, agarrarnos fuerte al volante, frenar a fondo e intentar detenernos sin darle al animal, pero considerando ese extremo como posible; hasta ahí todo correcto, pero ¿y si es un niño en lugar de un perro o un jabalí?, creo que la mayoría de nosotros se metería en la cuneta si ve que no puede detener el coche a tiempo, ¿qué haría el coche?, ¿discriminaría entre personas y animales?, ¿y entre animales domésticos o salvajes?

Enlace permanente al comentario
HijoDeCain

Siguiendo con su ejemplo de Una tranquila mañana de invierno, clara y soleada, pero todavía muy fría…

Cuando decide apretar el acelerador, su vehículo indica a los demás que no ejecuta parámetros automáticos, (inciso, lo de …esta carretera te encanta… permítame dudarlo, porque los sistemas autónomos se instalarían en viales de primer orden, o sea autopistas y autovías. Dejemos el tema, si le parece bien, en que Ud tiene prisa).

En el caso de que supere la velocidad adecuada (obtenida mediante el cálculo de parámetros como la meteorología, intensidad de vehículos, visibilidad, etc. y no sobre una regulación en soporte papel), su vehículo le informará a Ud. y al resto de usuarios de la incidencia. Si su conducta se convierte en algún momento en peligrosa para los demás, su propio vehículo alertará a los agentes de tráfico e iniciará el proceso de grabación de los parámetros de velocidad, fuerzas laterales, aceleración, deceleración, etc. Por supuesto le indicará cortésmente que su acción pone en peligro a los demás usuarios de la ruta y que por tanto, si no desiste en su actuación, iniciará los procedimientos sancionadores arriba mencionados.

Si aún persistiese en su acción, el vehículo establecerá de modo seguro la ralentización de su marcha y aparcará con las debidas precauciones en el arcén de la vía a la espera de los agentes de tráfico.
Si en el interludio por alguna razón el vehículo no fuese controlable (la acción de la placa de hielo queda descartada porque los sensores insertos en el asfalto ya habrían indicado la presencia del mismo alertando al servicio de mantenimiento y a su vehículo), el control de tracción enviaría una señal de alerta a todos los demás vehículos, indicando la fuerza de desplazamiento y el grado de deslizamiento. El resto de vehículos, con las variables físicas ofrecidas por su vehículo, calcularían el posible desplazamiento e iniciarían una trayectoria evasiva… antes de que Ud. sienta que el vehículo esta fuera de su control y la Inspección en su empresa de repente, deje de ser importante.

La estadística de cero accidentes es una utopía, pero daríamos un pequeño pasito hacia ella.

Enlace permanente al comentario
escargot

Una situación parecida… un segundo para decidir:

http://www.circulaseguro.com/vehiculos-y-tecnologi

Comentario 4. ¿Os acordáis?

Veamos, releo… seis opciones y todas acababan, como mínimo, conmigo. Y ya puestos me podía llevar a alguien más. Hice una cosa intermedia entre dos de estas opciones y… no le pasó nada a nadie.

El coche se habría equivocado.

Enlace permanente al comentario

Deja un comentario