Vaya por delante que considero este debate un poco sesgado: en condiciones normales, un humano raramente podría elegir en una situación como esta (esto es, estaríamos en manos prácticamente del azar) y, en caso de que pudiera elegir, ¿te fiarías de la decisión de una de esas personas que conducen su coche bebidas, o que van hablando con su teléfono o realizando cualquier otra actividad que les distrae?

En esas estamos mientras podemos encontrar lecturas como How Should Self-Driving Cars Choose Who Not to Kill? que vienen a recordarnos lo evidente: aunque fuera posible elegir a quién salva el coche, no seríamos capaces de ponernos de acuerdo.

Primero, las decisiones morales de las personas tienen muchas influencias. Y además, aunque tengamos una decisión basada en la moral o la inteligencia, actuaríamos por instinto:

Moral decisions made by humans are influenced by so many things. People react on the basis of hormones, but they don’t do that in a reasoned way, not when they make decisions really fast. You and I could sit and spend one hour discussing how we would like to react. But there’s no point, we cannot program ourselves to do what we would like to do because we act on instinct.

Luego están las cuestiones de cómo decidir sobre estos temas: ¿la mayoría
sería un criterio adecuado para la toma de decisiones de este tipo?

I don’t think we should default simply to what the majority says, but I do think it’s useful to know what the public prefers. It suggests what kind of pushback we’re going to get for moral codes imbued into the cars.

Por supuesto, si el coche es mío, quiero que me salve a mi. ¿Afectaría saber que el vehículo puede tomar otra decisión a mi compra?

If you say your car would preference the passenger, there will be public outrage. If you decide to treat all life equally but imperil the life of the person who bought the car, you might actually take a hit to your bottom line, people might not buy that car.

Finalmente, estamos ante sucesos raros, pero en los que pequeñas variaciones de comportamiento (un conductor probablemente pisaría el freno a fondo y, tal vez, pudiera pensar en mover el volante) pueden provocar resultados diferentes.

These situations are going to be incredibly rare. What is certainly more immediately relevant is how every small decision that the car makes is going to shift risk. If the car gives more space to children, that decision will put the driver at higher risk. This small decision might not end in fatalities but the question we’re going to have to ask is how should the car distribute risk between people.

Muy interesante. Y difícil.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.