La Máquina Moral

Muy pronto tendremos máquinas que rueden solas por nuestras calles. Cuando tengamos vehículos autónomos, estos se encontrarán en algún momento en situaciones comprometidas y habrá algunos que tomen decisiones de las que puede depender la vida de alguna persona. Un proyecto internacional llamado La Máquina Moral acaba de publicar los resultados en los que trata de concluir qué decisiones son las que la gente encuentra aceptables en caso de que un vehículo tenga que escoger poner en peligro la vida de una persona u otra.

La Máquina Moral es un experimento global en forma de videojuego en red en el que se pide a los participantes que se pongan en el lugar del conductor de un vehículo. En un momento dado se encuentran ante la situación en que los frenos fallan y hay que decidir si el coche arrollará a personas que cruzan la carretera o si se precipitan contra una pared con lo que morirán los pasajeros. En el juego tanto los peatones como los ocupantes van cambiando de edad o de sexo, si han sido pasaje o no, o incluso si son humanos o animales.

Los responsables del proyecto afirman que han tenido 40 millones de respuestas de 233 países. Los resultados indican que de forma global los participantes prefieren proteger más a los humanos que a los animales, a los jóvenes que a los viejos, a las mujeres que a los hombres, pero los ciudadanos de diferentes países manifiestan preferencias diferentes. Los participantes de países occidentales piensan que a es los jóvenes a quienes hay que amparar al contrario de los orientales.

No es seguro que La Máquina Moral actual sirva para mucho. Poquísimos conductores se han encontrado en la situación que describe y no es seguro que la muestra sea representativa. Pero sí nos hace pensar que cuando vamos utilizando sistemas automáticos que tomen decisiones habrá que proporcionarles algún tipo de criterios. En realidad las máquinas no deciden nada por ellas solas. Seremos aquellos que las construimos y las preparamos quienes somos los responsables. Y para que las decisiones sean las que queremos, hay que estar bien informados y atentos.