El dilema del dilema del tranvía

Se terminaba de consolidar la capacidad de construir, a escala masiva, vehículos de conducción automática. El perfeccionamiento técnico de la visión por computadora, del modelado de trayectorias de otros vehículos y de la capacidad de reconocer por inteligencia artificial a toda la complejidad del fenómeno del tráfico transformaban esta utopía en una realidad. Los dueños de las empresas de transporte estaban maravillados. Esto implicaba una gigantesca reducción de gastos por la suspensión salarial de millares de personas, sumado al ahorro de las obras sociales y de todo el tiempo muerto que las personas suelen destinar a recrearse y dormir.

Los transportistas no compartían su brillo en los ojos. Con bombos y redoblantes se habían reunido en las terminales, los galpones y las oficinas de su sector, vociferando una inquietud convencida y coordinada. Los años que habían dedicado a trabajar fueron una fuente de ingresos para la compañía, de los cuales sólo una pequeña parte había llegado a los bolsillos de los conductores. La adquisición de los vehículos automáticos corría por cuenta de la porción que se quedaban sus empleadores. Un pedazo del esfuerzo que habían puesto no sólo no los beneficiaba, sino que ahora los dejaría en la calle, en favor del crecimiento de una rentabilidad extraordinaria y ajena. Exigían respuestas.

Por suerte, del otro lado del mundo, la firma que desarrollaba y vendía esta nueva tecnología contaba con un comité de ética, destinado a discutir problemas prácticos y morales en relación al uso generalizado de sus nuevos coches. Por desgracia, destinaban casi todos sus desarrollos, discusiones y presentaciones en público a polemizar, en distintos contextos, a quiénes era mejor atropellar.

El dilema del tranvía es uno de los problemas éticos más populares. Es fácil de entender y genera desacuerdos y discusiones. En su formulación más común, un tranvía avanza por un carril sobre el que hay cinco personas atadas a las vías. Una persona tiene la opción de operar una palanca para desviarlo y salvarlas, pero el carril alternativo también tiene una persona atada que moriría con el cambio de rumbo. En la mayoría de sus formulaciones suele haber poco acuerdo.

En la vida cotidiana, este tipo de dilemas morales son muy improbables. No sólo porque hay cada vez menos tranvías, sino porque casi nunca nos encontramos en situaciones donde en nuestras acciones se juegue inmediatamente la vida o muerte de distintos grupos de personas. El objetivo original de estos problemas no es resolver un problema práctico mediante la ética, sino que es un experimento mental para ver qué postura ética nos cierra más.

Por ejemplo, desde marcos morales como el cristiano o el kantiano, hay acciones que quedan absolutamente vedadas. Una de ellas es matar. Para estas posturas, matar a uno para salvar a cinco no es lícito, es inmoral. En cambio, para las éticas utilitaristas, el valor moral de las acciones se mide por sus efectos, es decir, en relación a cuánto “bienestar” generan en el mundo o cuánto “malestar” reducen. Desde estas perspectivas, no se dudaría un segundo en apretar la palanca y evitar cuatro muertes.

El experimento mental del tranvía sirve, entonces, para evaluar sistemas éticos. Dicho mal y pronto, un sistema ético (cualquiera sea) define, para un sinfín de situaciones, qué acciones están bien y cuáles están mal. Comprometernos con un sistema ético implica comprometernos con su clasificación moral de las acciones. Si no estamos de acuerdo con lo que nos dice un sistema ético particular que hay que hacer en una situación, entonces no estamos de acuerdo con el sistema en cuestión. Pero para la mayoría de los casos, hay muchísimo acuerdo entre los sistemas éticos que manejamos. Ni para Moisés, ni para Kant, ni para Bentham o John Stuart Mill está bien andar por la vida trompeándonos con cualquiera que se cruce en nuestro camino. Para casi todas las situaciones, la clasificación de las acciones como buenas o malas es más o menos la misma entre distintas posturas éticas. Entonces, si queremos saber con qué sistema moral nos sentimos más a gusto, lo que debemos hacer es imaginar alguna situación relativamente inverosímil en que las posturas difieran, es decir, en que un sistema ético nos diga que A está bien y B está mal, y otro nos diga lo contrario. En ese caso, nuestra inclinación por A o por B nos va a mostrar con qué sistema ético nos sentimos más cómodos. El dilema del tranvía nació para hacer este tipo de experimentos mentales.

Lo más interesante del dilema del tranvía está quizás en sus variantes. En el caso que mencionamos anteriormente, muchas personas concordarían en que estaría bien desviar el tranvía y disminuir la cantidad de muertes. Sin embargo, hay otra formulación, también muy popular, en que en lugar de decidir si desviar o no el vehículo tenemos la opción de empujar a alguien a las vías para que el vehículo se detenga. En esta versión, no serviría que nosotros mismos nos arrojáramos, por ser demasiado flaquitos como para llegar a frenar el tranvía. La persona que tenemos al lado, en cambio, sí podría, y se encuentra en una posición fácilmente empujable para nosotros. La situación sigue siendo la misma: cinco muertes contra una, teniendo en cuenta que nuestra inacción resultaría en la muerte de cinco y que la acción que haríamos para salvarles causaría la muerte de alguien que de otro modo no habría muerto. Pero este segundo caso es mucho más gráfico y directo, y podría hacernos cambiar de opinión. Si cambiamos de opinión, esto implica que ninguna de las posturas éticas que barajábamos nos cierra del todo. En general, las decisiones morales que tomamos en nuestras vidas no se llevan a cabo por deducción desde un sistema moral al que adscribimos.

Los dilemas del tranvía son un planteo de un caso borde, entre posturas éticas, para ayudar a definirnos por alguna postura en particular. Sus distintas variantes, junto a los cambios de opinión que tenemos ante las mismas, nos muestra la enorme dificultad de definirnos al respecto. Sin embargo, hay muchísimas cosas sobre las cuales, sin tener que atarnos a tal o cual sistema ético, podemos concordar en que están bien o que están mal. Por ejemplo, el hecho de que un avance tecnológico resulte en una enorme concentración de poder y de ingresos, en un beneficio de los menos a costa de los más, y en un crecimiento extraordinario de la desocupación, es algo que a muchos nos parece mal sin necesidad de discutir si Mill o Kant.

Discutir sistemas éticos toma muchísimo tiempo, y sirve sobre todo para ponernos de acuerdo sobre qué hacer en los casos borde, en las pocas situaciones en que hay desacuerdo. El desarrollo tecnológico plantea problemas urgentes y políticos, asociados a las dinámicas monopólicas de producción y a la creciente inequidad que significa en el marco económico en que se inserta. Si ya estamos de acuerdo con algo, podemos intervenir sobre eso sin necesidad de lograr un consenso incondicional sobre absolutamente todo. Imaginar situaciones hipotéticas con tranvías es una distracción de un problema mucho más sustancial respecto de, por ejemplo, la capacidad de producir masivamente vehículos autónomos.

Discutamos primero qué va a pasar con el poder, que es algo que requiere de solución urgente (porque una vez que se consolidan ciertos poderes, se vuelven muy difíciles de distribuir). Discutamos los efectos estructurales y sistémicos de la inteligencia artificial. Después veamos los detalles.

El único dilema del tranvía que me gusta hipotetizar es el de los frutos del torrente tecnológico que vivimos, y el poderío sin precedentes que implica a nivel técnico, económico y político. ¿Redirigimos el tranvía para que llegue al grueso de la humanidad? ¿O dejamos que siga su curso hacia un par de oligopolios?