Driven towards a moral crash

Antoni Lorente


Abstract: Accidents will survive the outbreak of driverless cars, but their moral implications will suffer substantial changes. The decision made today by a human in a fraction of a second will eventually be replaced by an algorithm subject to moral scrutiny. This not only raises the question of how the algorithm should work, or whether alternatives solutions are indeed comparable, but also changes the essence of the problem: from ascertaining liability to defining desired outcomes. In this paper, I first contest two possible approaches to resolving the driverless car dilemma – which I call statistical and nominal – to conclude that neither is morally sound. I then propose an alternative solution based on “time-relative equality”, or always sparing younger people. This follows from seeking (i) an egalitarian solution, that is (ii) the least intrusive – a position I defend from a possible ageist critique.

Keywords: Driverless Cars; Accident; Algorithm; Age-relative Equality


Condotti verso un incidente morale

Riassunto: Vi saranno incidenti anche dopo la diffusione delle auto a guida autonoma, ma le loro implicazioni morali subiranno mutamenti sostanziali. Le decisioni prese oggi in una frazione di secondo dagli esseri umani saranno alla fine sostituite da un algoritmo soggetto a controllo morale. Sorge non solo il problema di come dovrebbe funzionare questo algoritmo – o se vi siano soluzioni alternative comparabili –, ma cambia anche la sostanza del problema: dall’accertamento dell’imputabilità alla definizione dell’esito auspicato. In questo lavoro discuterò due possibili approcci per risolvere il dilemma – che chiamerò “statistico” e “nominale” –, per concluderne che non sono moralmente corretti. Proporrò quindi una soluzione alternativa, basata sulla “eguaglianza tempo-relativa”, il principio per cui bisogna sempre salvare il più giovane. Questo segue dal cercare (i) una soluzione egalitarista, che sia (ii) la meno intrusiva – una posizione che difenderò da una possibile critica che la vede come discriminatoria verso gli anziani.

Parole chiave: Automobili a guida automatica; Incidenti; Algoritmo; Eguaglianza relativa all’età

Parole chiave

Driverless Cars; Accident; Algorithm; Age-relative Equality

Full Text


Riferimenti bibliografici

ANDREWS, L.B. (2012). I know who you are and I saw what you did: Social networks and the death of privacy, Free Press, New York/London.

ARROW, K.J. (1950). A difficulty in the concept of social welfare. In: «Journal of Political Economy», vol. LVIII, n. 4, pp. 328-346.

AWAD, E., DSOUZA, S., KIM, R., SCHULZ, J., HENRICH, J., SHARIFF, A., BONNEFON, J.F., RAHWAN, I. (2018). The Moral Machine Experiment. In: «Nature», vol. DLXIII, n. 7729, p. 59-64.

BADERIN, A., BUSEN, A., SCHRAMME, T., ULAŞ, L., MILLER, D. (2018). Who cares what the people think? Revisiting David Miller’s approach to theorising about jus-tice. In: «Contemporary Political Theory», vol. XVII, n. 1, pp. 69-104.

BARSALOU, L.W. (1991). Deriving categories to achieving goals. In: M.I. POSNER (ed.), The psychology of learning and motivation, Academic Press, New York, pp. 1-64.

BOTSMAN, R. (2017). Who can you trust?: How technology brought us together – and why it could drive us apart, Penguin, London.

BUTLER, R.N. (1969). Ageism: Another form of bigotry. In: «The Gerontologist», vol. IX, n. 4, pp. 243-246.

CHANG, R. (2017). Hard choices. In: «Journal of the American Philosophical Association», vol. III, n. 1, pp. 1-21.

CINNAMON, J. (2017). Social injustice in surveillance capitalism. In: «Surveillance & Society», vol. XV, n. 5, pp. 609-625.

CITRON, D.K., PASQUALE, F. (2014). The scored society: Due process for automated predictions. In: «Washington Law Review», vol. LXXXIX, n. 1, pp. 1-33.

CRISP, R.J., TURNER, R.N. (2010). Essential social psychology, Sage, London.

DELGADO, R., STEFANCIC, J. (1994). Critical race theory: An annotated bibliography 1993, a year of transition. In: «University of Colorado Law Review», n. LXVI, n. 1, 159-193.

FISKE, S.T., TAYLOR, S.E. (1991). Social cognition, McGraw-Hill, New York.

G.D.P.R., Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46. In: «Official Journal of the European Union», vol. LIX, n. 295, 2016, pp. 1-88.

LIN, P. (2016). Why ethics matters for autonomous cars. In: M. MAURER, J. C. GERDES, B. LENZ, H. WINNER (eds.) Autonomous driving, Springer, Berlin/Heidelberg, pp. 69-85.

MASON, A. (2004). Just constraints. In: «British Journal of Political Science», vol. XXXIV, n. 2, pp. 251-268.

MILLER, D. (1992). Distributive justice: What the people think. In: «Ethics», vol. CII, n. 3, pp. 555-593.

PEACOCK, S.E. (2014). How web tracking changes user agency in the age of Big Data: The used user. In: «Big Data & Society», vol. I, n. 2, pp. 1-11.

WOLFF, J., DE-SHALIT, A. (2007). Disadvantage, Oxford University Press, Oxford.


Copyright (c) 2020 Antoni Lorente

URLdella licenza:

Rivista internazionale di Filosofia e Psicologia - ISSN: 2039-4667 (print) - E-ISSN: 2239-2629 (online)

Registrazione al Tribunale di Milano n. 634 del 26-11-2010 - Direttore Responsabile: Aurelia Delfino

Web provider Aruba spa - Loc. Palazzetto, 4 - 52011 Bibbiena (AR) - P.IVA 01573850516 - C.F. e R.I./AR 04552920482

Licenza Creative Commons
Dove non diversamente specificato, i contenuti di Rivista Internazionale di Filosofia e Psicologia sono distribuiti con Licenza Creative Commons Attribuzione 4.0 Internazionale.