Cervelli e carrelli: il confine fra moralità lenta e moralità veloce nei processi decisionali
Abstract
Riassunto: L’indagine sui fondamenti neurali del giudizio morale è uno dei principali ed attuali temi di ricerca della Neuroscienza, il quale si intreccia inevitabilmente con tematiche relative all’Intelligenza Artificiale, al futuro dei trasporti e alla Filosofia della Mente. Gli esseri umani sono naturalmente dotati di un innato senso della morale, il quale è governato dalle intuizioni, ma sono anche provvisti di alcuni principi razionali. Il giudizio e il comportamento morale sono il risultato dell’integrazione fra le emozioni (“moralità veloce”) e i processi razionali (“moralità lenta”), proprio come i processi cognitivi erano una combinazione di istinto (“pensiero veloce”) e pura computazione (“pensiero lento”). Nella parte finale di questo lavoro, ho preso in considerazione i problemi di natura morale derivanti dall’introduzione dei veicoli a guida autonoma, i quali si presentano come un’applicazione diretta del problema del carrello: come dovrebbe essere programmato un veicolo per comportarsi nel caso di un incidente inevitabile, nel quale deve scegliere tra due mali?
Parole chiave: Processi decisionali; Neuroscienza; Giudizi morali; Prospettiva comparata; Problema del carrello
Brains and Trolleys: Formalizing Morality in Automated Driving Cars
Abstract: Inquiry into the neural bases of moral judgment is one of the current frontiers in neuroscientific research and is intertwined with issues in Artificial Intelligence, the future of transport, and Philosophy of Mind. Humans are naturally endowed with an innate moral sense, which is governed by intuition and informed by rational rules. Moral judgment and behavior are the byproduct of the integration of emotional (morality fast) and rational (morality slow) processes, just as cognitive processes are the result of a combination of emotional instinct (thinking fast) and computational rationality (thinking slow). In the latter part of this work, I also consider the ethical issues raised by the introduction of Automated Driving Systems by reexamining the Trolley Problem: how should an autonomous vehicle be programmed to behave in the event of an unavoidable accident, in which it has to choose between two harmful consequences harms?
Keywords: Decision-making; Neuroscience; Moral Judgments; Comparative Perspective; Trolley Problem
Parole chiave
Full Text
PDFRiferimenti bibliografici
Agnoli, P., Piccolo, F. (2008). Probabilità e scelte razionali: una introduzione alla scienza delle decisioni, Armando Editore, Roma.
Bonnefon, J.-F., Shariff, A., Rahwan, I. (2016). The Social Dilemma of Autonomous Vehicles. In: «Science», vol. CCCLII, n. 6293, pp. 1573-1576.
Butti, L. (2016). Driverless: sicurezza, responsabilità legali ed algoritmi eticamente complessi nella circolazione di auto senza conducente. In: B&P AVVOCATI, n. 4.
Churchland, P.S., Churchland, P.M. (1990). Could a Machine Think?. In: «Scientific American», vol. CCLXII, n. 1, pp. 32-37.
Citati, P. (2018). La mente colorata, Adelphi, Milano.
Coricelli, G., Rustichini, A. (2010). Counterfactual Thinking and Emotions: Regret and Envy Learning. In: «Philosophical Transactions of the Royal Society – B: Biological Science», vol. CCCLXV, n. 1538, pp. 241-247.
Daniele, M., Bucciarelli, M. (2018). Le decisioni utilitariste nei dilemmi morali sacrificali possono basarsi su intuizioni. In: «Sistemi Intelligenti», vol. XXX, n. 2, pp. 355-372.
Di Francesco, M. (2007). Neurofilosofia, naturalismo e statuto dei giudizi morali. In: «Etica e Politica», vol. IX, n. 2, pp. 126-143.
Edmonds, D. (2014). Uccideresti l’uomo grasso? Il dilemma etico del male minore, traduzione di G. Guerriero, Cortina, Milano.
Foot, P. (1967). The Problem of Abortion and the Doctrine of the Double Effect. In: «Oxford Review», vol. V, pp. 5-15.
Foot, P. (2002). Moral Dilemmas, Clarendon Press, Oxford.
French, R. (1990). Subcognition and the Limits of the Turing Test. In: «Mind», vol. XCIX, n. 393, pp. 53-65.
Gao, P., Hensely, R., Zielke, A. (2004). A Roadmap to the Future for the Auto Industry. In: «McKinsey Quarterly», n. 4, pp. 42-53.
Giunti, M., Giuntini, R. (2007). Macchine, calcolo e pensiero. In: S. Ancini (a cura di), Sguardi sulla scienza nel giardino dei pensieri, Mimesis, Milano, pp. 39-67.
Greene, J.D. (2015). Moral Tribes. Emotion, Reason, and the Gap between Us and Them, Atlantic Books, London.
Greene, J.D., Morelli, S.A., Lowemberg, K., Nystrom, L.E., Cohen, J.D. (2008). Cognitive Load Selectively Interface with Utilitarian Moral Judgment. In: «Cognition», vol. CVII, n. 3, pp. 1144-1154.
Hauser, M., Cushman, F., Young, L., Kang-Xing, J.I.N., Mikhail, J. (2007). A Dissociation Between Moral Judgments and Justifications. In: «Mind & Language», vol. XXII, n. 1, pp. 1-21.
Kahneman, D. (2011/2012). Pensieri lenti e veloci, traduzione di L. Serra, Mondadori, Milano.
Manfrinati, A. (2011). Il conflitto morale nella prospettiva delle neuroscienze. In: A. Da Re, A. Ponchio (a cura di), Il conflitto morale, Il Poligrafo, Padova 2011, pp. 69-82.
Manfrinati, A., Lotto, L., Sarlo, M. (2013). Un nuovo set di 60 dilemmi morali; dati normativi italiani per giudizi di accettabilità morale, tempi di decisione e valutazioni emozionali. In: «Giornale Italiano di Psicologia», vol. XXXV, n. 1, pp. 211-227.
Marazziti, D., Landi, P., Baroni, S., Dell’Osso, L. (2011). Esiste una neurobiologia del comportamento morale?. In: «Giornale Italiano di Psicopatologia», vol. XVII, pp. 309-321.
Mastrogiorgio, A., Petracca, A. (2015). Razionalità incarnata. In: «Sistemi intelligenti», vol. XXVII, n. 3, pp. 481-504.
Moll, J., de Oliveira-Souza, R., Bramati, I.E., Grafman, J. (2002). Functional Networks in Emotional Moral and Nonmoral Social Judgment. In: «Neuroimage», vol. XVI, n. 3, Pt 1, pp. 696-703.
Nussbaum, M. (2001). Upheavals of Thought: The Intelligence of Emotions, Cambridge University Press, Cambridge.
Oliverio, A. (2008). Neuroscienza ed etica. In: «Iride», vol. XXI, n. 52, pp. 193-215.
Renda, A. (2018). Ethics, Algorithms and Self-driving Cars – a CSI of the “Trolley Problem”. In: «Policy Insight», n. 2, - URL: https://www.ceps.eu/ system/files/PI%202018-02_Renda_TrolleyProblem.pdf.
Rossi, M.G. (2011). Dilemmi morali. In: «Sistemi Intelligenti», vol. XXIII, n. 1, pp. 187-205.
Santoni de Sio, F. (2016). Ethics and Self-driving Cars: A White Paper on Responsible Innovation in Automated driving System, Dutch Ministry of Infrastructure and the Environment Rijkswaterstaat, settembre 2016.
Santoni de Sio, F. (2017). Killing by Autonomous Vehicles and the Legal Doctrine of Necessity. In: «Ethical Theory and Moral Practice», vol. XX, n. 2, pp. 411-429.
Searle, J.R. (1980). Minds, Brains and Programs. In: «Behavioral and Brain Sciences», vol. III, n. 3, pp. 417-424.
Singer, P. (2005). Ethics and Intuitions. In: «Journal of Ethics», vol. IX, n. 3-4, pp. 331-352.
Tamburrini, G. (2017). Autonomia delle macchine e filosofia dell’intelligenza artificiale. In: «Rivista di Filosofia», vol. CVIII, n. 2, pp. 263-275.
Thomson, J.J. (1985). The Trolley Problem. In: «The Yale Law Journal», vol. XCIV, n. 6, pp. 1395-1415.
Viscusi, W.K., Aldy, J.E. (2003). The Value of a Statistical Life: A Critical Review of Market Estimates Throughout the World. In: «Journal of Risk and Uncertainty», vol. XXVII, n. 1, pp. 5-76.
DOI: https://doi.org/10.4453/rifp.2019.0006
Copyright (c) 2019 Eleonora Signorini
URLdella licenza: http://creativecommons.org/licenses/by/4.0/
Rivista internazionale di Filosofia e Psicologia - ISSN: 2039-4667 (print) - E-ISSN: 2239-2629 (online)
Registrazione al Tribunale di Milano n. 634 del 26-11-2010 - Direttore Responsabile: Aurelia Delfino
Web provider Aruba spa - Loc. Palazzetto, 4 - 52011 Bibbiena (AR) - P.IVA 01573850516 - C.F. e R.I./AR 04552920482
Dove non diversamente specificato, i contenuti di Rivista Internazionale di Filosofia e Psicologia sono distribuiti con Licenza Creative Commons Attribuzione 4.0 Internazionale.