Commercial Content Moderation: An opaque maze for freedom of expression and customers’ opinions
Abstract
Abstract: The present work analyses Content Moderation, focusing on ethical concerns and cognitive effects. Starting from a general description and history of the moderation process, it stresses some ethical problems: quality of moderation, transparency, and the working conditions of human moderators. Using some of Facebook leaked slides offering examples of moderation, we define some controversial rules and principles for Commercial Content Moderation. These examples highlight a general lack of coherency and transparency, which has the potential to affect users’ cognitive attitudes, their perception of reality, and their freedom of speech. Such effects are studied in comparison to other well-known online cognitive phenomena (bubbles and echo chambers) and in relation to the most recent dedicated legislation in EU countries. The current Content Moderation scheme leaves users at risk of specific cognitive distortions, highlighting the urgent need for greater transparency throughout the moderation process and better working conditions for moderators.
Keywords: Content Moderation; Freedom of Speech; Epistemic Bubble; Technology Ethics
Commercial Content Moderation: un oscuro labirinto per la libertà d’espressione e le opinioni degli utenti
Riassunto: Il presente lavoro offre un’analisi approfondita della moderazione di contenuti, concentrandosi sulle problematiche etiche e sugli effetti cognitivi. A partire da una introduzione ai concetti chiave e alla storia della moderazione di contenuti online, si concentra su alcuni problemi etici primari: la qualità della moderazione, la sua trasparenza e le condizioni di lavoro dei lavoratori. Utilizzando dei documenti formativi interni di Facebook, pubblicati da un quotidiano e dagli esempi in essi contenuti, definiremo le controverse regole e i principi della Commercial Content Moderation. Ne emerge una generale mancanza di coerenza organizzativa e di trasparenza nel processo, che mostra potenziali effetti dannosi sulle attitudini degli utenti, sulla loro percezione della realtà e la loro libertà di parola. Tali effetti saranno studiati in confronto con i più conosciuti effetti cognitivi del mondo dei social (epistemic bubble, filter bubble, echo chamber) ed in relazione alle più recenti disposizioni di leggi europee in merito. Gli schemi attualmente in uso producono degli specifici effetti di distorsione cognitiva e conseguentemente mostrano l’importanza di una maggiore attenzione alla trasparenza del processo e alle condizioni di lavoro dei moderatori.
Parole chiave: Moderazione di contenuti; Libertà di parola; Bolla epistemica; Etica della tecnologia
Parole chiave
Full Text
PDFRiferimenti bibliografici
ARFINI, S., BERTOLOTTI, T., MAGNANI, L. (2018). The diffusion of ignorance in on-line communities. In: «International Journal of Technoethics», vol. IX, n. 1, pp. 37-50.
GILLESPIE, T. (2018). Custodians of the internet, Yale University Press, New Haven (CT).
HARDWIG, J. (1991). The role of trust in knowledge. In: «The Journal of Philosophy», vol. LXXXVIII, n. 12, 1991, pp. 693-708.
HINDS, J., WILLIAMS, E.J., JOINSON, A.N. (2020). “It wouldn’t happen to me”: Privacy concerns and perspectives following the Cambridge Analytica scandal. In: «International Journal of Human-Computer Studies», vol. CXLIII, 2020 – doi:10.1016/j.ijhcs.2020.102498.
JAMIESON, K.H., CAPPELLA, J.N. (2008). Echo chamber: Rush Limbaugh and the conservative media establishment, Oxford University Press, Oxford.
KIRANOĞLU, G. (2016). Copyright and the internet: The case of Napster. In: «International Journal of Human Sciences», vol. XIII, n. 2, pp. 2758-2767.
MCCULLOUGH, B. (2018). How the internet happened, Liveright Publishing Corp., New York.
MILLER, B., RECORD, I. (2013). Justified belief in a digital age: On the epistemic implications of secret internet technologies. In: «Episteme», vol. X, n. 2, pp. 117-134.
NELSON, J.L., WEBSTER, J.G. (2017). The myth of partisan selective exposure: A portrait of the online political news audience. In: «Social Media + Society», Ju-ly/September, pp. 1-13.
PARISER, E. (2011). The filter bubble: What the internet is hiding from you, Penguin, London.
PREECE, J., MALONEY-KRICHMAR, D., ABRAS, C. (2003). History of online communities. In: K. CHRISTENSEN, D. LEVINSON (eds.), Encyclopedia of community: From village to virtual world, Sage Publications, Thousand Oaks, pp. 1023-1027.
ROBERTS, S.T. (2019). Behind the screen. Content moderation in the shadow of the social media, Yale University Press, New Haven (CT).
THI NGUYEN, C. (2018). Echo chambers and epistemic bubbles. In: «Episteme», vol. XVII, n. 2, 2018, pp. 141-161.
WOODS, J. (2005). Epistemic bubbles. In: S. ARTEMOV, H. BAR-RINGER, A. GARCEZ, L. LAMB, J. WOODS (eds.), We will show them: Essays in honour of Dov Gabbay, vol. II, College Publications, London, pp. 731-774.
DOI: https://doi.org/10.4453/rifp.2020.0021
Copyright (c) 2020 Paolo Petricca
URLdella licenza: http://creativecommons.org/licenses/by/4.0/
Rivista internazionale di Filosofia e Psicologia - ISSN: 2039-4667 (print) - E-ISSN: 2239-2629 (online)
Registrazione al Tribunale di Milano n. 634 del 26-11-2010 - Direttore Responsabile: Aurelia Delfino
Web provider Aruba spa - Loc. Palazzetto, 4 - 52011 Bibbiena (AR) - P.IVA 01573850516 - C.F. e R.I./AR 04552920482
Dove non diversamente specificato, i contenuti di Rivista Internazionale di Filosofia e Psicologia sono distribuiti con Licenza Creative Commons Attribuzione 4.0 Internazionale.