Sfide etiche nell'era della digitalizzazione

Peter Seele, economista, filosofo e professore di etica aziendale presso la Facoltà di Comunicazione, cultura e società dell'USI e il collega Dirk Helbing, professore di Computational Social Science all’ETH di Zurigo, sono autori di una riflessione pubblicata sulla Neue Zürcher Zeitung in merito alle sfide etiche della digitalizzazione. Ripercorriamo qui alcuni spunti.

In alcuni romanzi, descrivendo avventure fantascientifiche, celebri autori si sono presi la licenza letteraria di creare delle distopie in cui la Terra viene salvata optando per il suo “spopolamento”. Oggi il tema della sostenibilità, dell’accessibilità alle risorse per tutti, è all’ordine del giorno: se da una parte l’uomo sfrutta al massimo le risorse per perpetrare i suoi interessi, dall’altra è alla ricerca di soluzioni per attuare al meglio l’Agenda 2030. Come risolvere il dilemma nella realtà? Come sottolineato dai due autori, al centro di questo processo ci sono i dubbi derivanti dalla filosofia pratica, cioè quelle situazioni per le quali non esiste una soluzione piacevole o corretta, ma tutte le possibilità d'azione creano un problema. Con la digitalizzazione, saranno gli algoritmi a governarci, in tutti i casi in cui le persone non sono in grado di esprimere valutazioni? E quali sarebbero le conseguenze per i principi di base della democrazia e dello Stato di diritto? Da queste domande di base parte la riflessione degli autori su come e se le macchine debbano prendere decisioni morali e quali principi etici dovrebbero guidare il loro comportamento.

Si parte da un dilemma esemplare, il cosiddetto "problema del carrello ferroviario", esperimento mentale di filosofia etica che propone una riflessione etica di base, più volte ripresa quando si parla dei problemi della digitalizzazione. Quale vita vale di più in caso di incidente inevitabile? Chi deve morire se non tutti possano sopravvivere? La questione è stata ripresa nel controverso "Moral Machine Experiment", che utilizza l'esempio della guida automatizzata. La domanda cruciale posta dagli autori è: come dovrebbero o possono i sistemi automatizzati decidere quando sono in gioco la vita e la morte?

I Big Data giocano un ruolo importante, sono infatti trattati e analizzati per conoscere e prevedere i comportamenti. Sebbene per legge siano resi anonimi, le possibilità di analisi stanno spostando i confini del concetto di dati personali. Prendiamo per esempio il campo della medicina: i pazienti vengono classificati per ordine di priorità in base all'archiviazione dei loro dati in cartelle cliniche digitali. Nel processo, numerosi principi di protezione dei dati che in precedenza erano destinati a proteggere i pazienti rischiano così di venir meno. Seele e Helbing sottolineano il pericolo di “deragliamento morale”: tali tecnologie violano i principi fondamentali del diritto. Ma come si dovrebbe progettare quindi l'intelligenza autonoma?

Gli appassionati di fantascienza conoscono i principi di base dell'interazione dei robot con gli esseri umani, già stabiliti dal fisico Isaac Asimov nel 1942. Tornando al dilemma etico del “carrello ferroviario”, alle regole di Asimov gli autori ne aggiungono altre: gli esseri umani e i robot devono fare tutto il possibile per ridurre al minimo il verificarsi di dilemmi etici e, se questo non è possibile, si dovrebbe applicare il principio delle pari opportunità. Società aperta, democratica e costituzionale, dignità umana, tutela della privacy, principio di uguaglianza, separazione dei poteri: sono solo alcuni dei principi inviolabili da salvaguardare anche nella società digitale del futuro.

Il commento completo, in lingua tedesca, è disponibile a questo link:
https://www.nzz.ch/meinung/ethisch-sterben-die-gefahr-der-moralischen-entgleisung-ld.1542682