la Repubblica, 29/09/2022 (collegamento)

All’inizio del 2013, la MIT Technology Review aveva intitolato un suo numero: “I Big Data salveranno la politica”. Soltanto cinque anni più tardi, nell’autunno del 2018, in seguito allo scandalo di Cambridge Analytica, delle fake news e sull’ondata dell’incitazione all’odio su Internet, la copertina della stessa rivista recitava: “la tecnologia sta minacciando la nostra democrazia. Come possiamo salvarla?”. Un anno dopo, The Economist parlava già di un “Altoritarismo” in grado di annientare le istituzioni democratiche. Questo alternarsi di aspettative e delusioni è, forse, il segno che non sappiamo cosa possa succedere alla politica e alla democrazia nel momento in cui il contesto tecnologico cambia in maniera radicale, che non conosciamo le trasformazioni politiche legate alla robotizzazione, alla digitalizzazione e all’automazione. Questa mancanza di conoscenza spiega la formulazione di due diverse diagnosi che, seppur per ragioni differenti, implicano in qualche modo un addio alla politica: i profeti dell’entusiasmo annunciano l’assoluta supremazia della tecnologia sulla politica, considerata fondamentalmente positiva. E anche come una sorta di profezia che potrebbe perfino servire a riparare o sostituire le strutture politiche indebolite o assenti. Le nuove tecnologie permetterebbero di risolvere i problemi che la vecchia politica non è riuscita ad affrontare. La seconda diagnosi sulla fine della politica è, invece, pessimistica, poiché ritiene che il nuovo contesto tecnologico sia responsabile della sconfitta della governance nei confronti dei processi sociali e della de-democratizzazione delle decisioni politiche. La tecnofilia e la tecnofobia hanno più aspetti in comune che differenze: una mancanza di conoscenza simile e la supposizione che la logica della tecnologia possa sostituire quella della politica. L’unica differenza tra le due sta nel considerare ciò come una buona o una cattiva notizia.

Quella che stiamo affrontando è una sfida di tipo concettuale più che normativo. L’automazione richiede una riflessione su diverse categorie socioculturali, quali soggetto, azione, responsabilità, conoscenza e lavoro. I tre elementi in grado di cambiare la politica in questo secolo sono i sistemi sempre più intelligenti, la tecnologia sempre più integrata e una società più quantificata. La domanda che ci poniamo è cosa significano un autogoverno democratico e un processo decisionale politico libero in questo nuovo panorama. Per poter elaborare una teoria critica della ragione automatica, bisogna mettere a punto una teoria sul processo decisionale democratico in un contesto mediato dall’intelligenza artificiale. La domanda fondamentale riguarda il posto del processo decisionale politico in una società governata da algoritmi. La democrazia incarna la libertà decisionale, la volontà popolare e l’autogoverno: fino a che punto è possibile tutto ciò? E ha senso in contesti iperautomatizzati e basati su algoritmi sostenuti dall’intelligenza artificiale? La democrazia rappresentativa è un modo di strutturare il potere politico attribuendolo ad un particolare organismo sulla base di una catena di responsabilità e legittimità in cui trova riscontro il principio secondo cui il potere viene dal popolo. Da questo punto di vista, l’introduzione di sistemi intelligenti autonomi risulta problematica. Questo problema è ancora più evidente nei sistemi di apprendimento, poiché la funzione responsabile dell’elaborazione dei dati cambia nella fase di apprendimento. Il sistema funziona in modo adattivo e non secondo regole programmate in precedenza, rendendo più difficile l’identificazione della catena di legittimità e responsabilità (senza la quale non esisterebbe la democrazia).

Ciò è il nocciolo del problema. La democrazia riguarda la volontà popolare, e quando si verifica un cambiamento nelle condizioni in cui la volontà popolare adotta delle decisioni, si modificano anche le nostre prassi democratiche. L’aumento attuale dei sistemi decisionali automatizzati indica che ci troviamo adesso in “una sfera pubblica automatizzata” (Pasquale). Sia nelle nostre società che nei governi, vi è un ricorso sempre maggiore all’esternalizzazione delle decisioni tramite sistemi riguardanti il processo decisionale basati su algoritmi. Questi contesti automatizzati rappresentano una sfida per i processi democratici derivanti dalla volontà popolare. La sovranità democratica e l’automazione generalizzata sono compatibili? Fino a quando questi processi saranno automatici non potremo controllarli fino in fondo. Tuttavia, dovremmo strutturare il quadro e i valori in cui si sviluppano, in modo tale da continuare a considerarli come il risultato diretto della nostra volontà.

Secondo la famosa affermazione di Lincoln, la democrazia è una forma di governo in cui il popolo è titolare, soggetto e destinatario dell’azione politica. Per poter rispondere alla domanda se la democrazia liberale è indissolubilmente legata al mondo analogico, dobbiamo chiarire quale tipo di soggettività politica corrisponde alle persone nel mondo dell’intelligenza artificiale, quale tipo di volontà popolare è espressa dai big data, come decidiamo quando perfezionare i nostri processi automatizzati. Abbiamo bisogno di un Discorso di Gettysburg per la democrazia nell’epoca dell’intelligenza artificiale.