Artículo de opinión de Daniel Innerarity @daniInnerarity publicado el 29/06/2022 en la Repubblica (enlace)
Let Siri or Alexa vote for us? (Artículo en inglés. Al final del mismo en italiano)
Quienes sostienen, con miedo o esperanza, que la inteligencia artificial es capaz de hacerse cargo de la democracia o puede cargársela dan por sentado que algo semejante será algún día posible y que es solo cuestión de avance tecnológico. Quiero oponer a esta concepción un límite que no es tanto normativo como epistemológico; hay cosas que la inteligencia artificial no puede hacer porque no es capaz, no porque no deba hacerlo, y esto es especialmente manifiesto en el ámbito de esa decisión tan peculiar que es la política. Las máquinas y los humanos decidimos de una manera muy diferente, estamos especialmente dotados para un tipo de situaciones y somos muy torpes en otras. Y en lo propiamente político de la política es donde este contraste y nuestra mayor idoneidad son más manifiestos. Si esto fuera cierto, como creo, entonces la posibilidad de que la democracia pueda ser algún día superada por la inteligencia artificial es, como temor o como deseo, manifiestamente exagerada, lo cual tiene también su contrapartida: si no es realista un miedo a que la democracia pueda desaparecer en manos de la inteligencia artificial tampoco habría que esperar de ella beneficios exorbitantes.
La pretensión de sustituir a la política por actividades que se le parecen (la administración, el conocimiento, la técnica) viene de lejos. El recurso a los expertos o a la técnica, su valoración con categorías económicas o como procuradora del orden social parecen más prometedores que la vieja política, ideológica y huraña, arriesgada e inexacta. La tentación de dejar atrás ese periodo de furia e imprecisión ideológica viene hoy impulsada por las técnicas que acompañan a la inteligencia artificial, la decisión algorítmica, el análisis de datos y la automatización. Esta colonización comienza, a mi juicio, por una confusión en virtud de la cual modos de pensar que tienen pleno sentido en un ámbito y que son admirados por su precisión se extrapolan a otros en los que no pueden producir más que distorsiones de la realidad.
La gobernanza algorítmica trata de reintroducir en la sociedad democrática aquel criterio seguro, exacto e incontrovertible que representaron en otro momento los expertos y que el pluralismo político se resistió a aceptar. No tiene sentido que cometiéramos con la gobernanza algorítmica aquel error que nos resistimos a cometer ante la seducción tecnocrática.
La mejor manera de defender a la política democrática es identificar bien su naturaleza. La política es una actividad que no ejerce un tipo de razonamiento lineal y deductivo, que gestiona situaciones de especial ambigüedad, que tiene que decidir en medio de una gran incertidumbre y contingencia. Esta peculiaridad la caracteriza frente a la lógica algorítmica, que exige claridad, objetividad y precisión. Aquí están los verdaderos límites de todo tratamiento algorítmico de los asuntos políticos, pero también el fundamento de la democracia. Que organicemos democráticamente la sociedad no es una concesión normativa sino, sobre todo, una consecuencia inteligente de la experiencia de que los asuntos fundamentales que se refieren a la vida pública han de ser decididos mediante instrumentos que sean capaces de gestionar un alto grado de incertidumbre.
Aquí reside la principal ineptitud de los dispositivos algorítmicos para hacerse cargo de decisiones políticas. La política consiste en decidir en medio de condiciones en las que no hay una evidencia incontrovertible, donde los objetivos suelen ser contestados, ambiguos y necesitados de concreción. Las máquinas sirven para una racionalidad de tipo instrumental pero apenas para problemas complejos cuando el problema consiste precisamente en la definición del problema, más que en su solución. La política tiene una dimensión de cálculo y medición, pero lo que más la caracteriza en una sociedad democrática es que se ocupa de articular la discusión acerca del significado de esa realidad que hemos cuantificado.
La gobernanza algorítmica que no es consciente de sus propios límites comete de entrada el error de pensar que las situaciones sociales y las soluciones políticas pueden ser categorizadas con una claridad que despeje cualquier ambigüedad. La democracia, en cambio, le debe mucho al carácter ambiguo de las realidades en las que vivimos. Tal vez no necesitaríamos organizar la discusión, tolerar la crítica o permitir la alternancia si la realidad fuera incontrovertible. Hay una conexión de fondo entre la lógica elemental de las decisiones humanas y la lógica democrática. Tenemos democracia porque la realidad es imprecisa y controvertida. La pretensión de gobernar con la mayor exactitud posible ha de precaverse de la tentación de declarar como incuestionable la exactitud alcanzada y, sobre todo, debe permitir la intervención de otras modalidades de conocimiento que no se rigen propiamente por criterios de exactitud.
Existe una conexión entre esa ambigüedad e incertidumbre en la que vivimos y nuestras instituciones democráticas. Precisamente allí donde nuestro conocimiento es incompleto son más necesarias instituciones y procedimientos que favorezcan la reflexión, el debate, la crítica, el consejo independiente, la argumentación razonada y la competición de ideas y visiones. Nuestras instituciones democráticas no son una exhibición de lo mucho que sabemos sino un reconocimiento de nuestra ignorancia.
Es política aquel tipo de decisión que tomamos cuando, incluso tras un largo proceso de deliberación y precedida por todos los análisis objetivos a nuestro alcance, la opción óptima sigue sin estar del todo clara. Quien no entienda esto interpretará que la política es arbitraria y oportunista, y será especialmente seducible por cualquier promesa de exactitud formulada por los expertos, las máquinas o los algoritmos, pero no habrá entendido de qué va la política, especialmente de qué va la política en una sociedad democrática. Un mundo humano tiene que ser un mundo negociable.
Permettiamo a Siri o Alexa di votare al nostro posto?
All’inizio del 2013, la MIT Technology Review aveva intitolato un suo numero: “I Big Data salveranno la politica”. Soltanto cinque anni più tardi, nell’autunno del 2018, in seguito allo scandalo di Cambridge Analytica, delle fake news e sull’ondata dell’incitazione all’odio su Internet, la copertina della stessa rivista recitava: “la tecnologia sta minacciando la nostra democrazia. Come possiamo salvarla?”. Un anno dopo, The Economist parlava già di un “Altoritarismo” in grado di annientare le istituzioni democratiche. Questo alternarsi di aspettative e delusioni è, forse, il segno che non sappiamo cosa possa succedere alla politica e alla democrazia nel momento in cui il contesto tecnologico cambia in maniera radicale, che non conosciamo le trasformazioni politiche legate alla robotizzazione, alla digitalizzazione e all’automazione. Questa mancanza di conoscenza spiega la formulazione di due diverse diagnosi che, seppur per ragioni differenti, implicano in qualche modo un addio alla politica: i profeti dell’entusiasmo annunciano l’assoluta supremazia della tecnologia sulla politica, considerata fondamentalmente positiva. E anche come una sorta di profezia che potrebbe perfino servire a riparare o sostituire le strutture politiche indebolite o assenti. Le nuove tecnologie permetterebbero di risolvere i problemi che la vecchia politica non è riuscita ad affrontare. La seconda diagnosi sulla fine della politica è, invece, pessimistica, poiché ritiene che il nuovo contesto tecnologico sia responsabile della sconfitta della governance nei confronti dei processi sociali e della de-democratizzazione delle decisioni politiche. La tecnofilia e la tecnofobia hanno più aspetti in comune che differenze: una mancanza di conoscenza simile e la supposizione che la logica della tecnologia possa sostituire quella della politica. L’unica differenza tra le due sta nel considerare ciò come una buona o una cattiva notizia.
Quella che stiamo affrontando è una sfida di tipo concettuale più che normativo. L’automazione richiede una riflessione su diverse categorie socioculturali, quali soggetto, azione, responsabilità, conoscenza e lavoro. I tre elementi in grado di cambiare la politica in questo secolo sono i sistemi sempre più intelligenti, la tecnologia sempre più integrata e una società più quantificata. La domanda che ci poniamo è cosa significano un autogoverno democratico e un processo decisionale politico libero in questo nuovo panorama. Per poter elaborare una teoria critica della ragione automatica, bisogna mettere a punto una teoria sul processo decisionale democratico in un contesto mediato dall’intelligenza artificiale. La domanda fondamentale riguarda il posto del processo decisionale politico in una società governata da algoritmi. La democrazia incarna la libertà decisionale, la volontà popolare e l’autogoverno: fino a che punto è possibile tutto ciò? E ha senso in contesti iperautomatizzati e basati su algoritmi sostenuti dall’intelligenza artificiale? La democrazia rappresentativa è un modo di strutturare il potere politico attribuendolo ad un particolare organismo sulla base di una catena di responsabilità e legittimità in cui trova riscontro il principio secondo cui il potere viene dal popolo. Da questo punto di vista, l’introduzione di sistemi intelligenti autonomi risulta problematica. Questo problema è ancora più evidente nei sistemi di apprendimento, poiché la funzione responsabile dell’elaborazione dei dati cambia nella fase di apprendimento. Il sistema funziona in modo adattivo e non secondo regole programmate in precedenza, rendendo più difficile l’identificazione della catena di legittimità e responsabilità (senza la quale non esisterebbe la democrazia).
Ciò è il nocciolo del problema. La democrazia riguarda la volontà popolare, e quando si verifica un cambiamento nelle condizioni in cui la volontà popolare adotta delle decisioni, si modificano anche le nostre prassi democratiche. L’aumento attuale dei sistemi decisionali automatizzati indica che ci troviamo adesso in “una sfera pubblica automatizzata” (Pasquale). Sia nelle nostre società che nei governi, vi è un ricorso sempre maggiore all’esternalizzazione delle decisioni tramite sistemi riguardanti il processo decisionale basati su algoritmi. Questi contesti automatizzati rappresentano una sfida per i processi democratici derivanti dalla volontà popolare. La sovranità democratica e l’automazione generalizzata sono compatibili? Fino a quando questi processi saranno automatici non potremo controllarli fino in fondo. Tuttavia, dovremmo strutturare il quadro e i valori in cui si sviluppano, in modo tale da continuare a considerarli come il risultato diretto della nostra volontà.
Secondo la famosa affermazione di Lincoln, la democrazia è una forma di governo in cui il popolo è titolare, soggetto e destinatario dell’azione politica. Per poter rispondere alla domanda se la democrazia liberale è indissolubilmente legata al mondo analogico, dobbiamo chiarire quale tipo di soggettività politica corrisponde alle persone nel mondo dell’intelligenza artificiale, quale tipo di volontà popolare è espressa dai big data, come decidiamo quando perfezionare i nostri processi automatizzati. Abbiamo bisogno di un Discorso di Gettysburg per la democrazia nell’epoca dell’intelligenza artificiale.
Leer más artículos de opinión de Daniel Innerarity
Leer más trabajos de Daniel Innerarity
