Artículo de opinión de Daniel Innerarity @daniInnerarity publicado el 31/07/2021 en La Vanguardia @LaVanguardia (enlace) (enllaç)
Gobernanza algorítmica
Gobernar es ya en gran medida —y lo será aún más— un acto algorítmico; una buena parte de las decisiones de gobierno son adoptadas por sistemas automatizados. Podría denominarse “algocracia” a este sistema en el que se utilizan algoritmos para recoger, cotejar y organizar los datos a partir de los cuales se toman las decisiones. La gobernanza algorítmica potencia enormemente las capacidades de gestión a través de grandes cantidades de datos y en relación con problemas complejos.
La extensión de sistemas de decisión conducidos por algoritmos y datos significa que las máquinas apoyan a los humanos en sus decisiones e incluso los sustituyen, en parte o completamente. La cuestión que todo esto plantea es hasta qué punto y de qué modo la utilización de sistemas de decisión automatizada es compatible con lo que consideramos un sistema político de toma de decisiones. ¿Qué significa realmente la introducción masiva de procedimientos de decisión automatizada para la acción de gobierno? ¿Es congruente este tipo de gobernanza con la democracia?
La gran promesa de esta tecnología es que permite conocer la voluntad real de la gente. Con un mundo lleno de sensores, algoritmos, datos y objetos inteligentes se configura una suerte de sensorium social que permite personalizar la salud, los transportes o la energía. Gracias a la ingeniería de los datos nos estamos moviendo hacia una comprensión cada vez más granular de las interacciones individuales y unos sistemas más capaces de responder a las necesidades individuales.
Los sistemas algorítmicos sirven para categorizar a los individuos y prever sus preferencias a partir de una gran cantidad de datos acerca de ellos. El modelo de negocio de muchas empresas digitales se apoya en el hecho de que conocen a los usuarios mejor que ellos mismos y, en virtud de la previsión de su comportamiento, les ofrecen lo más adecuado en el momento oportuno. El cómodo paternalismo de las sociedades algorítmicas consiste en que da a las personas lo que estas quieren, que gobierna con incentivos proporcionados, que se adelanta, invita y sugiere. Trasladar este modelo a la política no tendría mayores problemas si no fuera porque el precio de estas prestaciones suele ser el sacrificio de alguna esfera de libertad personal. Teniendo en cuenta que hay una discrepancia en la autodeterminación que supuestamente exigimos y la que de hecho estamos dispuestos a ejercer cuando hay comodidades y prestaciones de por medio, el resultado es que la satisfacción de necesidades se hace con frecuencia a cambio de espacios de libertad.
¿Cuál es entonces el valor democrático de datos, recomendaciones y prediciones? Hay quien dirá que todo eso son nuestras decisiones libres del pasado, invitaciones a decidir en el presente o apuestas acerca de cómo decidiremos en el futuro, es decir, se trata de nuestras decisiones en cualquier caso. Desde este punto de vista no habría ninguna tensión entre big data y democracia, sino todo lo contrario. Pero la democracia no es la traducción inmediata y agregada de lo que decidimos individualmente; el carácter dinámico y transformador de la vida democrática incluye un elemento de cambio, descubrimiento y emergencia para lo que no sirve un sistema pensado para hacernos descubrir únicamente lo que ya sabemos. Hoy por hoy la inteligencia artificial no parece apropiada para realizar esta voluntad de transformación, que constituye un elemento esencial de nuestra decisión democrática.
El problema estriba en que la mayor parte de las previsiones algorítmicas se basan en la idea de que el futuro será lo más parecido al pasado, de que nuestras preferencias futuras representarán una continuidad de nuestro comportamiento anterior tal y como queda registrado en los datos de nuestra movilidad o consumo. Ahora bien, la política no aspira solo a reflejar lo que hay sino a cambiar ciertas cosas de algún modo intencional. Tal vez lo más insatisfactorio de esta revolución de los cálculos es que no es nada revolucionaria. El análisis de datos actúa como un dispositivo de registro, hasta el punto de tener grandes dificultades para identificar lo que en esa realidad hay de aspiración, deseo o contradicción. Pero es que, además, si hemos de tomarnos nuestra libertad en serio, también forma parte de ella nuestra aspiración de modificar lo que hemos sido dando así lugar a situaciones hasta cierto punto impredecibles. Y a este respecto los algoritmos que se dicen predictivos son muy conservadores. Son predictivos porque formulan continuamente la hipótesis de que nuestro futuro será una reproducción de nuestro pasado, pero no entran en la compleja subjetividad de las personas y de las sociedades, donde también se plantean deseos y aspiraciones. ¿Cómo queremos entender la realidad de nuestras sociedades si no introducimos en nuestros análisis, además de los comportamientos de los consumidores, las enormes asimetrías en términos de poder, las injusticias de este mundo y nuestras aspiraciones de cambiarlo?
La gobernanza algorítmica no constituye una amenaza para la democracia porque condiciona nuestras decisiones presentes sino, sobre todo, porque se desentiende de nuestras decisiones futuras. La democracia no es hacer lo que queremos sino, muchas veces, poder cambiar lo que queremos. ¿Conocen realmente los algoritmos nuestra voluntad profunda o solo su dimensión más superficial, las rutinas más que los anhelos?
La política no es una simple administración continuista del pasado sino la posibilidad siempre abierta de quebrar esa inercia del pasado. De esa fuerza carecen los algoritmos en la medida en que hacen predicciones sin otra referencia que el pasado. ¿Cómo especificamos nuestros objetivos de modo que las máquinas no tengan que hacer otra cosa que perseguirlos eficientemente? ¿Estamos seguros de que lo que deseamos ahora será lo que deseemos en el futuro? Los algoritmos del machine learning pueden anticipar nuestras propensiones futuras y amenazar así que hagamos posibles futuros alternativos. Shoshana Zuboff formulaba acertadamente esta tendencia cuando escribía que en la era digital está en juego un derecho al futuro.
Governança algorítmica
Governar és ja en gran mesura -i ho serà encara més- un acte algorítmic; una bona part de les decisions de govern són adoptades per sistemes automatitzats. Podria anomenar-se algocracia a aquest sistema en què s’utilitzen algoritmes per recollir, comparar i organitzar les dades a partir dels quals es prenen les decisions. La governança algorítmica potència enormement les capacitats de gestió a través de grans quantitats de dades i en relació amb problemes complexos.
L’extensió de sistemes de decisió conduïts per algoritmes i dades significa que les màquines donen suport als humans en les seves decisions i fins i tot els substitueixen, en part o completament. La qüestió que tot això planteja és fins a quin punt i de quina manera la utilització de sistemes de decisió automatitzada és compatible amb el que considerem un sistema polític de presa de decisions. Què significa realment la introducció massiva de procediments de decisió automatitzada per a l’acció de govern? És congruent aquest tipus de governança amb la democràcia?
La gran promesa d’aquesta tecnologia és que permet conèixer la voluntat real de la gent. Amb un món ple de sensors, algoritmes, dades i objectes intel·ligents es configura una mena de sensorium social que permet personalitzar la salut, els transports o l’energia. Gràcies a l’enginyeria de les dades ens estem movent cap a una comprensió cada vegada més granular de les interaccions individuals i uns sistemes més capaços de respondre a les necessitats individuals.
Els sistemes algorísmics serveixen per categoritzar als individus i preveure les seves preferències a partir d’una gran quantitat de dades sobre ells. El model de negoci de moltes empreses digitals es recolza en el fet que coneixen als usuaris millor que ells mateixos i, en virtut de la previsió del seu comportament, els ofereixen el més adequat en el moment oportú. El còmode paternalisme de les societats algorítmiques consisteix en que dóna a les persones el que aquestes volen, que governa amb incentius proporcionats, que s’avança, convida i suggereix. Traslladar aquest model a la política no tindria més problemes si no fos perquè el preu d’aquestes prestacions sol ser el sacrifici d’alguna esfera de llibertat personal. Tenint en compte que hi ha una discrepància en l’autodeterminació que suposadament exigim i la que de fet estem disposats a exercir quan hi ha comoditats i prestacions de per mig, el resultat és que la satisfacció de necessitats es fa amb freqüència a canvi d’espais de llibertat.
Quin és llavors el valor democràtic de dades, recomanacions i prediccions? Hi ha qui dirà que tot això són les nostres decisions lliures de el passat, invitacions a decidir en el present o apostes sobre com decidirem en el futur, és a dir, es tracta de les nostres decisions en qualsevol cas. Des d’aquest punt de vista no hi hauria cap tensió entre big data i democràcia, sinó tot el contrari. Però la democràcia no és la traducció immediata i agregada del que vam decidir individualment; el caràcter dinàmic i transformador de la vida democràtica inclou un element de canvi, descobriment i emergència per al que no serveix un sistema pensat per fer-nos descobrir únicament el que ja sabem. Ara com ara la intel·ligència artificial no sembla apropiada per a realitzar aquesta voluntat de transformació, que constitueix un element essencial de la nostra decisió democràtica.
El problema rau en el fet que la major part de les previsions algorítmiques es basen en la idea que el futur serà el més semblant al passat, que les nostres preferències futures representaran una continuïtat del nostre comportament anterior tal com queda registrat en les dades de la nostra mobilitat o consum. Ara bé, la política no aspira només a reflectir el que hi ha sinó a canviar certes coses d’alguna manera intencional. Potser el més insatisfactori d’aquesta revolució dels càlculs és que no és gens revolucionària. L’anàlisi de dades actua com un dispositiu de registre, fins al punt de tenir grans dificultats per identificar el que en aquesta realitat hi ha d’aspiració, desig o contradicció. Però és que, a més, si hem de prendre’ns la nostra llibertat de debò, també en forma part la nostra aspiració de modificar el que hem estat donant així lloc a situacions fins a cert punt impredictibles. I referent a això els algoritmes que es diuen predictius són molt conservadors. Són predictius perquè formulen contínuament la hipòtesi que el nostre futur serà una reproducció del nostre passat, però no entren en la complexa subjectivitat de les persones i de les societats, on també es plantegen desitjos i aspiracions. Com volem entendre la realitat de les nostres societats si no introduïm en les nostres anàlisis, a més dels comportaments dels consumidors, les enormes asimetries en termes de poder, les injustícies d’aquest món i les nostres aspiracions de canviar-ho?
La governança algorítmica no constitueix una amenaça per a la democràcia perquè condiciona les nostres decisions presents sinó, sobretot, perquè es desentén de les nostres decisions futures. La democràcia no és fer el que volem sinó, moltes vegades, poder canviar el que volem. Coneixen realment els algoritmes nostra voluntat profunda o només la seva dimensió més superficial, les rutines més que els anhels?
La política no és una simple administració continuista de el passat sinó la possibilitat sempre oberta de trencar aquesta inèrcia de l’passat. D’aquesta força no tenen els algoritmes en la mesura que fan prediccions sense altra referència que el passat. Com especifiquem els nostres objectius de manera que les màquines no hagin de fer res més que perseguir-eficientment? Estem segurs que el que desitgem ara serà el que desitgem en el futur? Els algoritmes de l’machine learning poden anticipar les nostres propensions futures i amenaçar així que no puguem escollir futurs alternatius. Shoshana Zuboff formulava encertadament aquesta tendència quan escrivia que en l’era digital està en joc un dret a el futur.
Leer más artículos de opinión de Daniel Innerarity
Leer más trabajos de Daniel Innerarity
