La llamada Inteligencia Artificial (IA) forma parte de ese conjunto de tecnologías “convergentes” (nanotecnologías, biotecnologías, tecnologías de la información y ciencias cognitivas) que están cambiando radicalmente nuestro mundo y nuestra vida en lo que se conoce como Cuarta Revolución industrial o Revolución 4.0. Se trata de una enorme transformación económica y social que permite identificar y predecir tendencias y correlaciones y así contribuir a la toma de decisiones más atinada e informada. Esto es especialmente relevante, por ejemplo, en ámbitos de interés social como la salud, para predecir la expansión de epidemias, descubrir efectos secundarios en los medicamentos, establecer medidas contra la contaminación ambiental, etc. La economía de la transformación digital puede cambiar nuestros modos de ver y hacer las cosas y generar nuevos modelos de emprendimiento y nuevas oportunidades de activismo social. Asimismo, la IA puede mejorar la calidad de la administración pública, contribuyendo a modelos decisionales menos especulativos y favoreciendo la transparencia y la rendición de cuentas de las administraciones públicas así como la participación y el compromiso ciudadano con las políticas públicas.

La IA se basa en una explosión de artefactos e instrumentos, altamente interconectados que recogen enormes cantidades de información, de todos los objetos y también de nuestros cuerpos, que incorporan infinidad de sensores que registran todos nuestros datos. La IA procesa, cruza y reutiliza esta ingente cantidad de datos mediante algoritmos, que no son sino listas más o menos largas de instrucciones, conjuntos ordenados y finitos de pasos que pueden emplearse para hacer cálculos, resolver problemas y alcanzar decisiones.

La interacción de los seres humanos con la IA está acelerando nuestra configuración y autocomprensión como entornos socio-técnicos, donde se difuminan las fronteras entre los sujetos humanos y la tecnología y donde los seres humanos trabajamos con los artefactos en una suerte de simbiosis entre la inteligencia humana y la artificial. En este sentido, la IA es inteligencia colectiva y social, es una actividad multi-agente, en plural, por lo que sería más correcto hablar de “inteligencias artificiales”. La IA es una tecnología disruptiva porque transforma profundamente los sistemas, ya sean sociales, económicos o naturales, modificando no solo objetos, sino también hábitos, costumbres y relaciones. Y esta vocación transformadora crea conflictos éticos en múltiples fases del desarrollo tecnológico. Su auto-organización compleja crea propiedades emergentes que tienen efectos incontrolados y un fuerte impacto en la sociedad, en los individuos y en el medio ambiente.

A las tradicionales cuestiones éticas de las tecnologías sobre minimizar los daños, maximizar los beneficios de un modo sostenible y promover la inclusión y la justicia (evitando sesgos y discriminaciones), cabe añadir algunas específicas para la IA como la atribución de agencia y responsabilidad a los sistemas artificiales con muchas manos y muchas cosas conectadas o la garantía de la privacidad y la identidad personal: Los sistemas basados en IA pueden vigilar (perfilamiento) y modificar adaptativamente el cerebro (manipulación neuro-emocional o troquelado de mentes), transformando la experiencia fenomenológica del usuario, lo que afecta a su propio sentido de autonomía e identidad y, en última instancia, a la forma en que nos entendemos a nosotros mismos y a nuestras relaciones con los demás. Asimismo, en la medida en que cada vez más decisiones en la sociedad se basan en el uso de algoritmos, se puede caer en una “dictadura de datos”, donde ya no somos juzgados sobre la base de nuestras acciones reales, sino sobre la base de lo que los datos y la IA indiquen que serán nuestras acciones probables (enfermedades, conductas, accidentes de tráfico, ayudas sociales…). Incluso, la IA no responde a la “desmaterialización” de la economía que parece prometer. Por un lado, la fabricación de redes y productos electrónicos supera con creces la de otros bienes de consumo en términos de materias primas. Por otro lado, los grandes centros de computación y de almacenamiento de datos en la nube requieren enormes cantidades de energía y tienen una alta huella por emisiones de CO 2 , con un impacto medioambiental muy elevado. El consumo eléctrico es tan grande que las emisiones de carbono asociadas son ingentes. Urge pensar nuestra convivencia con la IA antes de que sea demasiado tarde. Todas las herramientas son importantes para imaginar futuros posibles que nos permitan vivir mejor: la investigación tecnocientífica, la filosofía, el derecho, la ficción y las narraciones, el arte. A ello nos dedicaremos este mes de octubre en San Telmo Museoa en un ciclo de conversaciones a las que todas y todos estamos invitados.