ICTlogy

Entre el 6 y el 8 de noviembre se celebró en Barcelona una nueva edición del Democracy4All, un congreso internacional que explora cómo la tecnología —y especialmente la inteligencia artificial y el blockchain— pueden contribuir a repensar la democracia, la gobernanza y la participación ciudadana en el siglo XXI.

Fui invitado a participar en la mesa “The role of AI in social networks: social engineering, governance, creativity?”, junto a Alex Borutskiy (iMe), Julia Pareto (European University Institute) y Núria Ferran (Universitat de Barcelona). La conversación giró en torno al papel de la inteligencia artificial en las redes sociales y su impacto en la construcción de identidad, confianza y comunidad, así como en la propia noción de institución en el espacio digital.

El texto que sigue recoge mis reflexiones personales a partir de las notas que preparé para aquella mesa y que he editado y desarrollado posteriormente. No pretende ser una crónica del debate, sino una lectura más reposada y argumentada sobre las ideas que surgieron en torno a un mismo interrogante: cómo podemos reconstruir nuestras instituciones desde —y no contra— las redes y la inteligencia artificial.

De hacer cosas a construir sentido colectivo

Vivimos atrapados en una paradoja: tenemos más herramientas que nunca para hacer cosas, pero menos capacidad para construir sentido común. En mi intervención propuse mirar la política y la tecnología no como instrumentos para ejecutar acciones, sino como procesos para elaborar colectivamente un proyecto de convivencia.

La sociedad no se trata de hacer, sino de hacer juntos. La política no debería ocuparse de los cómo, sino de los para qué: de los fines, no de los medios. Lo demás es gestión, no gobernanza.

Por eso me interesa más el proceso de construir identidad, relaciones, confianza y creación compartida que los resultados que produce. La inteligencia artificial y las redes sociales nos obligan a revisar precisamente eso: si seguimos generando comunidad o simplemente automatizamos interacciones.

El sistema de decisiones está roto

Si las instituciones están en crisis no es solo por la irrupción tecnológica. Lo están porque han perdido su papel como espacios donde se construye sentido y se gestionan los desacuerdos.

El antagonismo —la política como conflicto entre enemigos— conduce al populismo y a la decepción. El agonismo —la política como competición entre adversarios— puede sostener el juego un tiempo, pero no entrega resultados si las instituciones dejan de funcionar. Y la deliberación —el ideal del consenso— se percibe hoy como un lujo inalcanzable: requiere demasiado tiempo, conocimiento y confianza.

Sin embargo, sin deliberación no hay visión compartida. Y sin visión compartida, la inteligencia artificial y las redes sociales se convierten en máquinas de amplificar el ruido, no de construir el futuro.

• Sobre el tema del agonismo y el antagonismo, lectura recomendada: Moran, C. (2025). “Agonism and the Sublimation of Antagonism”. En Constellations, First published: 28 April 2025. Indianapolis: Wiley Periodicals.

La pérdida de agencia no es tecnológica, sino política

A menudo se dice que los algoritmos limitan nuestra autonomía, que la IA “decide por nosotros”. Pero el verdadero problema no está en la tecnología, sino en nuestra renuncia a decidir.

El coste de la mediación digital no es perder agencia porque una máquina (algoritmos, bots, desinformación, fakes y deep fakes, inteligencia artificial, etc.) nos engañe, sino porque hemos dejado de hacer política: de debatir fines, de formular misiones, de crear propósito común. Lo que perdemos no es control sobre la información sino sobre el propósito, sobre el fijar la agenda pública, sobre el el interés general.

Las instituciones tenían —y deberían seguir teniendo— el papel de diagnosticar, ofrecer una visión panorámica, representar las minorías y asumir el coste de decidir. Cuando ese papel se diluye, la sociedad busca sustitutos en las redes o en la inteligencia artificial, esperando de ellas lo que en realidad deberían ofrecer las estructuras políticas.

El sesgo no está en el algoritmo, sino en los fines

Hablamos mucho de sesgos algorítmicos, y es importante hacerlo. Pero reducir el debate a lo técnico en mi opinión nos aleja de las causas para centrarlos en los síntomas. Porque los sesgos o la polarización o la tribalización o la simplificación de la política pública son un síntoma, no la enfermedad.

El verdadero desafío está en el propósito y la evaluación. ¿Qué tipo de debate perseguimos en redes? ¿Para qué queremos ese debate en las redes en particular y en la sociedad en general? ¿Qué propósitos apoyan el uso de la IA? Es decir, ¿para qué usamos la IA? ¿Qué impacto queremos generar? ¿Cómo medimos el éxito? ¿Por la eficiencia del proceso o por el bienestar que produce o en un sistema autoreferencial basado en audiencia por la audiencia y la adscripción acrítica a una agenda ideológica pero políticamente vacía?

Si las instituciones no definen sus misiones ni evalúan sus resultados en términos de bien público, ningún sistema algorítmico podrá ser justo. Lo tecnológico puede ayudarnos a ejecutar mejor, pero no puede decidir qué significa hacer bien.

Blockchain y la oportunidad de una institucionalidad distribuida

En ese sentido, las tecnologías descentralizadas como blockchain ofrecen un horizonte interesante, pero no tanto por su potencial de transparencia o trazabilidad —que también—, sino por su capacidad de reconocer y dar valor a los espacios no formales y comunitarios de decisión.

Podrían ayudarnos a integrar las aportaciones ciudadanas en procesos de toma de decisiones o de diseño de políticas públicas o en esquemas de democracia híbrida, donde lo institucional y lo social colaboren.

De nuevo, lo importante no es la herramienta, sino el propósito: definir misiones, estrategias y objetivos comunes. Sin eso, la tecnología descentralizada puede acabar tan vacía como la burocracia que pretendía sustituir.

Ética, creatividad y deliberación humana

La inteligencia artificial no es neutral, pero tampoco es mágica. En el fondo, sigue siendo estadística. Es excelente explicando el pasado —si los datos no están sesgados— y proyectando el futuro —si conocemos las variables posibles. Pero ni el pasado es aséptico ni el futuro está determinado.

Por eso la IA no puede reemplazar la deliberación humana ni resolver el desacuerdo social. Puede ayudarnos a entender tendencias, pero no a decidir entre valores. La ética no se programa: se negocia, se discute, se construye colectivamente.

Del mismo modo, la creatividad —también la política— no consiste en producir cosas nuevas, sino en abrir mundos posibles. En poner a las personas en relación, en hacer visible lo que antes no se veía. Y en eso, nuestras instituciones están fallando.

Hacia comunidades digitales basadas en la confianza

El futuro de nuestras comunidades digitales dependerá de si somos capaces de reconstruir la confianza. Y la confianza no se decreta: se cultiva.

Necesitamos reconocer el mapa de actores que forman parte de cada ecosistema, comprender sus relaciones, diagnosticar sus propósitos y entender por qué a veces no se incumplen los esquemas de incentivos o políticas sociales aparentemente beneficiosos para dichos actores. Solo así podremos diseñar espacios digitales seguros y libres, mediados por la inteligencia artificial pero orientados al bien común.

Reconstruir las instituciones desde las redes y la IA no significa reemplazarlas, sino reinventarlas: hacerlas más abiertas, empáticas y adaptativas. Si la inteligencia artificial puede servir para algo, debería ser para recordarnos que los datos no sustituyen al juicio, ni los algoritmos a la deliberación.

En última instancia, la tecnología no puede crear propósito, pero sí puede ayudarnos a reconocerlo. Y quizá ese sea el primer paso para volver a hacer de la política —y de la sociedad— una tarea común.

Entrada anterior: De la brecha digital al aprendizaje emancipador: la educación en un ecosistema digital