Democracia en la era de la IA: el arte de la fricción productiva

Hola, soy Domenico.
Te recuerdo que he cambiado las redes sociales por el correo para conectar contigo de forma más directa. Puedes darte de baja en el enlace del final.

Hoy quiero hablarte de un dilema que define nuestro tiempo: la tecnología promete soluciones fáciles, inmediatas y sin esfuerzo, pero la democracia ,y nuestra soberanía como ciudadanos, exige algo más. No se trata de rechazar la innovación, sino de preguntarnos: ¿qué perdemos cuando delegamos demasiado, demasiado rápido?
La trampa del "cero fricción"

Nos vendieron un futuro donde todo sería instantáneo: un clic para participar, un algoritmo para decidir, una IA para gobernar. Pero detrás de esa promesa de comodidad se esconde una trampa: la delegación sistemática de nuestra agencia a sistemas diseñados para maximizar el control corporativo. La experiencia de usuario "frictionless" no es neutral: es el diseño de una jaula de dopamina, donde la participación ciudadana se reduce a reacciones emocionales, likes y compartidos, mientras la verdadera deliberación, que es necesariamente lenta, incómoda y compleja, desaparece.

¿Cómo llegamos aquí? Recurriendo al mito griego de Heracles en la encrucijada, podemos entenderlo mejor:

• Kakia (el camino de la comodidad): Promete una vida sin obstáculos. En el mundo digital, esto se traduce en plataformas que eliminan la fricción para retener nuestra atención, diseñadas para adicciones, no para la reflexión. La democracia en este escenario se vuelve pasiva, vulnerable a la manipulación, y termina siendo un juego de algoritmos que priorizan el conflicto y el engagement sobre el bien común.
• Areté (el camino de la virtud): Requiere esfuerzo. En la democracia digital, esto significa fricción productiva: debate lento, documentos largos, consenso construido con tiempo y conflicto. La fricción no es un defecto, sino un requisito para la resiliencia de las instituciones y la cognición colectiva.

La "mierdificación" (
enshittification
): cómo las plataformas se convierten en jaulas

Entre la promesa de comodidad (cero fricción) y la entrega del poder a corporaciones (Control Plane), hay un proceso que el activista Cory Doctorow denomina "mierdificación" (
enshittification
): la degradación sistemática de las plataformas digitales, que pasan de ser útiles a extractivas, de atraer usuarios a esclavizarlos, y de priorizar el bien común a maximizar el lucro de unos pocos. Este ciclo no es accidental, sino diseñado para que las plataformas se vuelvan indispensables y, una vez que lo logran, exploten esa dependencia hasta vaciar el espacio público de todo lo que lo hacía valioso.

Las tres fases de la mierdificación

Doctorow describe un patrón inevitable en las plataformas centralizadas, que se repite en casi todos los sectores digitales:

Fase 1: La trampa de la atracción (Pérdidas iniciales)

Las corporaciones entran en un mercado ofreciendo servicios a pérdida o con condiciones aparentemente generosas:

- Ejemplo 1: Los blogs vs. las redes sociales
En los años 2000, los blogs eran espacios de reflexión profunda y soberanía digital: requerían esfuerzo (escribir, leer textos largos, mantener servidores con herramientas como RSS), pero permitían a los ciudadanos controlar sus propias voces y datos. Las redes sociales (Facebook, Twitter, Instagram) llegaron prometiendo visibilidad instantánea y gratis. Al principio, los blogueros usaban estas plataformas como megáfono para redirigir tráfico a sus blogs (ej.: compartir enlaces en Twitter). La comodidad ganó: la gente dejó de leer artículos completos, se quedó en los titulares, y finalmente abandonó sus blogs para publicar directamente en las redes.
- Resultado: Las redes ganaron tráfico, pero los blogs perdieron autonomía y profundidad.
- Ejemplo 2: Amazon y el comercio electrónico
Amazon empezó con precios bajísimos, envíos gratuitos y una selección aparentemente ilimitada, destruyendo a librerías locales y competidores pequeños. Para los consumidores, era una bendición: todo más barato y rápido. Pero detrás de esa fachada, la plataforma capturaba datos de compra, hábitos y preferencias sin que los usuarios lo supieran.

Fase 2: La captura de la atención (Extracción de valor)

Una vez que las plataformas han hecho adictos a sus usuarios y han eliminado a la competencia, cambian las reglas del juego para extraer valor:

- Ejemplo 1: Las redes sociales y el algoritmo del conflicto
Facebook y Twitter dejaron de ser lugares para compartir enlaces y se convirtieron en máquinas de engagement emocional. Sus algoritmos priorizan el conflicto, la indignación y la viralidad porque generan más tiempo de pantalla y, por tanto, más publicidad. Lo que era un espacio público diverso se convirtió en un monocultivo de indignación.
- Impacto en la democracia: Los debates se simplifican a 280 caracteres, las noticias se comparten sin contexto, y la polarización se monetiza. El espacio público se degrada.
- Ejemplo 2: Amazon y la esclavización de vendedores
Cuando Amazon ya había centralizado la demanda, obligó a los vendedores a usar su marketplace para sobrevivir. Hoy, los pequeños negocios pagan hasta un 50% de sus ganancias en comisiones y publicidad dentro de la plataforma. Los productos más visibles no son los mejores, sino los que pagan por publicidad.
- Resultado: Un catálogo degradado, donde los productos patrocinados ahogan a los relevantes.

Fase 3: La explotación total (Monocultivo y extracción máxima)

En la fase final, la plataforma ya no necesita esconder su naturaleza extractiva, porque los usuarios y los vendedores no tienen alternativa:

- Ejemplo 1: Las redes sociales como "extractores de atención" Instagram, TikTok y YouTube reducen el contenido orgánico para mostrar solo publicidad y contenido patrocinado. Los creadores dependen de algoritmos opacos que deciden quién tiene visibilidad y quién no, sin transparencia. La soberanía del creador desaparece.
- Consecuencia para la democracia: Los ciudadanos dejan de ser sujetos políticos para convertirse en objetos de publicidad.
- Ejemplo 2: Amazon y el "todo incluido"
Hoy, Amazon no solo vende productos: controla la logística, los pagos, el almacenamiento y hasta la publicidad. Los vendedores no pueden escapar porque no hay alternativa viable. Los consumidores tampoco, porque Amazon es la única opción para muchos productos.
- Resultado: Un ecosistema donde todos pierden menos Amazon.

¿Por qué esto importa para la democracia?

La mierdificación no es solo un problema de plataformas de redes sociales o comercio electrónico: es un mecanismo que se repite en la IA corporativa. Cuando las administraciones públicas adoptan herramientas como Google Workspace, Azure IA o sistemas de "gobierno por IA" de proveedores privados, están cediendo el control de sus procesos a infraestructuras diseñadas para extraer valor, no para servir al bien común.

• En la Fase 1: Gobiernos usan estas herramientas porque prometen eficiencia y automatización (ej.: chatbots para atención ciudadana).
• En la Fase 2: Descubren que los algoritmos priorizan conflictos y publicidad sobre la transparencia (ej.: sistemas de justicia predictiva que refuerzan sesgos).
• En la Fase 3: Ya no hay marcha atrás: el sistema depende de una corporación que no rinde cuentas.

AI como infraestructura de poder: el "Control Plane"

El verdadero campo de batalla no es la sofisticación de los modelos de lenguaje, sino el "Control Plane": la infraestructura donde se orquestan los datos, los procesos y las decisiones. Empresas como Google ya no venden chatbots; venden el sistema operativo donde los agentes autónomos gobiernan la burocracia. Si las administraciones públicas adoptan estos sistemas sin cuestionarlos, cederemos el poder de decisión a corporaciones que no rinden cuentas ante nadie.

Recientemente, en eventos como Google Cloud Next 2026, la corporación ha dejado de posicionarse como un proveedor de herramientas de IA para presentarse como el sistema operativo de la "organización agentica": un entorno donde los modelos como Gemini dejan de ser chatbots para convertirse en capas de orquestación, gobernanza y conexión. En esta arquitectura, herramientas tradicionales como Google Workspace ya no son el producto principal, sino un mero lienzo donde los usuarios supervisan a los agentes que operan en segundo plano.

Si una administración pública adopta este modelo sin restricciones, estará delegando decisiones, escrutinio de información y ejecución burocrática a un entorno propietario. El resultado es claro: la corporación se convierte en el árbitro absoluto de la esfera pública.

Hormesis democrática: la dosis que fortalece

La democracia necesita fricción. Pero no cualquier fricción: la que fortalece, no la que paraliza. El concepto de hormesis, tomado de la biología, donde pequeñas dosis de un estresor (como el ejercicio) fortalecen el organismo, puede ser la clave para diseñar sistemas cívicos resilientes en la era digital.

¿Qué es la hormesis democrática?

Es el principio de que la exposición controlada a tensiones productivas (como el debate riguroso, la lectura de textos complejos o la negociación de consensos) fortalece la capacidad de una sociedad para resistir crisis y manipulación. En el siglo XXI, esto se traduce en:

1. Fricción productiva:
- Debate lento: Espacios donde el tiempo no es un lujo, sino un recurso para profundizar (ej.: asambleas ciudadanas con documentos previos y moderación humana).
- Documentos accesibles, pero no simplificados: Información pública clara, pero que exige esfuerzo cognitivo para ser comprendida en su totalidad (ej.: presupuestos participativos con datos detallados).
- Consenso construido: Procesos donde el desacuerdo no se resuelve con encuestas instantáneas, sino con deliberación iterativa.
2. Tecnología como facilitadora, no como sustituto:
- Herramientas que reduzcan la fricción técnica (ej.: interfaces intuitivas para acceder a datos públicos), pero que preserven la fricción cívica (ej.: foros donde los argumentos se desarrollen en hilos largos, no en respuestas de 280 caracteres).
3. Sistemas auditables y locales:
- Modelos de IA de código abierto, hosteados en servidores comunitarios, que permitan a los ciudadanos verificar cómo se toman las decisiones sin delegar esa responsabilidad a algoritmos opacos.

El riesgo: de la hormesis a la asfixia

El principio de hormesis es claro: la dosis hace el veneno. Si la fricción es excesiva, si participar en la democracia digital requiere ser ingeniero de IA, terminaremos empujando a la mayoría de los ciudadanos hacia las plataformas corporativas por pura necesidad de usabilidad. Esto no solo excluye, sino que alimenta el populismo, que promete eliminar la fricción (y con ella, la complejidad democrática) a cambio de lealtades emocionales.

El rol de los profesionales: arquitectos de la soberanía

La solución no está en que cada ciudadano se convierta en experto en IA, sino en que profesionales y organizaciones dedicadas al diseño cívico asuman un rol activo:

- Diseñar herramientas locales de IA que sean accesibles, pero que protejan espacios de decisión humana.
- Auditar modelos de lenguaje (como los Small Language Models)
para garantizar transparencia y privacidad.
- Construir "bosques oscuros" (Dark Forest): redes federadas y locales que actúen como escudos contra la extracción corporativa.

El "Bosque Oscuro": redes federadas y soberanía digital

La metáfora del "Bosque Oscuro", inspirada en el concepto de ciencia ficción donde los bosques oscuros son espacios donde no entran los depredadores, se aplica aquí como una estrategia para proteger la soberanía digital. Se trata de:

• Redes federadas locales: Sistemas descentralizados (como Mastodon, PeerTube o Matrix) donde las comunidades hostean sus propios servidores, evitando la concentración de datos en manos de gigantes tecnológicos.
• AI comunitaria: Modelos de lenguaje pequeños (SLMs) entrenados con datos locales y hosteados en infraestructura propia, garantizando que los algoritmos reflejen los valores de la comunidad, no los intereses de los accionistas.
• Perímetros de resistencia: Espacios digitales donde la extracción de datos es imposible porque no hay un "Control Plane" centralizado que pueda ser capturado.

Este enfoque no es una utopía: ya existe. Proyectos como Lemmy, WriteFreely o ActivityPub demuestran que es viable construir alternativas descentralizadas que prioricen la privacidad, la transparencia y la autonomía. La clave está en dejar de buscar soluciones globales y empezar a construir redes locales, resistentes y conectadas.

El código abierto como salvaguarda

La viabilidad de este ecosistema no es una utopía, sino una realidad al alcance de administraciones y sociedad civil. Los modelos de código abierto actuales (como Mistral o Qwen) ya compiten en sofisticación con los sistemas propietarios. La diferencia: permiten auditar, modificar y hostear la IA en servidores locales, garantizando confidencialidad y autonomía.

Reflexión final: ¿Qué democracia queremos?

Más allá de la tecnología, hay una pregunta fundamental: ¿qué tipo de sociedad estamos construyendo cuando delegamos nuestra capacidad de decisión a sistemas opacos, diseñados para maximizar el lucro?

La democracia no es un algoritmo. No es una IA que sintetiza opiniones en tiempo real. La democracia es un proceso lento, incómodo y colectivo, donde el conflicto, la negociación y el consenso son sus pilares. Cuando eliminamos la fricción, no solo perdemos soberanía: perdemos la esencia misma de lo que significa gobernarse a uno mismo.

La tecnología puede ser una herramienta de liberación o de opresión. Todo depende de quién controle la infraestructura y con qué fines. Hoy, el poder no se disputa en los servidores de Silicon Valley, sino en nuestra capacidad para imaginar —y exigir— un futuro donde la IA sirva a la democracia, y no al revés.

Hormesis democrática: la dosis que salva

La hormesis democrática no es un concepto abstracto: es una estrategia de supervivencia. En un mundo donde los algoritmos prometen democracia sin esfuerzo, la fricción se convierte en el antídoto contra la manipulación y la apatía. Pero para que funcione, debe ser:

• Deliberada: No dejarla al azar, sino diseñarla en los procesos cívicos.
• Inclusiva: Accesible para todos, sin caer en el elitismo técnico.
• Auditable: Transparente en su funcionamiento y en sus límites.

El desafío no es elegir entre tecnología y democracia, sino diseñar tecnologías que entiendan que su propósito último es servir a la democracia, no reemplazarla. Como decía el filósofo Ivan Illich, "el instrumento por excelencia del hombre es el hombre mismo". La IA no es una solución mágica, sino un espejo:

refleja las preguntas que le hacemos, pero no las respuestas que necesitamos.
¿Qué opinas?
¿Cómo podríamos aplicar el "Bosque Oscuro" en tu comunidad o entorno profesional? ¿Que formas puede adoptar la Hormesis Democrática? ¿O ves algún obstáculo insalvable para construir estas redes federadas?

Un abrazo,
Domenico