Mario Granados Chacón, investigador académico y profesor universitario.
Cuando la tecnología deja de ser una herramienta y comienza a convertirse en el entorno que condiciona nuestras decisiones
Durante décadas, Silicon Valley representó la promesa de una revolución liberadora.
Internet parecía democratizar el conocimiento, las redes sociales prometían conectar a las personas y los dispositivos digitales ampliaban hasta límites inimaginables nuestra capacidad de comunicarnos.
Sin embargo, detrás de esa extraordinaria expansión tecnológica emerge una paradoja: cuanto mayores son nuestras posibilidades de elección, más sofisticados son también los mecanismos capaces de orientar nuestras elecciones.
La pregunta ya no es solamente qué puede hacer la tecnología por nosotros, sino qué está haciendo la tecnología con nosotros.
Nos encontramos entonces ante una tesis democrática fundamental: una democracia no depende únicamente del derecho a votar o de la libertad formal de expresión; necesita ciudadanos capaces de formar sus opiniones y preferencias sin que un poder opaco controle sistemáticamente el entorno informativo en el que esas decisiones se forman. Si la autonomía del ciudadano se debilita, también se debilita la calidad de la democracia.
El historiador y editorialista británco Timothy Garton Ash (1955) ha advertido sobre el creciente poder de las grandes plataformas en el espacio público. Sus decisiones sobre contenidos, algoritmos y moderación pueden tener consecuencias profundas sobre la libertad de expresión y la democracia.
El problema ya no reside solamente en quién tiene derecho a hablar, sino también en quién controla la arquitectura que determina qué voces adquieren visibilidad.
Surge aquí la crítica del filósofo surcoreano Byung-Chul Han (1959). Su concepto de psicopolítica describe una forma de poder que no necesita recurrir a la prohibición. El individuo participa voluntariamente en su propia exposición: entrega datos, revela gustos, emociones, relaciones y preferencias. El control deja de parecer control porque se presenta como libertad, comunicación y elección personal.
El periodista estadounidense Max Fisher( ), en The Chaos Machine (2022), introduce otra dimensión: los sistemas de recomendación pueden favorecer contenidos capaces de provocar indignación, miedo o confrontación porque esas emociones generan interacción. Las redes sociales no inventaron la polarización, pero pueden amplificarla al premiar aquello que captura nuestra atención.
Y aquí somos testigos de una cuestión fundamental: la atención se ha convertido en una mercancía. Cada clic produce información. Cada búsqueda deja una huella. Cada reacción ayuda a perfeccionar un perfil.
El individuo que utiliza gratuitamente una plataforma aporta uno de los recursos más valiosos de la economía digital: datos sobre su conducta.
El pensador e historiador israelí Yuval Noah Harari (1976), lleva esta preocupación hasta una consecuencia todavía más radical. Ha advertido sobre la posibilidad de que la combinación de inteligencia artificial, datos y conocimiento biológico permita conocer aspectos de las personas que ellas mismas desconocen.
Su idea del ser humano “hackeable” plantea una transformación profunda del poder: ya no sería necesario obligar a una persona a hacer algo si fuera posible conocer sus vulnerabilidades y orientar sus decisiones desde ellas.
La cuestión democrática resulta entonces inevitable. ¿Puede considerarse plenamente libre una decisión cuando el entorno que la produce ha sido diseñado por sistemas capaces de conocer, segmentar y predecir nuestras inclinaciones?
No se trata de afirmar que los ciudadanos sean marionetas de los algoritmos. Tampoco de atribuir a Silicon Valley una capacidad omnipotente para controlar sociedades enteras. La cuestión es más concreta: la democracia presupone cierto grado de autonomía en la formación de la voluntad ciudadana, y esa autonomía merece protección cuando las tecnologías de persuasión alcanzan una escala y una precisión inéditas. La inteligencia artificial eleva todavía más el desafío.
El Papa León XIV (1955) ha situado esta transformación en un horizonte ético y antropológico. En sus reflexiones sobre la inteligencia artificial insiste en que el desarrollo tecnológico debe permanecer subordinado a la dignidad, la conciencia y la libertad humanas. La eficiencia de una máquina no puede convertirse en sustituto del juicio moral de la persona.
Las perspectivas de los cinco autores señalados proceden de tradiciones diferentes, pero permiten identificar una preocupación común: el poder contemporáneo puede operar cada vez menos mediante la coerción y cada vez más mediante la información, la predicción y la configuración del entorno en el que decidimos.
Por eso el desafío de Silicon Valley no es únicamente tecnológico: resulta ser también democrático.
Una democracia necesita pluralismo, deliberación, acceso a información diversa y ciudadanos con pensamiento crítico capaces de cambiar de opinión. Necesita también instituciones que puedan exigir responsabilidades a quienes ejercen un poder significativo sobre la esfera pública. Cuando las reglas que organizan la circulación de información quedan concentradas en sistemas privados, complejos y poco transparentes, surge una cuestión política inevitable: ¿quién vigila a quienes administran el espacio donde se forma la opinión pública?
Silicon Valley no debe convertirse en una caricatura del mal tecnológico. Allí se han producido innovaciones extraordinarias que han transformado positivamente la medicina, la educación, la comunicación y la investigación. El desafío consiste en preservar esos beneficios sin aceptar que la innovación otorgue un poder ilimitado sobre la autonomía humana.
La libertad del siglo XXI necesitará algo más que respuestas jurídicas. Necesitará autonomía cognitiva. Una persona incapaz de controlar su atención difícilmente puede deliberar. Una sociedad que desconoce cómo se selecciona la información que consume difícilmente puede comprender plenamente sus decisiones colectivas. Y una democracia cuyos ciudadanos no saben quién organiza, jerarquiza y personaliza el entorno informativo en el que forman sus opiniones enfrenta un problema que va más allá de la privacidad.
En última instancia, defender la democracia en la era digital significa defender la capacidad del ciudadano para formar su propia voluntad.
Quizá la gran batalla de nuestro tiempo no sea contra las máquinas. Más bien, deberá ser por conservar aquello que ninguna máquina debería administrar completamente: nuestra capacidad de pensar, dudar, cambiar de opinión y decidir por nosotros mismos.
Porque la forma más sofisticada de control no sería aquella que nos obliga a obedecer. Sería aquella que consigue conocer nuestras inclinaciones, anticipar nuestros deseos y orientar nuestras decisiones hasta el punto de que, cuando finalmente hacemos lo que el sistema esperaba, seguimos convencidos de que la decisión fue enteramente nuestra.
La democracia no puede sobrevivir si el ciudadano deja de ser dueño de su propia voluntad.
Lapidario final. A poner las barbas en remojo todos y cada uno en su accionar. Y que pasará con la educación cuando vivimos en una sociedad que convierte los lunes en billete verde y hoy existen carreras universitarias que es lo que potencian.