Mario Granados Chacón, investigador académico y profesor universitario.
El desafío de construir un orden digital que subordine el poder económico y geopolítico a la dignidad humana, la justicia social y la democracia.
La inteligencia artificial (IA) representa – hoy – uno de los mayores desafíos políticos, jurídicos y éticos de nuestro tiempo.
Su capacidad para transformar la economía, la educación, el trabajo y la comunicación encierra oportunidades extraordinarias, aunque– de igual manera – plantea interrogantes complejas sobre la libertad, la igualdad y el futuro de las instituciones democráticas.
Así, el problema fundamental no es únicamente cómo desarrollar esta tecnología, sino quién debe gobernarla, bajo qué principios y en beneficio de quién.
La gobernanza mundial de la IA constituye –en tal vía – una disputa por el poder. Mientras las tecnologías adquieren alcance global, las instituciones encargadas de regularlas continúan fragmentadas entre Estados, organismos internacionales y empresas privadas.
Esta asimetría nos traslada hacia un cuestionamiento decisivo: ¿podrá la comunidad internacional establecer reglas comunes antes de que la concentración tecnológica determine las condiciones de nuestra propia convivencia?
Estados Unidos, China y la Unión Europea representan enfoques diferentes frente a esta transformación. Estados Unidos ha otorgado un papel central a la innovación empresarial y a la competitividad, aunque también ha desarrollado algunas medidas regulatorias y de seguridad. China combina la promoción de sus capacidades tecnológicas, con una intervención estatal más amplia y con controles sobre determinados contenidos y servicios. La Unión Europea – por su parte – ha impulsado un enfoque basado en los riesgos, los derechos fundamentales y las obligaciones jurídicas, especialmente mediante su Reglamento de Inteligencia Artificial. (EU Al Act 2024)
Estas diferencias enumeran algo más profundo que una competencia comercial,desnudando concepciones distintas sobre la relación entre Estado, mercado, libertad y seguridad. La rivalidad por los semiconductores, los datos y la infraestructura informática, así como los modelos avanzados de IA, constituyen– también – una lucha por definir las reglas del orden digital.
Sin embargo, una tecnología que atraviesa fronteras no puede gobernarse exclusivamente mediante decisiones nacionales. Las decisiones de un reducido número de gobiernos y empresas afectan a sociedades enteras, incluso cuando estas carecen de recursos para desarrollar sus propios sistemas o participar en su regulación.
La Declaración Universal de Derechos Humanos (1948) proporciona una referencia esencial para orientar la gobernanza internacional. La privacidad, la libertad de expresión, la igualdad y la participación política no pierden vigencia en los entornos digitales. Todo lo contrario: adquieren nuevas dimensiones ante sistemas capaces de procesar información personal, clasificar individuos y automatizar decisiones.
Los algoritmos pueden reproducir discriminaciones, facilitar la vigilancia masiva, manipular la información y condicionar el acceso al empleo, el crédito o a los servicios públicos. Cuando sus procedimientos son oscuros, las personas encuentran dificultades para conocer las razones de una decisión, cuestionarla y exigir responsabilidades.
La UNESCO, mediante su Recomendación sobre la Ética de la Inteligencia Artificial (2021), estableció orientaciones internacionales centradas en los derechos humanos, la inclusión y la responsabilidad. Asimismo, el Convenio Marco del Consejo de Europa sobre inteligencia artificial y derechos humanos, democracia y Estado de derecho – abierto a la firma en 2024 – representa un esfuerzo por traducir estos principios en compromisos jurídicos.
Sin embargo, las declaraciones y los acuerdos solo adquieren eficacia cuando existen supervisión independiente, transparencia, mecanismos de reclamación y sanciones proporcionales.
La innovación no puede convertirse en una apología para debilitar derechos fundamentales ni para eximir de responsabilidad a quienes diseñan, comercializan o utilizan sistemas perjudiciales.
Por otra parte, el desafío también es económico. El control de los datos, la capacidad de procesamiento y los recursos de investigación se concentra en un conjunto limitado de empresas y países, lo que sin duda puede generar dependencias tecnológicas, ampliando – aún más – las desigualdades entre economías desarrolladas y sociedades con menores recursos.
La distribución de los beneficios de la IA resulta tan importante como la misma prevención de sus riesgos. Si la productividad aumenta mientras sus ganancias se concentran, los trabajadores pierden oportunidades y amplios sectores quedan excluidos de sus ventajas, dicha transformación tecnológica puede profundizar las actuales fracturas sociales.
Aquí.nos encontramos en presenciadel vínculo fundamental entre desigualdad y democracia. La ciudadanía política requiere algo más que derechos reconocidos formalmente: necesita educación, información confiable y condiciones materiales que permitan participar en los asuntos públicos. Cuando el poder económico controla infraestructuras esenciales de comunicación y conocimiento, puede adquirir una influencia desproporcionada sobre el debate colectivo y las decisiones políticas.
Por eso, democratizar la inteligencia artificial exige distribuir sus oportunidades, garantizar el acceso a la educación digital, proteger a los trabajadores y a las fuentes naturales en las que se desarrolla, pudiendo asegurar que las decisiones automatizadas puedan ser examinadas y cuestionadas. No se trata de impedir la innovación, sino de evitar que sus beneficios privados se construyan a costa de las libertades y los derechos de la mayoría.
La ONU puede contribuir a articular principios compartidos y mecanismos de cooperación internacional. Pese a lo anterior, la gobernanza mundial necesita superar la fragmentación normativa mediante estándares mínimos de protección, evaluaciones de impacto, auditorías independientes y responsabilidades exigibles.
También requiere incorporar a la sociedad civil, la comunidad científica, los trabajadores y los países en desarrollo, cuya participación no debe quedar subordinada a las prioridades de las grandes potencias.
Regular la IA no representa frenar indiscriminadamente su desarrollo. Significa establecer límites democráticos al poder, prevenir abusos y garantizar que las decisiones tecnológicas respondan al interés público. La cooperación internacional, debe evitar tanto la impunidad empresarial, como el uso de la regulación para consolidar monopolios o reforzar controles autoritarios.
La gobernanza mundial de la inteligencia artificial constituye una prueba decisiva para la democracia contemporánea. El desafío reside en impedir que la capacidad tecnológica se transforme en un poder sin controles y que la desigualdad económica termine debilitando – como tantas veces ha ocurrido – la igualdad política.
La inteligencia artificial debe estar al servicio de la humanidad, no la humanidad al servicio del poder tecnológico. Por tanto, el temamedular no es si podremos construir máquinas cada vez más inteligentes, sino si seremos capaces de crear instituciones suficientemente democráticas para gobernarlas.
