Mario Granados Chacón, investigador académico y profesor universitario.
El Derecho frente a una inteligencia artificial que ha empezado a decidir sobre nuestras vidas.
La inteligencia artificial ha dejado de ser una promesa tecnológica para convertirse en una realidad que está transformando la sociedad. Está presente en la educación, la economía, la administración pública, las empresas, los medios de comunicación y – cada vez con más intensidad- en el mundo jurídico.
Ante esta innovación surge una pregunta necesaria: ¿está preparado el derecho para regular una tecnología que evoluciona mucho más rápido que las normas destinadas a controlarla?
La pregunta se las trae. Durante siglos, el derecho ha regulado fundamentalmente relaciones humanas. La inteligencia artificial introduce ahora sistemas capaces de procesar millones de datos, reconocer patrones, generar textos, formular predicciones e incluso participar en procesos de decisión.
Surge entonces el problema cuando esas decisiones producen consecuencias concretas sobre la vida, la libertad, el patrimonio o los derechos de las personas. He aquí el indiscutible reto jurídico.
Partamos de la realidad de que el algoritmo no es neutral. Preexiste una peligrosa ilusión según la cual las disposiciones producidas por una máquina son fatalmente objetivas. Y esto no es así. Un algoritmo es diseñado por seres humanos, funciona con datos seleccionados por seres humanos y responde a objetivos definidos por seres humanos. Si los datos contienen prejuicios o desigualdades, el sistema puede reproducirlos e incluso – en determinadas circunstancias – amplificarlos.
Por tal razón, cuando un algoritmo discrimina, clasifica injustamente o produce una decisión equivocada y no vale afirmar que «la computadora se equivocó». Detrás de la tecnología existen desarrolladores, empresas, instituciones y usuarios que deben asumir responsabilidades.
La inteligencia artificial puede ejecutar una decisión, pero no puede convertirse en una excusa para desaparecer la responsabilidad humana. La expansión de la inteligencia artificial obliga al derecho a proteger derechos fundamentales frente a riesgos que hace apenas unas décadas parecían propios de la ciencia ficción.
La privacidad, la protección de los datos personales, la igualdad, la libertad de expresión, el debido proceso y el derecho de defensa adquieren nuevas dimensiones.
¿Qué ocurre si una persona es rechazada para un empleo debido a una decisión automatizada? ¿Qué sucede si un sistema utilizado por una institución financiera considera que alguien representa un riesgo sin que pueda conocer las razones? ¿Puede una administración pública adoptar una decisión que perjudique a un ciudadano basándose exclusivamente en un algoritmo que este no puede comprender ni cuestionar?
Estas preguntas conducen a un principio esencial: ninguna innovación tecnológica puede situarse por encima de los derechos fundamentales. La eficiencia no puede convertirse en una nueva forma de arbitrariedad.
¿Puede la inteligencia artificial sustituir al juez? El ámbito judicial constituye uno de los escenarios donde esta discusión adquiere mayor profundidad. La inteligencia artificial puede analizar miles de documentos, localizar precedentes, comparar decisiones, organizar expedientes y facilitar la investigación jurídica. Su capacidad para procesar información supera ampliamente la de cualquier ser humano.
Pero juzgar no consiste solamente en procesar información. La decisión jurídica requiere interpretar normas, valorar circunstancias, ponderar derechos y comprender la dimensión humana del conflicto. La justicia no es una simple operación matemática. Exige prudencia, razonamiento, experiencia y responsabilidad.
Un algoritmo puede indicar probabilidades. No puede asumir por sí mismo la responsabilidad moral y jurídica de condenar, absolver, privar de libertad o reconocer un derecho .Por eso, la inteligencia artificial puede ser una extraordinaria herramienta para el juez, pero no debería convertirse en el juez.
La profesión jurídica tampoco permanecerá al margen de esta transformación. El abogado del futuro deberá aprender a trabajar con sistemas capaces de investigar jurisprudencia, analizar contratos, identificar riesgos y producir documentos en cuestión de segundos.
La ventaja competitiva ya no dependerá únicamente de cuánto sabe un profesional, sino también de su capacidad para utilizar inteligentemente las nuevas herramientas. Una respuesta generada por inteligencia artificial puede parecer convincente y sin embargo, contener errores, referencias inexistentes o interpretaciones jurídicas incorrectas. Por ello, la responsabilidad profesional exige verificar, contrastar y cuestionar. No podemos confundir velocidad con conocimiento.
El abogado que utiliza inteligencia artificial no puede renunciar a pensar. La tecnología puede ampliar sus capacidades pero nunca debería sustituir su criterio. El desafío más profundo no consiste simplemente en crear leyes para regular la inteligencia artificial. Se trata de determinar qué límites debe tener el poder tecnológico dentro de un Estado democrático de derecho.
La historia demuestra que todo poder necesita límites. Ocurrió con el poder político, con el poder económico y con el poder militar. Hoy aparece una nueva forma de poder: el poder de los datos, de los algoritmos y de quienes controlan las infraestructuras tecnológicas capaces de procesarlos.
Por eso, el derecho debe asumir una función que va más allá de sancionar abusos después de que ocurran. Debe establecer principios de transparencia, responsabilidad, supervisión humana, seguridad y protección de los derechos fundamentales. No se trata de detener la innovación. Se trata de impedir que la innovación avance sin responsabilidad.
El derecho no puede llegar siempre tarde. Uno de los grandes problemas de nuestro tiempo es la velocidad. La tecnología evoluciona en meses, las leyes pueden tardar años. Cuando una norma finalmente entra en vigor, la tecnología que pretendía regular puede haber cambiado. El derecho necesita – por tanto – desarrollar mecanismos más flexibles, capaces de responder a fenómenos tecnológicos que todavía no conocemos completamente. Pero esa flexibilidad no puede significar ausencia de límites.
La solución tampoco consiste en prohibir aquello que no comprendemos. El desconocimiento tecnológico no puede transformarse en miedo jurídico, pero la fascinación tecnológica tampoco puede convertirse en renuncia al derecho.
Entre ambos extremos existe un camino: comprender, regular y responsabilizar. La discusión sobre inteligencia artificial es, – en el fondo – una discusión sobre el ser humano. No debemos preguntarnos únicamente qué puede hacer una máquina. Debemos preguntarnos qué debemos permitir que haga, bajo qué condiciones y con qué controles.
El progreso tecnológico carece de verdadero sentido si aumenta nuestra capacidad de calcular mientras disminuye nuestra capacidad de juzgar; si multiplica la información mientras debilita la verdad; o si incrementa la eficiencia mientras reduce la dignidad humana. El derecho tiene ante sí una responsabilidad histórica: impedir que la inteligencia artificial se transforme en un poder sin límites y conseguir que sea una herramienta sometida a principios jurídicos, democráticos y humanos.
Porque el verdadero desafío no es decidir si la inteligencia artificial tendrá un lugar en el derecho. Ese lugar ya existe. El desafío es mucho más profundo: que cuando el algoritmo entre en los tribunales no salga la humanidad del derecho.
