Kristel Ñopo Fernández,
abogada por la Universidad Católica Santo Toribio de Mogrovejo y Magíster en Ciencia Política por la Universidad de Salamanca (España). Docente universitaria y conferencista en temas de tecnología y derecho. Actualmente, lidera la innovación jurídica como Coordinadora Académica del Proyecto de Inteligencia Artificial del Ilustre Colegio de Abogados de Lambayeque.
I. INTRODUCCIÓN:
La inteligencia artificial es la tecnología que ha transformado significativamente la forma en que interactuamos y, sobre todo, la manera en que tomamos decisiones. Lo que empezó como una herramienta para optimizar recursos se ha convertido en un elemento trascendental en todos los ámbitos de nuestra vida, desde la esfera privada hasta el ejercicio del poder. La integración de esta nueva tecnología no solo ha transformado nuestro ámbito personal y profesional, sino que ha modificado nuestro sistema democrático como la conocemos. Esta integración se sistemas algorítmicos está reconfigurando el sistema democrático, obligándonos a cuestionar si el derecho constitucional- tal como se ha estructurado- es suficiente para proteger a una sociedad digital.
Como es de conocimiento, el centro del derecho constitucional es el ser humano. Además, de sus elementos como el Estado de Derecho, pacto social, derechos humanos y toma de decisiones de manera democrática; estos elementos coadyuvan a que el ser humano sea autónomo y libre. Sin embargo, la aplicación de la inteligencia artificial tiene la potencialidad de socavar los elementos antes mencionados, debido a que el ser humano puede ser devaluado por la creciente participación de esta tecnología. En ese sentido, la dignidad humana y la autonomía individual deben ser el centro de nuestros sistemas jurídicos, por lo que es necesario un reconocimiento y una protección ante el crecimiento de esta disrupción tecnológica.
La constitución no solo debe ser vista como una herramienta para limitar y controlar el poder, sino una elemento esencial para la convivencia y progreso social. Si bien la inteligencia artificial puede fortalecer sistemas democráticos e instituciones, también pueden socavarlas. Por ello, esta tecnología exige al derecho constitucional una reinterpretación. Ante este panorama, el objetivo de este artículo es analizar y reflexionar los retos que enfrenta el derecho constitucional ante el impacto de esta cuarta revolución industrial como es la inteligencia artificial.
II. DESAFIOS CONSTITUCIONALES
En los últimos años la inteligencia artificial (más adelante IA) ha experimentado un avance inimaginable, transformando significativamente cómo interactuamos con los demás y tomamos decisiones. Dicha evolución presenta desafíos constitucionales significativos, debido a que su uso debe garantizar el respeto por los principios constitucionales, como la democracia, derechos humanos y Estado de Derecho.
Ante los desafíos que presenta el uso de la IA en la sociedad, el comité económico y social europeo (2017), identificó once áreas donde la IA plantea desafíos, entre los que se encuentran: ética; seguridad; privacidad; transparencia y rendición de cuentas; trabajo; educación y desarrollo de capacidades; desigualdad e inclusión; legislación y reglamentación; gobernanza y democracia; guerra; y superinteligencia.
De esta manera, al ser una tecnología compleja con una creciente integración en todos los ámbitos de la vida de las personas. Desde la perspectiva constitucional puede jugar tres dimensiones fundamentales. El primero, identificar aquellas zonas constitucionales donde la tecnología de la IA genera un impacto trascendental; en segundo lugar, desarrollar iniciativas legislativas de orden constitucional para regular dichos impactos; en tercer lugar, y dada el vertiginoso cambio que la IA está produciendo, es de suma importancia reflexionar sobre las categorías constitucionales son suficientes o se necesita un cambio de paradigma constitucional (Hernández, 2023).
Este enfoque constitucional refleja la necesidad de analizar la intersección entre la tecnología y salvaguardar los principios constitucionales. El rápido progreso de estas tecnologías plantea la necesidad de contar con un marco normativo que proteja los derechos individuales y colectivos de las personas, no dejando de lado los valores constitucionales los cuales son la columna vertebral de la convivencia. Por ejemplo, uno de los principales desafíos que presenta el uso de la inteligencia artificial en el ámbito constitucional es su capacidad para tomar decisiones autónomas, planteando interrogantes en torno a la responsabilidad y accountability de la decisión es algorítmica.
Otro desafío que presenta la inteligencia artificial en su capacidad de generar grandes cantidades de datos, vulnerando muchas veces la privacidad y protección de datos personales. Y es que, esta recopilación de datos personales ayuda a alimentar al algoritmo de la IA, el cual plantea serios desafíos en la protección de los derechos fundamentales como son el derecho a la privacidad y datos personales. También se ha planteado como desafío la igualdad ante la ley y no discriminación, debido a que el uso de algoritmos que está presente en IA puede generar sesgos y discriminación al momento de tomar decisiones. Por consiguiente, es fundamental contar con mecanismos de supervisión que nos permitan garantizar que tales decisiones no contravienen con los derechos fundamentales de las personas.
Por ello, resulta importante la creación de mecanismos efectivos que supervisen y garanticen la protección de los derechos fundamentales, de modo que regular la IA permita a las personas ejercer su derechos ARCO (acceso, rectificación, cancelación y oposición).
III. UNA REGULACIÓN CON UNA MIRADA CONSTITUCIONAL
No cabe duda de que, la inteligencia artificial acapara todos los ámbitos de nuestra vida. Cada día se vuelve más omnipresente, con la programación de nuestros celulares inteligentes, recomendaciones de contenidos o en la optimización de nuestros quehaceres. Al tener un impacto directo en las vida de las personas, es necesaria una regulación jurídico con un componente ético y constitucional.
Diversos analistas y académicos han manifestado en sus investigaciones la necesidad de contar con una legislación que se adapte a esta evolución tecnológica. Ante esta necesidad, Barrio (2021) manifiesta que se deberían reconocer nuevos derechos fundamentales en las constituciones, por ejemplo, el acceso universal a internet, la ciberseguridad y del derecho fundamental a la verdad el cual ayudaría a combatir las fake news.
Así mismo, es de suma importancia contar con una regulación jurídica en el uso de los algoritmos, debido a que no deben gobernar en la sombra de una sociedad digital. Especialmente cuando se podrían vulnerar derechos fundamentales como el derecho a la privacidad, igualdad y no discriminación, libre derecho de la personalidad y más (Lasalle, 2019). Esto evidencia la necesidad de que los estados democráticos de derecho y las instituciones que las conforman cuenten con leyes y reglamentos que pongan límites a las amenazas que pueden surgir del uso indebido de la inteligencia artificial ya sea generados por actores privados cómo por los propios poderes públicos.
Por ejemplo, la Union Europea cuenta con un reglamento de Inteligencia artificial. Este documento busca “promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, proteger frente a los efectos perjudiciales de los sistemas de IA en la Unión”. De esta manera, las actividades que se desarrollen dentro del ciclo del sistema de inteligencia artificial deben respetar los derechos humanos, la democracia y el estado de derecho y al mismo tiempo promover la innovación a favor de la sociedad.
Por tanto, regular la inteligencia artificial no solo debe orientarse a la tecnología si no a la conducta del ser humano. Cómo señala Balkin (2017), el problema central de la regulación no son los algoritmos sino los humanos y su comportamiento.
IV. HACIA UNA IA CONSTITUCIONALIZACIÓN
La falta de regulación de estas nuevas tecnologías socava la democracia, y, por ende, polariza los medios de información alimentados por datos no fidedignos, generando nuevos riesgos de inseguridad. Por ello, es de suma importancia contar con un nuevo pacto donde intervengan el poder público y la sociedad civil.
Inaugurar un nuevo pacto social en una sociedad digitalizada debe tener dos elementos imprescindibles: el primero, debe existir una relación de confianza entre sus actores; en segundo lugar, para lograr esa confianza es necesario vincular la inteligencia artificial con los principios constitucionales , los cuales deben figurar como elementos esenciales en los sistemas de inteligencia artificial, sobre todo aquellos que ponen en riesgo la democracia, derechos humanos y el Estado de Derecho (Hernandez,2025).
Para construir un nuevo pacto social en una sociedad digitalizada es necesario crear una relación de confianza entre los actores, es decir, el deber de confianza debe exigirse debido a que existe una relación entre la sociedad (las personas) y el que presta el servicios (empresa privada que dirige el sistema de IA). Asimismo, el solo hecho de la existencia de una asimetría de información obliga a los sistemas de IA esta confianza, debido a que la persona no tiene control de sus datos.
Ante ello, la persona que controle la IA debe tener en cuenta el rol de confianza, buena fe y evitar vulnerar derechos. Asimismo, las empresas que utilizan sistemas de IA y recogen información privada de los usuarios tienen la obligación de proteger la privacidad y no revelar información que los perjudique. Otro punto relevante es tener en cuenta en la utilización de la IA no solo afecta a los usuarios finales si no a muchas otras personas de la sociedad. Un ejemplo clásico, es utilizar datos de las redes sociales ya sea Facebook o X para influir en los resultados de los procesos electorales. En definitiva, es imprescindible la existencia de la confianza entre los actores en una sociedad digitalizada. De esta manera respetando el deber de cuidado y las obligaciones impuestas no debe a ver un abuso ni vulneración de los derechos de los ciudadanos.
V. EL NUEVO PACTO SOCIAL
La Inteligencia artificial nos desafía a cambiar nuestro pacto social analógico a uno basado en datos y algoritmos. La amenaza hacia la democracia por el descontrol masivo de datos no ha sido percibida claramente por la sociedad ni el Estado. Estamos de acuerdo con Nemitz (2018) cuando afirma que, en la ausencia de regulación de estas nuevas tecnologías, ha conducido a un incumplimiento de la ley y ha puesto en peligro a la democracia y los derechos fundamentales, un claro ejemplo fue el caso de Cambridge analytica de Facebook.
No hay que olvidar que esta tecnología disruptiva que aún no cuenta con una regulación jurídica deja a la nueva sociedad en discutir si es necesario un nuevo pacto social. Por ello, para elaborar un nuevo pacto social, debemos reflexionar sobre el ejercicio del poder y su legitimidad en una sociedad digitalizada. Ante ello, comparto lo manifestado por Hernández (2025) en cuanto a las dimensiones del ejercicio del poder.
En primer lugar, dónde se ejerce el poder: el poder se ejerce en una sociedad digitalizada, es decir, el primer actor del pacto social es la ciudadanía. El rol del ciudadano se ha transformado en seres que toman decisiones con bases algorítmicas, bots y agentes de IA.
En segundo lugar, quien ejerce ese poder, el estado ya no cuenta con el monopolio del ejercicio del poder, como menciona Balaguer (2023), el estado sigue siendo un factor de poder, pero ahora hay otros factores de poder globales que juegan en un terreno diferente al de la Constitución estatal. Los estados siguen ejerciendo su poder, pero también existen grandes megacorporaciones dedicadas a la inteligencia artificial que cambian los roles del juegos.
En tercer lugar, sobre quién se ejerce poder; es claro que en una sociedad digitalizada los primeros afectados sean los ciudadanos. Pero también, sobre las megacompañías que se someten al poder del Estado.
En cuarto lugar, cómo se ejerce ese poder: En una sociedad digital el poder se ejerce de una manera asimétrica y desigual, es decir, entre los que se benefician de la inteligencia artificial y los que no. Balkin (2017) manifiesta que existe una asimetría de poder y de información. Esta asimetría es parte de una sociedad algorítmica, donde existe una asimetría de conocimiento y de poder entre los gobernantes públicos y privados.
En consecuencia, lograr un nuevo pacto social exige someter el desarrollo y uso de los sistemas de inteligencia artificial a estándares mínimos, como es el respeto del Estado de derecho, la democracia y derechos fundamentales, los cuales deben estar presentes desde el diseño, entrenamiento e implementación.
VI. A MODO DE REFLEXIÓN
Tras analizar la magnitud de esta disrupción tecnológica, no queda claro que la inteligencia artificial se ha convertido en una herramienta omnipresente donde se juegan no solo nuestros derechos sino también el futuro de nuestro sistema democrático. No estamos frente a una simple evolución tecnológica, sino ante un cambio constitucional que nos obliga a redefinir conceptos Por ello, en este nuevo escenario, necesitamos que en el derecho constitucional entienda la cultura de los códigos y algoritmos. No se trata solo de un mero debate, sino la necesidad de entender que los algoritmos deben estar subordinados por los principios constitucionales. De esta manera, si buscamos una gobernanza tecnológica con base en principios constitucionales será posible que la inteligencia artificial se convierta en una herramienta de fortalecimiento.
REFERENCIAS BIBLIOGRÁFICAS
- Balaguer, F. (2023). La constitución del algoritmo. Fundación Manuel Gimenez Abad
- Balkin, Jack . (2017). The Three Laws of Robotics in the Age of Big Data. Ohio State Law Journal, Vol. 78, Yale Law School: https://ssrn.com/abstract=2890965
- Barrio, A. (2021). Formación y evolución de los derechos digitales, Ediciones Juridicas Olejnik.
- Castellano, J. Sobre los desafíos constitucionales ante el avance de la inteligencia artificial. Revista de derecho político, UNED, pag. 261-287.
- Hernández, M. (2023). Los retos constitucionales de la inteligencia artificial. Prospectiva, debilidades y fortalezas de los paradigmas vigentes. EUNSA, Pamplona.
- Hernández, M. (2025). El impacto de la inteligencia artificial en el derecho constitucional. Centro de estudios políticos y constitucionales, Madrid.
- Lasalle,J. (2019). Ciberleviatán, Barcelona, Arpa Editores.
- Nemitz, P. (2018). Constitutional Democracy and Technology in the age of Artificial Intelligence. Royal Society Philosophical Transactions A: https://ssrn.com/abstract=3234336
