Por Eileen Infantas,
Asociada Principal en Estudio Echecopar y asociado a Baker & McKenzie International
La inteligencia artificial (IA) está revolucionando el mundo al transformar profundamente sectores clave y aspectos de la vida cotidiana. En el comercio, automatiza procesos y personaliza experiencias a través del análisis de datos masivos. En el ámbito laboral, cambia dinámicas al crear empleos tecnológicos y reemplazar tareas repetitivas. Además, en la vida diaria, la IA mejora la eficiencia y comodidad mediante herramientas como asistentes virtuales y sistemas de transporte.
Actualmente, estamos viviendo una revolución tecnológica guiada por la inteligencia artificial, que está cambiando las reglas de juego en todos los ámbitos de la sociedad. Esta transformación implica un enorme desafío, ya que se requiere una adaptación rápida y eficiente a estos cambios sin precedentes.
En ese contexto, la regulación enfrenta el reto más grande de poder mantenerse a la vanguardia de los cambios y avances que la transformación digital impone. La Inteligencia Artificial (IA), en particular, ha emergido como un desafío significativo, demandando un enfoque regulador que sea dinámico, flexible y, sobre todo, consciente del impacto y las implicaciones de esta tecnología en la sociedad peruana.
En el Perú, se ha dado un primer paso al aprobarse la Ley que promueve el uso de inteligencia artificial en favor del desarrollo económico y social del país (Ley IA)[1]. El objeto de la norma fue dar inicio a lo que se transformará en un marco regulatorio compuesto -aparentemente- de distintas normas, para promover el uso de la IA en el marco del proceso de transformación digital, privilegiando el respeto de los derechos de la persona.
Igualmente, los intereses nacionales han sido identificados en la Ley IA: (i) promover el talento digital en el aprovechamiento de las tecnologías emergentes y nuevas tecnologías; y, (ii) fomentar el desarrollo y uso de la inteligencia artificial para la mejora de los servicios públicos, de la educación y los aprendizajes, la salud, la justicia, la seguridad ciudadana, la seguridad digital, la economía, la inclusión, los programas sociales, la seguridad y la defensa nacional, así como para toda otra actividad económica y social a nivel nacional.
Sin embargo, la Ley IA es bastante concreta y no establece cuáles serán los parámetros para alcanzar el objetivo estatal ni tampoco cómo se garantizará la protección de los intereses nacionales y los derechos de los ciudadanos. Para ello, la Ley IA sí determina que la Presidencia del Consejo de Ministros (PCM), a través de la Secretaría de Gobierno y Transformación Digital, es la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes.
A la fecha, todavía no se ha emitido un reglamento de la Ley IA, pero sí se ha publicado el Proyecto de Reglamento de dicha ley[2]. En la propuesta legislativa se están consolidando las directrices que podrían regir la aplicación de la IA por parte de los diferentes actores en el Perú (desde las entidades de la Administración Pública, las empresas privadas y públicas, así como la sociedad en general).
Se advierte que, de manera preliminar, el Proyecto de Reglamento de la Ley IA señala varios puntos claves, de los que se resaltan los siguientes:
-
- Las responsabilidades y roles de las entidades que desarrollan e implementan inteligencia artificial, asegurando que cada actor conozca su ámbito de actuación y sus obligaciones.
- Clasificación en niveles de riesgo de los sistemas basados en IA, así como las obligaciones para los sistemas de riesgo alto.
- Directrices detalladas sobre la transparencia y la auditabilidad de los algoritmos, con el fin de que los ciudadanos puedan entender y cuestionar las decisiones tomadas por sistemas automatizados.
- Medidas para la protección y manejo de datos sensibles, promoviendo prácticas seguras y responsables en el tratamiento de la información.
- Obligaciones para las entidades de la Administración Pública en cuanto al uso de la IA.
- Parámetros de promoción de la IA y atracción de talento en el ámbito.
Si bien la propuesta de reglamento define la aplicación de las directrices del uso de la IA, el legislador tiene claro que se continuará emitiendo mayor normativa para regular los distintos aspectos del IA. En efecto, se propone la creación de un consejo consultivo de IA, que tendrá la tarea de supervisar y asesorar sobre la implementación de la normativa, garantizando que el marco regulador se mantenga actualizado frente a los avances tecnológicos. Asimismo, se adelanta que quedará pendiente la aprobación de lineamientos complementarios por parte de la Secretaría de Gobierno y Transformación Digital.
Como vemos, aunque la IA es una realidad y se viene aplicando en diversos sectores, Perú demuestra una vez más la lentitud en establecer un marco regulatorio que establezca directrices de acción, así como consecuencias ante su incumplimiento. ¿Será que cuando se aprueben el Proyecto de Reglamento e, inclusive, con posterioridad se aprueben los lineamientos, ya nos encontremos en un contexto de IA más avanzado y con nuevas interrogantes para regular?
Precisamente, el primer desafío es que la regulación se pueda adaptar a la rápida evolución tecnológica. La inteligencia artificial se desarrolla a un ritmo vertiginoso, y la demora en la aprobación de normas puede resultar en una legislación obsoleta, que no aborde adecuadamente los problemas e interrogantes actuales. Por lo tanto, el desfase regulatorio genera incertidumbre y desprotección, siendo el principal reto hoy en día.
Este desfase legislativo genera incertidumbre tanto para los desarrolladores como para los usuarios de la IA, y pone en riesgo la efectividad de las regulaciones en cuanto a la protección de derechos y la promoción de prácticas éticas. Por lo tanto, uno de los principales desafíos para los reguladores es encontrar un equilibrio entre la rapidez en la adopción de nuevas normativas y la profundidad y precisión necesarias para abordar los aspectos complejos de la IA.
Además, los algoritmos de IA son cada vez más complejos, lo que dificulta su comprensión y regulación por parte de los legisladores. Por ello, la actividad normativa en este campo requiere necesariamente de expertos y especialistas que puedan brindar claridad sobre el uso de algoritmos, con el objetivo de que la falta de conocimiento en cómo funcionan estos sistemas de IA conlleve a una desprotección de derechos o a una sobrerregulación.
Ahora bien, es fundamental que la regulación sobre inteligencia artificial se base en un análisis cauteloso y exhaustivo de su impacto. Tampoco resulta una solución que se legisle sobre IA sin evaluar las consecuencias de las medidas adoptadas, pues antes de que la IA pueda generar crecimiento económico y fomentar su aplicación, la rigurosidad de las normas puede ocasionar lo inverso, e inclusive generar un retraso mayor en nuestro país frente los avances en el mundo.
Regular la IA sin sofocar la innovación es un equilibrio delicado. Las empresas necesitan un marco claro pero flexible que les permita innovar mientras cumplen con las normativas. Igualmente, el cumplimiento de la normativa tampoco debería generar en las empresas altos costos, que tengan una repercusión negativa en pequeñas y medianas empresas, o inclusive desincentiven la inversión en el país.
Un segundo e importante desafío se encuentra íntimamente relacionado con la manejo de datos personales. La IA a menudo requiere grandes cantidades de información, existiendo diversas fuentes a través de las cuales recopila datos, lo que plantea riesgos significativos para la privacidad. Si bien existe una legislación específica para la protección de datos personales en nuestro país, cuyos principios y disposiciones son aplicables a cualquier tecnología que maneje datos, en función al desarrollo tecnológico la normativa debe seguir garantizando que los datos se manejen de manera segura y ética.
Otro desafío crucial se deriva de los problemas educativos en el Perú. Muchas personas carecen del conocimiento necesario para comprender plenamente que están proporcionando datos personales valiosos a sistemas de IA, lo que pone en peligro la efectividad del consentimiento informado. Sin una educación adecuada y accesible sobre tecnología y privacidad, es difícil garantizar que los usuarios comprendan cabalmente las implicaciones del uso de sus datos por sistemas de IA.
De otro lado, otro desafío significativo la capacidad de establecer parámetros normativos que sean factibles de supervisar en las condiciones y con los recursos disponibles en Perú. Es fundamental que las normas no se conviertan en meras declaraciones sin aplicación práctica, que no promuevan la innovación ni garanticen el respeto de los derechos de las personas. Para ello, se requiere un enfoque realista que considere las limitaciones existentes y busque soluciones viables para garantizar el cumplimiento efectivo de las regulaciones.
Asimismo, se debe reconocer y designar un presupuesto específico para la implementación de la normativa, y no desconocer que se necesitarán mayor personal para la fiscalización, así como la implementación técnica necesaria. La aprobación e implementación de esta legislación debe ser rigurosa y adaptable, permitiendo que se apliquen de manera eficiente y en concordancia con el desarrollo tecnológico del país.
Finalmente, entre los desafíos más resaltantes también se encuentra la ausencia de un marco global unificado, que pueda alinear las directrices entre todos los países, dado que todos son usuarios de sistemas IA. Las diferencias en las regulaciones pueden crear confusión y dificultades tanto para los desarrolladores como para los usuarios de la tecnología, ya que las empresas podrían enfrentarse a requisitos contradictorios en diferentes jurisdicciones.
La falta de un consenso internacional también puede limitar la cooperación y el intercambio de información entre los países, lo cual es esencial para abordar los desafíos globales que plantea la IA. Por tanto, se debe priorizar evitar inconsistencias y conflictos entre las jurisdicciones, estableciendo un diálogo continuo y colaboraciones intergubernamentales. Es más, este último es un desafío que enfrentan todos los países, quienes -en conjunto- deben buscar formas para que la regulación se coherente en un mundo globalizado.
La colaboración internacional y el diálogo constante con expertos y actores relevantes del sector serán fundamentales para alcanzar un equilibrio adecuado entre regulación y desarrollo tecnológico. Solo de esta manera, el Perú podrá posicionarse como un líder en la adopción y regulación de la inteligencia artificial, garantizando su uso responsable y beneficioso para toda la sociedad.
En consecuencia, la regulación de la inteligencia artificial en Perú debe ser un esfuerzo continuo y colaborativo que abarque todos los aspectos tecnológicos, éticos y sociales. Solo mediante un enfoque integral y flexible, que permita la adaptación rápida a los cambios y la inclusión de múltiples voces y perspectivas, se podrá garantizar que la IA se desarrolle y utilice de manera responsable y beneficiosa para toda la sociedad.
Referencias Bibliográficas:
[1] El 5 de julio de 2023 se publicó la Ley N.° 31814, que aprobó la Ley que promueve el uso de inteligencia artificial en favor del desarrollo económico y social del país.
[2] Mediante Resolución Ministerial N.° 132-2024-PCM, publicada el 2 de mayo de 2024, se dispuso la publicación del Proyecto de Reglamento de la Ley IA.
