Por Luis Angel Rivera Salcedo
Estudiante de Derecho en la Pontificia Universidad Católica del Perú
y miembro del consejo editorial de Enfoque Derecho
El futuro se acerca y tú no estás en él[1]
Caretas fuera: a pesar de ser joven, nunca he sido un gran fanático de la tecnología. Este desencanto no se justifica en razones pretenciosas o un ánimo de sentirme diferente al resto de mi generación. Se justifica más bien en la creencia de que la tecnología ha ganado demasiado terreno en ámbitos de nuestra vida, al punto de -quizás- extinguir algunas pequeñas y divertidas cosas que antes se hacían/tenían.
Quienes lean este artículo podrán contraargumentar, con justa razón, que la tecnología ha llegado para facilitar nuestra vida. Prueba de ello es que escriba este artículo en Word, un programa con autocorrector, en lugar de una máquina de escribir, donde cada error significa una considerable pérdida de tiempo. Mi única corrección a este contraargumento sería el fraseo. En lugar de «facilitar nuestras vidas», se debería usar el sinónimo «aumentar nuestra productividad», que es el verdadero motivo de los avances tecnológicos.
¿Es loable este objetivo? Por supuesto que sí y lo comparto. Como dejé entrever en el párrafo anterior, usar un programa con autocorrector sobre una máquina de escribir representa una excelente y bien recibida herramienta para mí. Sin perjuicio de esto, considero que hay un límite: cuando la tecnología deja de ser una herramienta y pasa a ser un sustituto de las personas. Lo escrito no está basado en una idea alarmista de que las máquinas nos van a gobernar. Por el contrario, es más bien basado en la idea de que, debido al -razonable- enaltecimiento a la productividad, el capital humano dejará de ser un activo valioso para el desarrollo de la sociedad y será reemplazado por herramientas tecnológicas.
Actualmente no existe una herramienta tecnológica más avanzada que la Inteligencia Artificial (en adelante, IA). A diferencia de otros escritores, no considero que sea tan difícil para el público comprender lo que es la IA, pues existe un entendimiento cultural (fuertemente condicionado por películas de ciencia ficción) de que es una herramienta tecnológica creada para simular los procesos cognitivos y autónomos que tenemos todas las personas. De esta forma, se busca que máquinas y softwares puedan, por sí mismas, procesar información y dar respuestas, tal y como nosotros lo hacemos en nuestra vida cotidiana.
¿La IA es la herramienta destinada a eclipsar el atractivo del capital humano? Personalmente, creo que sí o que, por lo menos, es el primer paso para una herramienta aún más desarrollada. De todos modos, en caso no confíen tanto en mi opinión, quizás sí deberían confiar en la opinión de Geoffrey Hinton, uno de los ingenieros informáticos más importantes del mundo y pionero en el desarrollo de la IA, por lo que ostentaba un puesto en Google y era llamado “El Padrino de la IA”. De acuerdo a Hinton, en una entrevista concedida a New York Times tras su renuncia a Google, el exponencial desarrollo de la IA podría impactar en el mercado laboral, poniendo en riesgo puestos de trabajo como el de asistentes legales, asistentes personales o traductores, dejando la puerta abierta al reemplazo de más empleos[2].
Llegado a este punto, es momento de dividir el artículo en dos secciones. Primero, se escribirá sobre el reto que supone (o supondrá) la IA para el Derecho del Trabajo; posteriormente, sobre el reto que supondrá la IA para la administración de justicia.
El Derecho del Trabajo contra la IA
Cuando el Derecho del Trabajo aún batalla contra el trabajo mediante plataformas digitales, se avizora en el horizonte un nuevo y mayor desafío: la IA.
Como se mencionó líneas arriba, Geoffrey Hinton, voz más que autorizada para hablar del tema, considera que la IA podría reemplazar a las personas en trabajos como la asistencia legal y personal o la traducción. A esto podría responderse que es más bien una visión muy exagerada y pesimista, puesto que la IA tiene el ánimo de ser una herramienta para complementar este tipo de trabajo. A pesar de que me gustaría apoyar esta teoría, la historia y realidad apuntan en otra dirección completamente distinta.
El principal objetivo de los avances tecnológicos es aumentar la productividad y reducir costos, es un hecho claro e irrefutable. En este sentido, los avances tecnológicos, históricamente, tienen el claro objetivo de reducir el número de actividades que realiza una persona para enfocarse en otras. Así, por ejemplo, el trabajo en fábricas cada vez necesita de menos personal debido al uso de maquinaria que se encarga de producir y ensamblar las piezas. En un caso más familiar, los supermercados tienen menos cajas abiertas al personal (por ende, menos cajeros) debido a la aparición del llamativo autoservicio, donde cada comprador se encarga de registrar y pagar los productos que desea.
En este sentido, si es posible adquirir un software que puede replicar los procesos cognitivos de las personas, rendir de una manera similar y, sobre todas las cosas, costar menos ¿por qué no habría de usarse? Tal es el caso de la empresa Dukaan, cuyo fundador Suumit Shah anunció en redes sociales que reemplazó al 90% de su personal de servicio al cliente por un chatbot de IA[3]. De acuerdo a Shah, se trató de una decisión necesaria para aumentar la rentabilidad en el contexto económico actual y que efectivamente mejoró el tiempo de resolución de consultas.
De igual manera, en el marco de la huelga de escritores y actores en Hollywood, el uso de la IA juega un papel crucial. De acuerdo a Fran Descher, presidenta del sindicato SAG-AFTRA (actores), las productoras de Hollywood buscan que los actores “extras” sean escaneados para que sus imágenes sean usadas en diversas producciones. Para este escaneo, sólo se requeriría un día y consecuentemente sólo se pagaría un día de trabajo, a pesar de que las imágenes se usarían indefinidamente[4]. En una línea similar, Lily Wachowski, co-directora y co-guionista de la saga Matrix, explicó en redes sociales su negativa a firmar el convenio entre el sindicato de directores de América y las productoras, debido a la ambigüedad sobre el uso de la IA[5] en la producción de series y películas. Por si no fuera suficiente la preocupación sobre el uso de la IA en detrimento del trabajo humano, Marvel Studios realizó los créditos de inicio de la serie “Secret Wars” con IA[6], en lugar de contratar artistas o animadores.
Debido a todo lo mencionado, se podría decir que el Derecho del Trabajo podría dejar de existir en un futuro. Contrario a lo que se podría creer, esta “desaparición” no es positiva, pues no se justifica en un histórico (fantasioso) acuerdo entre empleadores y trabajadores que ponga fin a su relación desigual, sino que lo hace en la sustitución de personas por inteligencias artificiales. El Derecho del Trabajo perderá su utilidad pues se reducirán los trabajos humanos que proteger o, como mínimo, la rama sufrirá una reestructuración total para proteger las nuevas relaciones que surjan a partir del avance de la IA.
Siendo así, la cuestión sería cómo detener o limitar legalmente el avance de la IA para proteger el derecho constitucional que tienen las personas a trabajar. Desafortunadamente (para quien escribe esto), esta no es una cuestión sencilla.
La primera posibilidad que surge es que el Estado prohíba el reemplazo de trabajadores por programas de IA; sin embargo, estaríamos hablando de una limitación a la libertad de empresa –en su aspecto de derecho a organizar la actividad empresarial- (artículo 59 de la Constitución). Este derecho faculta a los empresarios para que, valga la redundancia, tomen las decisiones empresariales que consideren pertinentes para maximizar la rentabilidad de sus negocios. Lógicamente, si un empresario tuviera que decidir entre una persona que necesita una hora de almuerzo durante la jornada laboral, goza del derecho a descansar entre 15 y 30 días al año, puede formar un sindicato para exigir mejores en las condiciones contractuales y laborales, etc. y un software que está cerca de replicar los procesos cognitivos de las personas, igualar o incluso mejorar su productiva y, sobre todo, no pide una hora de almuerzo, vacaciones ni puede formar un sindicato, creo que es bastante clara la respuesta.
Sin perjuicio de lo mencionado, se puede argumentar que sería una prohibición o restricción legítima en tanto la libertad de empresa se debe ejercer en el marco de la economía social de mercado de una república social (artículos 43 y 58 de la Constitución) que reconoce el derecho al trabajo y lo promueve (artículo 22 de la Constitución), lo que impediría que se tomen medidas que atenten directamente contra el acceso al empleo de la población. Aunque comparto inicialmente esta argumentación, lo cierto es que se trata de una discusión de grandes proporciones, en la que es poco probable que el Estado peruano (en realidad, cualquier Estado del mundo) decididamente tome partido por la defensa del derecho al trabajo.
Dicho esto, si no es el Estado la entidad que realice estas acciones, ¿cuál podría ser? Quizás los sindicatos sean la respuesta. Mediante la unión de trabajadores, es factible llegar a acuerdos con los empleadores para imposibilitar su reemplazo por la IA y limitar esta a un rol complementario. Una muestra de esto son los sindicatos de actores y guionistas de Hollywood, que actualmente se encuentran en huelga para, entre otras cosas, restringir el uso de la IA en su ámbito. No obstante, este ejemplo podría ocultar la realidad: el poder de presión y negociación de los sindicatos de actores y guionistas hollywoodenses es incomparable con un hipotético sindicato de asistentes legales o el extinto sindicato de trabajadores de la empresa Dukaan (si alguna vez existió).
Además de esto, nos damos de frente contra el bajo porcentaje de sindicalización en nuestro país. De acuerdo al último informe de la Autoridad Nacional de Servicio Civil (SERVIR) sobre la negociación colectiva en el Perú, existe tan sólo un 16% de trabajadores sindicalizados en el sector público, porcentaje que es aún peor en el sector privado formal, que cuenta con un ínfimo 5% de sindicalizados[7]. Entonces, existen pocos trabajadores sindicalizados y sin el poder suficiente para hacer lograr un acuerdo de la magnitud del propuesto. Todo esto convertiría la negociación colectiva en una herramienta poco efectiva, a menos que el panorama sindical cambie en los próximos.
La administración de justicia contra la IA
Objetividad… ¿A qué costo?
Habiendo hablado exclusivamente del posible (casi inevitable) problema que tendrá el Derecho del Trabajo con la IA, es momento de hablar del impacto que esta última tendrá en el funcionamiento del Derecho, entendiendo esto como la administración de justicia. Previamente, en Enfoque Derecho se ha publicado un artículo sobre el uso de la IA en el arbitraje y otro sobre su impacto en el derecho probatorio, lo que avizora que el impacto está próximo a suceder.
Sin embargo, si se creyera que esto se trata de meras discusiones teóricas y no es suficiente para considerar seriamente el impacto, mientras se escribían estas líneas, se hizo público el proyecto de Ley N° 05763/2023-CR para reformar la Constitución, presentado por la congresista de Perú Libre Jhakeline Ugarte. Específicamente, el proyecto busca modificar el artículo 139 de la Constitución e incluir el “uso de la Inteligencia Artificial para /a resolución de casos judiciales y para las acciones de mero trámite” como un principio de la función jurisdiccional. Por todo lo dicho, el impacto de la IA en la administración de justicia está a la vuelta de la esquina.
En este caso, sí considero necesario explicar cómo es que la IA puede usarse en la administración de justicia. Inicialmente se mencionó que, en grandes rasgos, la IA procesa información y emite respuestas, imitando nuestros procesos cognitivos. Ahora bien, cuando se trata de la administración de justicia, los softwares son dotados de documentos procesales y decisiones judiciales correspondientes para “predecir” la decisión final de un caso. Mientras el software goce de más datos, las decisiones a las que llegue prometen ser más precisas. Así las cosas, la IA le ofrece dos ansiados beneficios al Derecho: la celeridad de los procesos y la objetividad.
La celeridad de procesos casi no necesita explicación y tampoco merece objeción alguna. Con procesos más rápidos, se descongestiona el sistema judicial y se aumenta la productividad. Esto es evidentemente positivo, pues permitiría que más personas accedan al sistema de justicia y puedan gozar de su derecho a la tutela judicial efectiva (artículo 139.3 de la Constitución).
Entonces, ¿cuál sería el problema? La búsqueda de objetividad y sus consecuencias. El fundamento básico y mundial de la administración de justicia es la existencia de un tercero diferente de las partes en disputa y, por ende, imparcial. Mientras menos influenciado esté el administrador de justicia (véase juez, árbitro o figuras similares) de las partes en disputa, se presupone que estará menos influenciado y su capacidad para decidir en base a derecho será mejor. En otras palabras, será más objetivo.
Este presupuesto tiene un fallo fundamental: las personas no pueden ser objetivas. Las decisiones que toma un juez están influenciadas por millones de “datos” ajenos al caso en concreto e incluso el derecho mismo. Las vivencias personales, las posiciones políticas, la religión y un largo etcétera están presentes, aunque ocultas (algunas menos que otras), en un fallo judicial. Esta subjetividad es inherente a las personas y, sin embargo, es constante objeto de críticas y siempre se buscarán maneras de reducirla (o eliminarla). Pues bien, la IA ofrece, en teoría, la tan ansiada objetividad.
Teóricamente, la IA está concebida como una herramienta para los jueces. Como ejemplo de esto tenemos al programa COMPAS, que se encarga de evaluar el grado de peligrosidad y reincidencia de un procesado para determinar su tratamiento y supervisión[8]. Con este software, el juez podrá sustentar la pena que se impone a los acusados de cometer un crimen. En este punto, se pueden sugerir dos problemas. Por un lado, ¿cómo un algoritmo puede predecir el grado de reincidencia de una persona? Aquí no interesa la cantidad de datos o factores a analizar, porque el comportamiento de 500 criminales previos no determina el comportamiento de uno nuevo. Pretender que sí, significa despojar de individualidad a todas las personas e incluso negarles una verdadera justicia, pues su futuro no estaría definido por sus acciones y comportamiento, sino por la similitud que encuentra un software entre el caso concreto y aquellos que lo preceden.
Por otro lado, ¿es realmente una herramienta? Si la subjetividad es una característica a eliminar en el accionar de un juez, que estos cuenten con una herramienta aparentemente objetiva los obliga indirectamente a utilizarla y decidir en base a ella. El criterio de los jueces se vería menoscabado por un software que “objetivamente” decide sobre el comportamiento futuro de una persona basándose en el comportamiento de miles de extraños que le preceden. ¿Cómo un juez podría rebajar la pena de un delincuente si el software objetivo sugiere una pena alta? ¿Qué sucede con el juez si ese delincuente finalmente reincide? Si no se restringe su uso o se brindan las garantías suficientes a las partes del proceso, lo que inicialmente es una herramienta para juzgar tiene el potencial de convertirse en la verdadera juzgadora.
Me gustaría escribir que esto abriría la puerta para el reemplazo de jueces por la IA; no obstante, la realidad es que esta puerta ya se abrió hace bastante tiempo. En países como Estonia y China, ya se usan jueces artificiales para resolver disputas. En el caso del país báltico, se usa para resolver disputas no superiores a los 7000 euros[9], mientras que en el gigante de Asia existe un “Tribunal de Internet” que se encarga de emitir fallos que posteriormente son revisados por un juez humano. Esto significa que el reemplazo de jueces ya está ocurriendo, lo cual no trae problemas por todo lo que he escrito previamente, sino que irremediablemente cambiará la forma en que concebimos los procesos. Surgen nuevas preguntas, por ejemplo, si se usan jueces artificiales objetivos, ¿nos dirigimos a procesos sumamente formalistas? o ¿dónde encajan los litigantes en este proceso?
Reflexión final
A lo largo de este ensayo, he intentado explicar el avance de la inteligencia artificial y cómo afecta a las personas, visto desde la perspectiva del Derecho del Trabajo, y a la administración de justicia. Por un lado, es claro que la sociedad progresivamente busca reemplazar el capital humano por las herramientas tecnológicas, lo que podría tener fuertes consecuencias para las personas en el largo plazo. En este panorama, es complicado saber si habrá alguna manera de detener o limitar este avance, de modo que el derecho a trabajar de las personas no se vea irremediablemente vulnerado.
Por otro lado, la administración de justicia no podría ser ajena a este proceso. El deseo por una justicia completamente objetiva ha dado como frutos una serie de programas virtuales que brindan asistencia (o se imponen sigilosamente) en la toma de decisión de los jueces e incluso softwares que, aunque en una etapa temprana, ya los reemplazan. El avance de esta tecnología supondría una revolución en la administración de justicia, aunque quizás este reemplazo de la subjetividad humana no sea tan positivo como algunos piensan.
A manera de cierre, debo sincerarme y decir que este es un artículo que plantea más preguntas de las que me siento en capacidad de responder. De todas formas, y ante el constante desarrollo de la Inteligencia Artificial, es imperante que la sociedad encuentre una manera de controlar estos avances o, por lo menos, orientarlos para que no choquen directamente con el trabajo de las personas ni produzcan daños irreparables a la forma en cómo administramos y pensamos la justicia.
Referencias
Valero Quispe, C. D. (2021). Derecho e Inteligencia Artificial en el mundo de hoy: escenarios internacionales y los desafíos que representan para el Perú. THEMIS Revista De Derecho, (79), 311-322.
[1] Ed Harris en “Top Gun: Maverick” (2022), dirigida por Joseph Kosinski
[2] https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
[3] https://gestion.pe/mix/tendencias-mix/inteligencia-artificial-la-compania-que-reemplazo-al-90-de-sus-empleados-suumit-shah-dukaan-india-noticia/?ref=gesr
[4] https://elcomercio.pe/respuestas/mexico/por-que-la-inteligencia-artificial-ia-es-culpable-de-la-huelga-mas-grande-la-historia-en-hollywood-tdex-noticia/?ref=ecr
[5] https://twitter.com/lilly_wachowski/status/1669385484642971649
[6] https://variety.com/2023/tv/news/secret-invasion-artificial-intelligence-credits-marvel-1235650643/
[7] https://cdn.www.gob.pe/uploads/document/file/2863569/Documento%20%E2%80%9CNegociaci%C3%B3n%20Colectiva%20en%20el%20Sector%20P%C3%BAblico%202020%E2%80%9D.pdf
[8] https://doc.wi.gov/Pages/AboutDOC/COMPAS.aspx
[9] https://tudefinestufuturo.mutualidadabogacia.com/innovacion/del-sistema-prometea-al-juez-robot-la-inteligencia-artificial-aplicada-en-la-resolucion-judicial/2022/#:~:text=En%20Estonia%20ya%20operan%20los,justicia%2C%20donde%20es%20un%20referente.
[…] Law against the machine: el impacto de la Inteligencia Artificial en el Derecho […]