• ENG
  • Cómo

    Cómo la Inteligencia Artificial Está Transformando los Procesos Judiciales y la Necesidad de Nuevos Principios

    La utilización de Inteligencia Artificial en los procesos judiciales por parte de los jueces es una realidad que ya se está dando en el presente. Por ejemplo, se utiliza ChatGPT para facilitar la redacción de las resoluciones, y en otras legislaciones ya se están incorporando Inteligencias Artificiales especialmente diseñadas para asistir a los jueces, como en los casos de Brasil y Argentina. Esta utilización de Inteligencia Artificial en los procedimientos judiciales tiene un gran potencial para acelerar el tiempo de resolución de las causas, permitiendo a la persona juzgadora utilizar de manera más eficiente su tiempo, ya sea por el apoyo en el análisis de la documentación o en la redacción. Sin embargo, esta utilización de Inteligencia Artificial también implica nuevos retos y cambios de paradigma debido a las profundas implicaciones que conlleva en cuanto a los derechos de la persona usuaria de la justicia.

    Como bien indica Cristian León Coronado: “El acelerado e intensivo uso que se le está dando a las tecnologías de inteligencia artificial (IA), sobre todo en países de América Latina donde no existen salvaguardas suficientes, conlleva serios riesgos con múltiples afectaciones a los derechos humanos. La aplicación de la IA sin control, sin perspectivas críticas ni comprensión de sus alcances, muestra la presión por saber “quién llega antes” en el aprovechamiento tecnológico” (1).

    El uso de Inteligencia Artificial en los procesos judiciales desde la perspectiva de la judicatura, a mi criterio, genera tres grandes problemáticas: i) la necesidad de dar transparencia a los usuarios de la justicia sobre qué actos del proceso fueron realizados parcial o totalmente por Inteligencia Artificial, ii) la crisis de legitimidad que conlleva la realización de actos procesales completamente manejados y resueltos por una Inteligencia Artificial, y iii) el reto al deber de fundamentación de las resoluciones judiciales cuando estas son producidas parcial o totalmente por una Inteligencia Artificial.

    La necesidad de dar transparencia a las personas usuarias de la justicia respecto a los actos procesales en los que intervino una Inteligencia Artificial viene, en primer lugar, de evitar volver a los procesos medievales donde la opacidad era la norma y las partes del proceso únicamente recibían un dictado de sentencia sin ningún entendimiento detrás de la maquinaria jurídica e investigativa. Que las personas sometidas a un proceso judicial tengan facilidad de entender lo que sucede en dicho proceso es uno de los pilares para garantizar el respeto a los derechos fundamentales y evitar un uso arbitrario del poder. Dicho deber de transparencia ha significado hasta la fecha que la persona juzgadora debía justificar sus decisiones fundamentando sus razonamientos e interpretaciones, y que el proceso debía mantener una estructura clara para garantizar el ejercicio de la defensa. Sin embargo, la incursión de la Inteligencia Artificial viene a cambiar esto.

    La necesidad de transparencia ante el uso de Inteligencia Artificial en los procesos judiciales parte del hecho de que la Inteligencia Artificial es fundamentalmente distinta de las actuaciones de un ser humano. Por lo tanto, para que las personas sometidas a un proceso puedan ejercer su derecho a la defensa de manera óptima, deben tener claridad sobre cuándo y cómo intervino la Inteligencia Artificial en una resolución.

    La segunda problemática es la crisis de legitimidad derivada de que una Inteligencia Artificial realice un acto procesal por completo, lo cual plantea una faceta filosófica: ¿Qué le da la legitimidad a una Inteligencia Artificial para juzgar a un ser humano? A los jueces, la investidura les otorga la facultad de juzgar los actos de terceros. Esta investidura se respalda en el hecho de que son profesionales en derecho, cumplen con los criterios de aptitud y conocimiento designados por el Poder Judicial, y son personas neutrales que utilizan su entendimiento social e histórico para contextualizar las disputas y procesos que deben resolver. Además, el juez es también una persona, lo que implica que el acceso a la justicia es intermediado por otro ser humano, asegurando un mínimo de confianza social para delegar la intervención en los problemas propios.

    Con una Inteligencia Artificial realizando los actos procesales, surge la duda sobre qué legitimidad social tiene para hacerlo. No me refiero a legitimidad jurídica, ya que una reforma legal y constitucional bastaría para que tenga las facultades de un juez, sino a una legitimidad metajurídica, la legitimidad social de esta deshumanización de la justicia. La jurisdicción dejaría de depender de otro ser humano. Se podría pensar que esta crisis se genera únicamente si la Inteligencia Artificial se encarga de resoluciones de fondo y que, si se le reservan los autos de mero trámite, se ahorran estas dudas de legitimidad mientras se eficientizan los procesos. Hasta cierto punto estoy de acuerdo en que la crisis de legitimidad se minimiza, pero no desaparece. Como cualquier persona dedicada al litigio sabe, el resultado final de un proceso depende en gran medida de estos autos de mero trámite; cada disyuntiva en un proceso puede tener un impacto crítico en la sentencia. Además, implica que una etapa del proceso salga del control humano, donde la Inteligencia Artificial tiene control efectivo sobre el futuro de las partes involucradas.

    La tercera problemática se refiere al reto al deber de fundamentación de las resoluciones judiciales cuando estas son producidas parcial o totalmente por una Inteligencia Artificial. El deber de fundamentación de las resoluciones judiciales es hoy un estándar básico, pero tomó siglos de luchas lograr este requisito que busca poner en jaque el uso arbitrario del poder conferido al juez. Un uso arbitrario del poder de juzgar lo puede hacer tanto una Inteligencia Artificial como un ser humano, pero con una complejidad mayor para enfrentar dicha arbitrariedad.

    Ante una resolución que se considere indebidamente fundamentada por un juez, se puede recurrir cuestionando el razonamiento utilizado, ya sea en la misma instancia o en alzada, y dicho razonamiento será examinado para determinar si cumple los principios de la sana crítica racional. Existe una igualdad con la persona juzgadora a quien se le cuestiona su razonamiento, ya que es una persona al igual que las demás partes y, por lo tanto, entendemos en gran medida cómo piensa. Sin embargo, con una Inteligencia Artificial, cuyas redes neuronales son cada vez más complejas, la posibilidad de cuestionar el razonamiento en una resolución se dificulta por una nueva barrera: entender cómo está programada, cuáles fueron los caminos en la red neuronal que se activaron y por qué.

    La persona común ya tenía una dificultad bastante grande entendiendo las complejidades y el lenguaje jurídico que implican un proceso, y ahora agregar la necesidad de un entendimiento en programación y ciencias de la computación puede generar un trámite judicial tan opaco y confuso que hará ver “El Proceso” de Kafka como una utopía y no como una advertencia.

    Frente a las problemáticas indicadas, nuestro diseño actual de los procesos no cuenta con herramientas claras o eficaces para hacerle frente a la inclusión de la Inteligencia Artificial por parte de la judicatura. Ante este escenario, propongo la inclusión de un nuevo principio de derecho procesal que permita enfrentar la nueva realidad a la que nos enfrentamos como operadores jurídicos. Los principios de derecho procesal deben impregnar todas las actuaciones y etapas de un procedimiento judicial, al ser el punto de partida de cómo deben llevarse a cabo los procesos. Incluir un nuevo principio permitiría de manera más sencilla asimilar los cambios que se tendrán que hacer en la estructura de estos procedimientos.

    El por qué considero que un principio de derecho procesal es la mejor vía para enfrentar los retos indicados en la sección anterior se aclara al entender qué son estos principios. Sergio Artavia Barrantes y Carlos Picado Vargas lo desarrollan de manera excepcionalmente bien: “Los principios procesales son aquellas premisas máximas o ideas fundamentales que sirven como columnas vertebrales de todas las instituciones del derecho procesal. Son fuentes axiológicas que pasan a ser fuentes formales en caso de ausencia de norma -art. 5 LOPJ-. Por ello, a través de los principios se trazan las líneas directivas fundamentales que deben ser respetadas para que el sistema procesal funcione en forma coherente con los derechos humanos y el principio de legalidad procesal. Si lo que se desea es regular la forma en que se debe desenvolver el proceso (debido proceso), entendido éste como un método pacífico de debate dialéctico entre dos antagonistas en plano de igualdad ante un tercero que heterocompondrá (sic) el litigio, el formular los principios necesarios para lograrlo implica tanto como trazar las líneas directivas fundamentales que deben ser imprescindiblemente respetadas para lograr el mínimo de coherencia que supone todo sistema. Es decir, que los principios procesales demarcan las condiciones imprescindibles –sine qua non- por las cuales se rige el debido proceso.” (3).

    El principio de derecho procesal que aquí propongo lo denomino: “De Humanidad” y este pretende dar solución a las tres problemáticas ya indicadas. La inclusión de dicho principio implicaría cambios considerables en cómo se llevan a cabo los procesos, al igual que cuando se introdujo el principio de la oralidad, lo cual conllevó un periodo de adaptación pero que permitió mejorar considerablemente la eficiencia y transparencia de los actos jurisdiccionales. En este punto, creo que la evolución del derecho procesal frente a los avances tecnológicos es urgente y crítica, ya que de no adecuarse, existiría un riesgo de abusos contra las personas usuarias de la justicia que fácilmente pondría en riesgo el tejido social a largo plazo. Esta urgencia de intervenir en el derecho procesal es bien expresada por Fernando Martín Diz: “Hoy, la irrupción de la inteligencia artificial en el mundo jurídico es im

    parable. Y en el ámbito específico del derecho procesal, quizá por las importantísimas repercusiones que desprende hacia derechos fundamentales, aún queda mucho por hacer y desarrollar para un aprovechamiento óptimo y garantista de las opciones y posibilidades que la inteligencia artificial ofrece. Apreciamos ciertos avances (herramientas de búsqueda de jurisprudencia, preparación y procesamiento de documentos y de asuntos) como luces. Percibimos lagunas, sombras en cuanto a una adecuada implantación que garantice el pleno respeto a los derechos procesales fundamentales, y hay un amplio terreno a la especulación y las cábalas, especialmente en cuanto a determinar a corto y medio plazo si la inteligencia artificial legal ha de ser implementada con funciones asistenciales o auxiliares para quienes reciben la encomienda de impartir justicia o incluso pudiera llegar a asumir funciones decisorias plenas en el marco de la resolución judicial o extrajudicial de litigios.” (5).

    El principio de Humanidad conllevaría tres reglas generales que se deberían aplicar a cualquier tipo de procedimiento judicial en el que se vaya a utilizar inteligencia artificial por parte del juez o en reemplazo de este. Estas reglas son: i) Debe indicarse de manera expresa si se utilizó Inteligencia Artificial en un acto determinado y, de ser así, de qué forma fue utilizada y cuáles fueron sus alcances; ii) en los casos en que una inteligencia artificial realice por completo algún acto jurisdiccional, aun cuando sea de mero trámite, las partes puedan solicitar que un ser humano revise lo realizado por la Inteligencia Artificial; y iii) que cuando se utilice una Inteligencia Artificial en una resolución de fondo, como parte de la fundamentación debe explicarse de manera satisfactoria cómo se procesó la información para llegar a la conclusión obtenida.

    La primera regla respecto a que se debe hacer mención expresa sobre si se utilizó una Inteligencia Artificial en algún extremo de la resolución o auto vendría a dar seguridad y transparencia a las partes sobre cómo analizar cada resolución. Además, considero que dicha transparencia ayudaría a mantener la legitimidad social mencionada. Este deber no se limitaría a una vaga mención de que se utilizó una Inteligencia Artificial; debe indicarse de manera expresa y concreta en qué partes fue utilizada la Inteligencia Artificial y qué información se le proporcionó.

    La segunda regla generaría una recurribilidad automática de aquellos actos judiciales emitidos por Inteligencia Artificial. Esta posibilidad de recurrir dichos actos cubriría los casos donde normalmente dicho acto no tendría ningún tipo de recurso, como sucede mucho con los de mero trámite. En los casos donde ya se tenga la posibilidad de recurrir dicho acto, el recurso debe ser resuelto por un ser humano y no por una Inteligencia Artificial. Esta regla también implica que una Inteligencia Artificial no puede ser la última instancia en ninguna jerarquía recursiva. De esta forma, nos aseguramos de que no se generen espacios donde un humano no tenga un control efectivo del procedimiento judicial y además evitamos una crisis de legitimidad social por otorgarle tanto poder a una Inteligencia Artificial. Se podría argumentar que aumentar la cantidad de recursos que pueden interponer las partes del proceso ralentizaría considerablemente el proceso, pero considero que esto se vería compensado con la velocidad que traerá la Inteligencia Artificial a los procesos. Además, la celeridad no es un fin en sí mismo y por ella no se debe sacrificar el derecho de defensa y la calidad de las resoluciones emitidas.

    La tercera regla, siendo esta la obligación de que cuando se utilice una Inteligencia Artificial en una resolución de fondo, como parte de la fundamentación, debe explicarse de manera satisfactoria cómo se procesó la información para llegar a la conclusión obtenida. Esto vendría, a mi criterio, a solucionar dos problemas: uno práctico y uno más filosófico. El problema práctico es que permitiría a las partes del proceso poder cuestionar y analizar a mayor profundidad las resoluciones. Esto se debe a que el análisis que se haría en una resolución dictada por un ser humano sería muy distinto al que se haría frente a una realizada por una Inteligencia Artificial. Frente a una resolución dictada por un ser humano, desde el punto de vista de un litigante, se tiene que analizar la interpretación normativa realizada, cómo se consideró la prueba existente y, en general, cómo tejió sus consideraciones con los elementos a su disposición. Frente a una Inteligencia Artificial, se tendría que hacer esto mismo pero con una capa extra de complejidad: entender cómo procesará la información, por ejemplo, cómo jerarquizará los distintos medios de prueba cuando estos sean contradictorios según su red neuronal. Dar esta explicación permitiría a las partes del proceso entender a profundidad las nuevas complejidades a las que se enfrentan y, de esta forma, poder ejercer de manera más efectiva su derecho a la defensa. Sin una clara explicación y entendimiento del procesamiento de la Inteligencia Artificial, cualquier intento de cuestionar la resolución dictada será sumamente difícil, lo cual implicaría un deterioro considerable en el derecho al acceso a la justicia.

    Esto último me lleva a la parte filosófica de esta última regla: evitar que los procesos judiciales se vuelvan incomprensibles para las personas a quienes afectan, pero además evitar que nuestros derechos como personas queden en manos, metafóricamente hablando, de Inteligencias Artificiales que no comprendemos y que no podemos explicar. La Inteligencia Artificial, aunque es una herramienta muy poderosa, no es infalible y fácilmente puede replicar prejuicios sociales y raciales, reforzar barreras económicas y maximizar todo lo que está mal actualmente en nuestra sociedad. La falta de una explicación detrás del procesamiento de la información de la Inteligencia Artificial que produjo la resolución impediría en gran medida detectar cómo estarían reforzando las peores partes de la sociedad que la produjo, quedando bajo el velo de un falso sentimiento de objetividad, lo cual dificultaría aún más hacer un examen crítico de los actos emitidos.

    Estas tres reglas que componen el principio de derecho procesal de Humanidad definitivamente requieren que se profundice y se pula tanto en su conceptualización como, aún más importante, en su implementación. Sin embargo, creo que presentan una buena propuesta inicial para hacer frente a las dinámicas que generará la Inteligencia Artificial en los procesos judiciales desde el punto de vista de un litigante. Mi diseño para este principio parte de que estas tres reglas tengan una sinergia entre sí y que sean sencillas y, por lo tanto, flexibles para abarcar la mayor cantidad de escenarios.

    El derecho procesal es solo una de las incontables áreas que están viendo un cambio radical por la Inteligencia Artificial, pero es un área particularmente sensible, ya que a través de estos procesos judiciales dependen los derechos de todas las personas. Un mal uso de esta tecnología causaría daños catastróficos y permitiría una violación sistémica de derechos fundamentales a escalas que realmente no comprendemos. Por esto mismo, considero que hay una urgencia real de modificar nuestra visión de los procesos judiciales para garantizar que el uso de esta tecnología no conllevará un retroceso enorme en el derecho a la defensa y en la transparencia judicial. Nuestro interés por la celeridad procesal y eficiencia no puede cegarnos a los riesgos existentes, los cuales deben ser encarados y resueltos.

    Bibliografía:

    1. León Coronado, C. (2023). “La carrera por la regulación de la inteligencia artificial.” Revista Latinoamericana de Economía y Sociedad Digital. Bolivia.

    2. Artavia Barrantes, S., y Picado Vargas, C. (2016). “Curso de Derecho Procesal Masterlex: Principios Procesales.” Punto Jurídico. Costa Rica.

    3. Martín Diz, F. Curso Superior en Derecho Inteligencia Artificial: Modulo Inteligencia Artificial y Derechos Fundamentales Procesales. DoinGlobal. España.

    POST RECIENTES

    CATEGORÍAS
    TAGS