IA y justicia, hacia un uso generalizado que deberá sortear la brecha económica y la mala praxis

El uso de herramientas de IA ha experimentado un crecimiento exponencial en los últimos años, e incluso meses, y ello tiene su impacto en la justicia. En diciembre de 2023, una encuesta realizada por el Colegio de la Abogacía de Madrid situaba el acceso a estas tecnologías por los despachos de abogados más pequeños en una media de un 3% --el porcentaje ascendía ya entonces a un 11% en los grandes bufetes-- unas cifras que han envejecido rápidamente. Desde el propio Consejo General del Poder Judicial, a falta de estadísticas oficiales, se asume que herramientas como Copilot, Chat GPT o Gemini AI --además de otros productos diseñados de forma específica para el mundo del derecho-- ya son utilizadas en el 80% de los despachos profesionales, a lo que se suma su empleo cada vez más habitual por parte de jueces y fiscales.

Frente a lo que muchos consideran una revolución sin precedentes para agilizar y optimizar la labor de los operadores jurídicos, que cambiará de forma integral la manera de pedir e impartir justicia, surgen las advertencias, que pasan sobre todo por el desconocimiento y falta de formación, que puede derivar en mala praxis.

Tras una primera advertencia del Tribunal Constitucional en 2024, los órganos judiciales han comenzado a detectar otros casos, como la introducción en las demandas de jurisprudencia inexistente o legislación de otros países; mientras que al Consejo del Poder Judicial han llegado quejas por introducción de datos en abierto o errores en valoración de prueba por parte de algunos jueces.

También se advierte del peligro de creación de una brecha económica entre quienes pueden invertir o no en las mejores versiones de estas herramientas y, sobre todo, en formación. Este hándicap puede trasladarse a la labor de los jueces y fiscales si, por falta de inversión económica de las administraciones públicas, sus integrantes no puede ponerse a la altura de la abogacía en este terreno, según señalan a EL PERIÓDICO los expertos en justicia digital e IA entrevistados para este reportaje.

Algoritmos "igualitarios"

Ya en octubre de 2022, con ocasión de su ingreso como académico en la Real Academia de doctores, el que fuera presidente de la Sala de lo Penal del Tribunal Supremo Manuel Marchena alertaba del terreno "resbaladizo" que a su juicio ya afectaba los estándares de calidad y homologación de los sistemas algorítmicos asumidos por la administración de Justicia. A su juicio, "la imparcialidad que puede reivindicarse de una máquina es la que determina que sus algoritmos sean igualitarios y no discriminatorios".

Con esta valoración coinciden casi todos los expertos, que aluden a las herramientas de la denominada "jurimetría", para realizar análisis y "predicción jurisprudencial", cuyo uso es cada vez más habitual por los operadores jurídicos. El objetivo es ser ágiles y eficaces en la redacción de documentos legales, ya que estas herramientas ofrecen apoyo al estudiar datos históricos y decisiones judiciales previas.

Mabel Klimt es responsable de Innovación y Tecnología del Ilustre Colegio de la Abogacía de Madrid y socia directora del despacho Elzaburu. También ha coordinado la primera guía práctica para uso responsable de estas herramientas, lanzada por esta organización profesional el pasado mes de octubre, y que traslada a la práctica las recomendaciones del nuevo marco regulador europeo y nacional.

Normativa y alto riesgo

El marco normativo lo establece el Reglamento Europeo de Inteligencia Artificial (AI Act) ya fue aprobado formalmente en mayo de 2024 y entró en vigor el 1 de agosto de 2024. No obstante, su implementación es gradual y las normas específicas para los sistemas de IA de alto riesgo --entre las que se encontrarían las relacionadas con el derecho-- comenzarán a ser aplicables previsiblemente a partir de agosto de 2026. Los servicios jurídicos de las empresas y los grandes despachos ya están tratando de adelantarse a estas exigencias.

En conversación con este diario, Klimt incide en que este tipo de tecnología no reemplaza "ni debe reemplazar" al abogado ni a su criterio profesional. A su juicio, la llegada de este tsunami tecnológico es imparable, pero pero el profesional del derecho debe mantener siempre la supervisión, el juicio crítico y "una diligencia reforzada en el uso de estas herramientas”. También alerta de la situación en la que quedan los despachos más pequeños, el denominado por algunos "abogado artesanal", que puede incluso llegar a desaparecer ante este desafío que enfrenta el sector en estos momentos.

Frente a estos abogados que trabajan prácticamente en solitario están los grandes despachos (Baker McKenzie, Cuatrecasas etc.) que están realizando "grandísimas inversiones" en herramientas de IA, a lo que se suma que interés de los letrados más jóvenes es "masivo" porque les ayuda a "superar el miedo al folio en blanco", según Klimt, lo que abundará en una brecha digital que se manifestará previsiblemente entre generaciones de letrados. Los colegios profesionales están llamados precisamente a cubrir estas desigualdades mediante apoyo técnico y, sobre todo, formación.

Jueces y fiscales

Por otra parte, y dese el pasado mes de septiembre, en el Consejo General del Poder Judicial ya funciona un grupo de trabajo específico sobre el uso de IA. Uno de sus miembros, el vocal Luis Martín Contreras, señala a este diario que son conscientes del uso por parte de muchos jueces de herramientas como el Copilot y Chat GPT y que ya han creado sus propios "prompts" (instrucciones). También les consta que algunos de ellos trabajan en abierto (con los riesgos que ello puede conllevar) o se pagan de sus bolsillos versiones superiores de este tipo de herramientas.

"La única norma que existe por el momento es el Reglamento Europeo, que ya advierte en su disposición adicional que, ojo, se tengan en cuenta los sesgos -agrega-. Si en un escrito metes una sentencia que te sugiere la IA, lo menos que puedes hacer es comprobar que existe, y que realmente dice lo que la IA apunta". Para el vocal existe un terreno tremendamente amplio que está por explorar, porque cualquier juez de España puede acudir a la IA, "el inconveniente es que utilicen herramientas como el Chat GPT sin conocer los riesgos".

Quizá por ello, desde el CGPJ ya se ha elaborado y se tiene previsto aprobar de forma inminente un ambicioso plan de formación (que será obligatorio para quienes se forman en la escuela judicial, y voluntario para los 4.500 jueces en ejercicio) al que acompañará una Instrucción para decirles a los jueces como conducirse con las herramientas de IA, según detalla a este diario el también vocal y magistrado de la Sala de lo Contencioso del Tribunal Supremo José Antonio Montero. Habla también de brecha económica precisamente entre las grandes inversiones de los despachos y el limitado presupuesto de la Administración de Justicia, que puede dejar a los jueces atrás.

Un producto "humano"

Se busca "instruir a los compañeros cómo se puede y no se puede usar", porque "la automatización tiene unos límites, puesto que las sentencias y resoluciones son un producto humano", afirma el magistrado, que subraya que desde el órgano de gobierno de los jueces les corresponde "liderar y controlar el uso" de la IA porque, al fin y al cabo, "lo que está en juego son los derechos de los ciudadanos".

Desde principios del pasado mes de noviembre, a través del Centro de Documentación Judicial (CENDOJ) se ha puesto a disposición de los jueces un conjunto de programas denominado KENDOJ, orientado a optimizar el acceso a la información jurídica. Incluso se ha desarrollado un "prompt" específico, que permite alcanzar una mejor comprensión de la sentencia elegida de este fondo documental.

De hecho, esta herramienta del CENDOJ está comenzando a ser utilizada por el Tribunal Supremo, según se revela en el plan de medidas de refuerzo para su Sala de lo Civil, aprobada por la Sala de Gobierno en su reunión del pasado mes de diciembre. Se señala expresamente que "se están explorando con el CEDOJ herramietnas de IA que permitan la identificación de recursos sustancialmente idénticos para darles un tratamiento uniforme".

La Fiscalía también se ha puesto las pilas, y la nueva fiscal general, Teresa Peramato, ofreció en las primeras semanas de este mes de enero una sesión formativa presencial y online sobre Copilot, que es la herramienta de IA que está disponible para los miembros de la carrera fiscal, según señalan fuentes de esta institución.

"Sesgo de vaguería"

También nos ilustra sobre la situación el responsable de Justicia Digital del Consejo General de la Abogacía Española, Miguel Hermosa. El organismo que aglutina a todos los colegios de abogados de España publicará el próximo día 29 el Libro Blanco sobre Inteligencia Artificial y Abogacía, destinado a impulsar la implementación de la una carta de Derechos Digitales, que aspira ser un documento de referencia para los miembros de esta profesión.

Sobre el uso de estas tecnologías el Consejo tiene previsto hacer pública también una macroencuesta cuyos resultados concretos Hermosa no nos desvela, aunque adelanta que la respuesta ha sido abrumadora. "Aquellos que aún no lo están usando tienen en su cabeza empezar a explorar la IA", apunta.

Sobre la mala praxis, advierte de lo que él denomina que es en realidad un "sesgo de vaguería". "La máquina no es más que un mecanismo de intuición probabilístico y hay que ajustarlo siempre bajo la supervisión humana, pero evidentemente tienes que tamizar y gestionar la información, porque al final el responsable eres tú, el que firma los escritos", concluye.

Suscríbete para seguir leyendo