El CGPJ pone reglas al uso de IA por los jueces: solo herramientas facilitadas por la Administración y "validación personal completa"

Nada de uso de herramientas de IA particulares, y tampoco creación de "prompts" (instrucciones) propios para abordar los casos concretos. El Pleno del Consejo General del Poder Judicial ha aprobado este jueves una instrucción dirigida a la Carrera Judicial en relación con la utilización de programas de inteligencia artificial que señala que, para ejercer la jurisdicción, los jueces españoles solo deben utilizar herramientas de IA generativa facilitadas por las administraciones competentes o el propio Consejo, y solo como instrumentos de apoyo o asistencia. Siempre debe existir una validación personal completa de los resultados, la máquina no debe sustituir las decisiones humanas.

Desde el pasado mes de septiembre, en el Consejo General del Poder Judicial ya funciona un grupo de trabajo específico sobre el uso de IA. Tal y como adelanto EL PERIÓDICO, sus miembros son conscientes del uso por parte de muchos jueces de herramientas como el Copilot y Chat GPT y que ya han creado sus propios "prompts" (instrucciones). También les consta que algunos de ellos trabajan en abierto (con los riesgos que ello puede conllevar con respecto a la protección de datos sensibles) o se pagan de sus bolsillos versiones superiores de este tipo de herramientas.

Según fuentes consultadas en el órgano de gobierno de los jueces, se actúa porque a esta institución han llegado denuncias de un presunto mal uso de esta tecnología, aun pendiente de aprobar un plan de formación en nuevas herramientas de IA que sea obligatoria para todos los jueces que ahora mismo están en la Escuela Judicial y se ofrecerá a los más de 5.400 que integran la carrera.

La finalidad de la instrucción aprobada este jueves es crear “un marco de actuación claro, homogéneo y coherente” con la normativa nacional y europea en esta materia, respetando en todo momento la independencia judicial y el ejercicio por los miembros de la Carrera Judicial de las funciones jurisdiccionales.

Será publicada en el BOE, y en ella se advierte de que un empleo indebido de la IA generativa puede vulnerar los derechos y libertades. Por ello, su uso se tiene que adecuar a la Ley Orgánica del Poder Judicial y a lo establecido por el Comité Técnico Estatal de la Administración Judicial electrónica (CTEAJE).

"Sesgo algorítmico"

Los jueces deben tener en cuenta el “sesgo algorítmico”, que define como la desviación sistemática en los resultados generados por la IA a partir de los datos, modelos o procesos utilizados, pudiendo producir efectos arbitrarios o discriminatorios. Por ello, el Consejo es muy concreto a la hora de señalar que ninguno de estos sistemas debe operar de forma autónoma para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas o la interpretación y la aplicación del Derecho.

La instrucción considera usos permitidos, además de lo que resulte de la normativa de aplicación, la búsqueda y localización de información jurídica, la recuperación de antecedentes procesales; el análisis, clasificación y estructuración de información, documentos y datos con fines de organización, comprensión o apoyo al estudio del asunto; o elaboración de esquemas, resúmenes o borradores de trabajo interno, siempre que no tengan carácter decisorio ni sustituyan la redacción personal.

Los sistemas de IA tampoco podrán ser utilizados por los miembros de la Carrera Judicial para el tratamiento de datos personales especialmente protegidos o de información sujeta a deberes reforzados de confidencialidad; y tampoco con fines de perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos, según concreta la instrucción.

Suscríbete para seguir leyendo