Sancionado un juez en España: utilizó ChatGPT para elaborar una sentencia judicial

El Consejo General del Poder Judicial (CGPJ) ha abierto expediente a un magistrado que empleó inteligencia artificial, en concreto ChatGPT, para redactar el borrador de una sentencia y que enfrenta una posible sanción de suspensión y multa.

La Comisión Disciplinaria del Consejo General del Poder Judicial deberá decir si sanciona a este magistrado de una Audiencia Provincial con quince días de suspensión y una multa de 501 euros, como reclama el promotor de la acción disciplinaria, Ricardo Gonzalo Conde, según ha adelantado El Español y han confirmado a EFE fuentes del Poder Judicial.

La Fiscalía, que también interviene en los expedientes disciplinarios a jueces y se pronuncia al mismo tiempo que el promotor, propone en cambio archivar el expediente, sin imponer sanción, al considerar que no se ha producido una infracción disciplinaria.

Olvidó borrar sus preguntas

Según publica El Español, el juez empleó la IA para redactar una resolución y fue descubierto porque olvidó eliminar las consultas a ChatGPT del texto del que era ponente.

El promotor cuestiona a este magistrado por presentar al resto de los integrantes del tribunal una «aparente sentencia» que había sido motivada, es decir, argumentada, por «métodos artificiales sobre el análisis informático que ChatGPT había hecho de las actuaciones judiciales que el propio magistrado suministró con tal propósito».

Al proponer la sanción, el promotor no cuestiona la utilización «per se» de la herramienta de inteligencia artificial, sino que lo hiciera «eludiendo cumplir con su función jurisdiccional».

Subir a una inteligencia artificial «la totalidad de las actuaciones y redactar una sentencia a base de preguntas dirigidas a la obtención de texto», sin advertir al resto de los miembros del tribunal y sin tomar la «menor protección» sobre los datos personales contenidos en los autos es, según el promotor, «una infracción del más elemental deber judicial de dictar sentencia y de lealtad».

Según señalan las mismas fuentes, el promotor considera que este juez pretendió «eludir la labor de motivar el parecer del tribunal con respecto a un asunto del que era ponente, valiéndose para ello de una herramienta de IA».

Se advirtió a los jueces de que la IA no puede sentenciar

Recientemente, el pasado 28 de enero, el Pleno del Consejo General del Poder Judicial (CGPJ) aprobó una instrucción sobre el uso de IA, en la que advirtió a los jueces de que la inteligencia artificial no puede dictar sentencias, valorar hechos o pruebas ni aplicar el derecho sin la supervisión y el «constante control humano, real, consciente y efectivo» de los jueces.

Esta instrucción prohíbe que la IA supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional, el de responsabilidad judicial, el de independencia judicial, el de respeto de los derechos fundamentales y principios de confidencialidad y seguridad y el de prevención de sesgos algorítmicos.

Además, el Poder Judicial señaló que los jueces solo pueden usar las aplicaciones de inteligencia artificial que les sean facilitadas por las administraciones competentes en materia de Justicia y hayan pasado el control del CGPJ o aquellas que les sean proporcionadas directamente por el órgano de gobierno de los jueces.