Justicia no desarrollará la IA para detectar "perfiles de riesgo" en la cárcel de Mas d'Enric

A diferencia de lo que se anunció hace unos meses, el Departament de Justícia de la Generalitat ha decidido no realizar la prueba con inteligencia artificial en la cárcel de Mas d'Enric de Tarragona y que debía ser un ensayo para a mejorar la seguridad de los centros penitenciarios y prevenir el riesgo de escape de los internos o la entrada de droga.

Así lo ha explicado la consellera de Justícia, Gemma Ubasart, en el Parlament este jueves. En concreto ha asegurado que ese trata de una propuesta del equipo anterior del Departament y que tras ser revisada en los últimos meses "hemos decidido y comunicado formalmente que no se llevará a cabo". El proyecto tenía un presupuesto de 200.000 euros

"Como con todas las medidas y políticas que nos hemos encontrado en la casa, antes de tomar ninguna decisión hemos querido conocerlas y evaluarlas", dijo Ubasart quien recordó que la prueba en la cárcel estaba dentro de una "estrategia para la especialización inteligente de Catalunya impulsada por varios departamentos de la Generalitat". 

La consellera ha señalado que la posibilidad de desarrollar y financiar respuestas tecnológicas "se sacó a pública concurrencia y las empresas podían presentar sus proyectos" y ha añadido que "el objetivo principal del proyecto que resultó ganador consistía en disponer una solución a Mas d'Enric que facilitara la recopilación y el análisis de datos existente para desarrollar una herramienta que utilizara la inteligencia artificial para detectar patrones conductuales y perfiles de riesgo".

"Este proyecto se había planteado inicialmente como prueba de concepto, es decir, un estudio de viabilidad previo a cualquier prueba piloto. Mi equipo ha pedido varios informes de carácter jurídico y técnico, y hemos concluido que lo prudente era cancelar el programa", ha remarcado Ubasart. Además, ha dejado claro que la Unión Europea "está actualmente debatiendo y revisando sus políticas sobre la inteligencia artificial y sus usos" y "recientemente se ha acordado reglamentar de forma integral los usos de la inteligencia artificial en los países de la Unión Europea a través de la Artificial Intelligence Act". 

Por eso, la consellera ha explicado que "las administraciones no pueden restar ajenas a este debate y proceso de normativización" y es la razón por la que "no es prudente llevar a cabo el proyecto”. Además de aplicar la IA en seguridad, el ensayo pretendía utilizar para crear una base de datos que permita clasificar a los internos en función del riesgo. Así, se quería introducir el reconocimiento facial, lo que fue duramente criticado por varias entidades sociales que consideraban que existía una vulneración de los derechos fundamentales de los presos ante la posibilidad de analizar sus expresiones faciales para prevenir riesgos.