Nueva ley en la UE

Francia amenaza con hacer descarrilar la regulación europea de la inteligencia artificial

ChatGPT y vigilancia policial: los escollos que bloquean la nueva ley de la IA

La secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, durante la rueda de prensa en el Parlamento Europeo tras el acuerdo sobre la "AI Act".

La secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, durante la rueda de prensa en el Parlamento Europeo tras el acuerdo sobre la "AI Act". / Parlamento Europeo

Carles Planas Bou

Carles Planas Bou

Por qué confiar en El PeriódicoPor qué confiar en El Periódico Por qué confiar en El Periódico

La celebrada regulación europea de la inteligencia artificial (IA) podría descarrilar. Después de casi tres años de negociaciones, este viernes, 2 de febrero, los gobiernos de los países que integran la Unión Europea (UE) votarán si apoyan o rechazan el "histórico" acuerdo al que se llegó el pasado 8 de diciembre para dar forma a una ley pionera a escala global. Francia es, por ahora, el principal escollo que amenaza con bloquear el proyecto.

De cara a la galería, todo han sido grandes proclamas. "La UE se convierte en el primer continente que establece normas claras para el uso de la IA", festejó en diciembre Thierry Breton, comisario europeo de Mercado Interior. Sin embargo, el pacto político alcanzado por los representantes del Parlamento Europeo y de los 27 Estados miembros aún tenía muchos flecos cruciales por cerrar. El diablo siempre está en los detalles.

En los dos últimos meses, países como Francia y Alemania han impugnado la propuesta y han acentuado su presión para rebajar sus exigencias. "Si se rechaza la ley de IA no será por su insuficiente protección de los derechos humanos sino porque los gobiernos de los Estados miembros optaron por dar prioridad a los intereses de la industria de la IA y de los cuerpos de policía", denunciaron ayer un grupo de organizaciones civiles en un comunicado.

Vigilancia policial

Francia y Alemania quieren que sus cuerpos de seguridad puedan usar sistemas de vigilancia con "muy poca transparencia y supervisión". Durante las negociaciones, París lideró la presión para una amplia exención para los usos militares o de defensa de la IA. "El Estado francés tiene urgencia para tener más control de la población y está usando la tecnología para recortar los derechos democráticos", apunta Judith Membrives, responsable de políticas digitales a lafede.cat. El Gobierno de Emmanuel Macron ha invertido "mucho dinero" en sistemas de reconocimiento facial de cara a la celebración de los Juegos Olímpicos.

Antes, durante su presidencia rotatoria del Consejo de la UE, ya introdujo otra exención que permite a la policía y a los agentes de fronteras desplegar IA en casos de "seguridad nacional". Esa excepción "da a los Estados miembros una enorme laguna legal que explotar cuando deseen desplegar tecnologías de vigilancia basadas en IA y eludiendo todas las salvaguardias de derechos humanos", denuncian desde la sociedad civil.

Menos transparencia

Ambos países reniegan del texto acordado porque consideran demasiado estricta la regulación de la IA de propósito general (GPAI, por sus siglas en inglés), la tecnología detrás de modelos generativos como ChatGPT. El proyecto de ley establece obligaciones de transparencia que forzarían a las empresas a publicar un "resumen suficientemente detallado" de los datos utilizados para entrenar su 'software' para evitar violaciones de los derechos de autor, una problemática recurrente.

El Elíseo cree que la normativa podría perjudicar la innovación y obstaculizar el desarrollo de 'startups' tecnológicas europeas como la francesa Mistral AI, que pretende competir con gigantes del sector como Microsoft o Google. "No es una buena idea regular los modelos fundacionales más que otros países", ha advertido Macron en un intento por edulcorar la normativa.

¿Bloqueo?

En las últimas semanas, Francia y Alemania han tratado de formar un bloque de oposición a la ley. Sin embargo, Berlín se bajaría del carro, según adelantó este miércoles el rotativo económico alemán Handelsblatt. Italia se ha mostrado escéptica con el texto, pero finalmente descartaría la no ratificación debido a que ostenta la presidencia rotativa del G7, según ha informado Luca Bertuzzi, periodista del portal Euractiv. Eso hace que el 'no' tenga pocas posibilidades de prosperar, algo que podría llevar a Francia a dar luz verde a regañadientes a la que será la primera regulación integral de la IA.

Las organizaciones civiles han advertido que un rechazo de la propuesta supondría una victoria para la industria tecnológica y de seguridad, echaría a perder el marco legal que pone límites a la IA y pondría en riesgo futuras leyes. Aun así, lamentan que el texto acordado "puede contribuir a cambios más amplios que amplíen y legitimen las actividades de vigilancia de la policía y las autoridades de control de la inmigración, lo que tendría importantes consecuencias para los derechos fundamentales".