La UE logra un acuerdo "histórico" para limitar los riesgos de la inteligencia artificial

La Unión Europea (UE) ha dado luz verde a la primera ley integral que limitará los riesgos de la inteligencia artificial (IA). Tras más de 35 horas de negociación repartidos en tres días y una noche, los representantes del Parlamento Europeo y de los gobiernos han logrado cerrar un acuerdo "histórico" que sitúa al bloque como única región del mundo con una regulación similar, pero que también despierta dudas y preocupaciones.

ChatGPT y vigilancia policial: los escollos que bloquean la nueva ley de inteligencia artificial

La Comisión Europea propuso por primera vez esta pionera legislación en abril de 2021. Dos años y ocho meses después, y con la irrupción de ChatGPT de por medio, este viernes por la noche se ha alcanzado un pacto político que Bruselas y España, que ostenta la presidencia rotatoria del Consejo hasta finales de año, han celebrado como una victoria estratégica. Sin embargo, el texto final aún no se ha hecho público y hay detalles técnicos revelantes por conocer.

La nueva ley establecerá una serie de reglas más o menos estrictas según los usos de la IA y su posible impacto social. Así, se prohíben aquellos sistemas considerados un "riesgo inaceptable", se limitan fuertemente los que son un "riesgo alto" y se da más rienda suelta a los que suponen un "riesgo moderado".

Normas para Chatgpt

La Unión Europea alcanza un principio de acuerdo para regular sistemas de inteligencia artificial como ChatGPT

El jueves, los negociadores acordaron una serie de normas que se aplicarán a los modelos fundacionales, la tecnología que sustenta los sistemas de IA generativa como ChatGPT, impulsado por OpenAI y Microsoft, o Gemini, lanzada recientemente por Google.

Ese acuerdo obligará a las compañías a adoptar mecanismos de transparencia (como detallar con qué datos los entrena), respetar los derechos de autor y facilitar información sobre su consumo de energía. Hace falta ver cómo se aplicarán todos estos puntos. La UE, eso sí, se reserva el derecho a interponer multas a las empresas que no acaten.

Vigilancia biométrica

La polémica está en el uso de sistemas de vigilancia biométrica. El Parlamento Europeo quería prohibir todos sus usos, mientras que los Gobiernos de los 27 Estados miembros querían no tener límites a la aplicación de estas herramientas.

"Peligroso y discriminatorio": Los gobiernos de la UE aceleran la presión para permitir la vigilancia policial mediante inteligencia artificial

El acuerdo sellado a última hora de este viernes prohíbe sistemas de identificación como el reconocimiento facial en tiempo real, pero no pocas incluye excepciones. La policía y el ejército podrán hacer uso de esta controvertida tecnología en espacios públicos para prevenir amenazas de terrorismo, asesinato, violación o tráfico de personas, entre otros casos. Las fuerzas de seguridad necesitarán antes una orden judicial, que no podrá obtenerse de forma retroactiva.

A falta de conocer más detalles, este punto de la nueva ley inquieta a las organizaciones de la sociedad civil, que advierte del peligro que supondrá aplicar estos sistemas de IA en la frontera y con personas ya vulnerables. "No parece que vaya a ser suficiente para detener la vigilancia masiva biométrica generalizada", ha lamentado la analista de políticas digitales Ella Jakubowska, miembro de European Digital Rights (EDRi).