La Unión Europea alcanza un principio de acuerdo para regular sistemas de inteligencia artificial como ChatGPT

Tras más de 22 horas de negociación, la Unión Europea (UE) no ha logrado alcanzar un acuerdo definitivo sobre la ley que regulará la inteligencia artificial (IA). Las instituciones reunidas en Bruselas decidirán mañana si la nueva legislación prohibirá o no el uso de la vigilancia biométrica en las calles. Sin embargo, sí han cerrado este jueves un pacto preliminar sobre las normas que se aplicarán a los modelos fundacionales, la tecnología que sustenta los sistemas como ChatGPT.

ChatGPT y vigilancia policial: los escollos que bloquean la nueva ley de inteligencia artificial

Esta parte de la regulación era uno de sus principales puntos conflictivos. Hace un par de meses había un consenso sobre la necesidad de aplicar una serie de criterios estrictos sobre los modelos fundacionales, pero Francia, Alemania e Italia cambiaron su postura y presionaron para descafeinar esas normas y dejar la autorregulación en manos de grandes empresas como Microsoft, OpenAI o Google.

Durante las primeras seis horas de reunión, los delegados de la Comisión Europea, del Parlamento Europeo y de los Estados miembros —representados por la presidencia española del Consejo de la UE— alcanzaron un acuerdo provisional que, según documentos obtenidos por el medio especializado Euractiv, exigirá a las compañías adoptar mecanismos de transparencia, establece normas para los modelos de mayor riesgo e incluye multas.

Decenas de organizaciones de la sociedad civil han advertido que no establecer unas obligaciones claras y decantarse en favor de los gigantes del sector supondrá riesgos no menores.

Presión y mucho por cerrar

La falta de acuerdo en la Unión Europea pone en peligro la regulación de la inteligencia artificial

Las negociaciones finales a tres bandas —conocidas como trílogos— empezaron el miércoles a las 15h y se dieron de margen hasta las 8 de la mañana de este jueves, cuando debía empezar una rueda de prensa para dar más detalles de lo acordado. Esos horarios fueron, como poco, optimistas. Tras más de 22 horas de charlas, las partes decidieron pausar las negociaciones para retomarlas el viernes a las 9 de la mañana, pues aún quedan muchos aspectos clave por acordar.

La presidencia española quiere dar por cerrada esta pionera ley antes de que termine el año. La presión para alcanzar un acuerdo en tantos aspectos cruciales ha llevado a prolongar una maratoniana jornada negociadora que ha generado malestar con el liderazgo político de la UE, según han explicado a EL PERIÓDICO fuentes internas de la negociación. Organizaciones de la sociedad civil también habían denunciado que tomar las decisiones más importantes en materia de derechos humanos tras el cansancio de una noche en vela podía poner en riesgo el acuerdo final.

Más poder de vigilancia para la policía

Las partes han acordado prohibir las IA que se usen para manipulación, explotar vulnerabilidades o el 'scraping' indiscriminado de imágenes faciales. El Parlamento Europeo quiere prohibir muchas otras aplicaciones, entre ellas la de los sistemas de reconocimiento facial. Parte de los Estados se oponen a esa restricción y presionan a los legisladores para que se permita.

Más de 100 oenegés denuncian "vacíos" en la regulación de la inteligencia artificial que podrían exponer a los migrantes

Los gobiernos europeos, con Francia a la cabeza, quieren establecer una polémica exención que permita a la policía y al ejército usar la vigilancia biométrica en casos de "seguridad nacional" como el terrorismo, el abuso sexual o para la protección de infraestructuras críticas. Sin embargo, representados por la presidencia española, también presionan para poder usar sistemas biométricos para elaborar perfiles de las personas según su raza, opiniones políticas o creencias religiosas cuando esas características "tengan una relación directa con un delito o amenaza específicos".

No solo eso. El Consejo de la UE también presiona para rebajar las exigencias de la ley y permitir que la policía y las agencias de control en las fronteras puedan usar sistemas predicitvos y de reconocimiento de las emociones, dos tipos de IA que despiertan no pocos recelos entre los expertos por los errores que cometen y por su potencial perjuicio sobre los derechos de las personas vigiladas, muchas de ellas migrantes.

"Vergüenza absoluta"

El acuerdo final podría decantarse por permitir esa exepción de perfilaje racial, algo que indigna a la sociedad civil. Daniel Leufer, de la organización Access Now, ha descrito esa posibilidad como una "vergüenza absoluta" que abrirá la puerta a una "vigilancia racista horrible". "No hay ningún nivel de vigilancia masiva que sea aceptable, pues va en contra de los derechos fundamentales", explicó a EL PERIÓDICO Ella Jakubowska, asesora política de la organización European Digital Rights (EDRi).

Otro punto aún por debatir y acordar será el artículo que pretende permitir que los 27 Estados miembros puedan exportar sistemas de IA de "riesgo inaceptable" o de "alto riesgo" a terceros países que no forman parte de la UE. Esas dos categorías estarán prohibidas o muy limitadas en la UE, pues los legisladores entienden que su uso puede suponer un peligro para la integridad de las personas. De aprobarse, esa consideración no se aplicará fuera de las fronteras europeas.