Organizaciones civiles exigen al Gobierno de España que las empresas tecnológicas no suavicen la ley de la inteligencia artificial

La Unión Europea (UE) ultima entre críticas la primera ley del mundo que regulará la inteligencia artificial (IA). Una alianza entre 16 organizaciones expertas en tecnología y derechos humanos ha denunciado la falta de transparencia con la que se está negociando la normativa y ha exigido al Gobierno de España que prohíba los usos "que puedan amplificar la pobreza, el racismo y la discriminación".

La ley de la inteligencia artificial, en la recta final: estos son los riesgos que la UE quiere regular

En una carta publidada este jueves, la Coalición IA Ciudadana ha solicitado a la ministra de Economía, Nadia Calviño, y a la secretaria de Estado de Digitalización e IA, Carme Artigas, que actúen para acabar con las deficiencias que presenta la propuesta de ley. Entre ellas, destaca la cláusula que permitiría a las grandes corporaciones tecnológicas decidir si sus sistemas de IA son catalogados como de "alto riesgo", lo que las obligaría al cumplimiento de unas reglas más estrictas. "La determinación del riesgo de los sistemas de IA no debe quedar en manos de las propias empresas que los desarrollan", reza la misiva.

La coalición también pide al Ejecutivo de Pedro Sánchez que vele para que la ley europea prohiba de forma total el uso de tecnologías de reconocimiento biométrico. El texto negociado actualmente entre el Parlamento Europeo, la Comisión Europea y el Consejo Europeo —integrado por los jefes de Estado o de Gobierno de los 27— establece que estos sistemas de identificación facial serán restringidos cuando sean en tiempo real, pero se permitirán a posteriori en los espacios de acceso público.

En su carta, los expertos insisten en que se tendrán que realizar estudios de impacto sobre los usos de esa tecnología para evaluar y mitigar riesgos de forma anticipada.

Exclusión de la sociedad civil

Más de 100 oenegés denuncian "vacíos" en la regulación de la inteligencia artificial que podrían exponer a los migrantes

La Coalición IA Ciudadana también denuncia la falta de transparencia de las instituciones europeas y la "falta de participación de la sociedad civil" en la elaboración del reglamento. "En las negociaciones sobre la futura regulación de la IA solo las empresas tecnológicas, asociaciones industriales y sectoriales, think tanks y foros especializados parecen haber podido participar hasta el momento, dejando fuera a las organizaciones expertas en tecnología y derechos humanos", lamentan.

La ley de la IA se está negociando en secreto bajo la presidencia española de la UE, que busca aprobar el texto antes de que finalice el año para así poder capitalizar ese hito legislativo. Sin embargo, cientos de oenegés europeas temen que con las prisas se termine adoptando una normativa con vacíos legales que puedan mermar los derechos humanos tanto de los ciudadanos europeos como de aquellos que tratan de llegar al continente.

Las 16 organizaciones que firman la carta son Civio, Lafede.cat, Algorights, Political Watch, Algorace, Eticas, Komons, Digital Fems, Institut de Drets Humans de Catalunya, CECU, Fundación Secretariado Gitano, Irídia, Novact, Tas, Amnistía Internacional y Xnet.