Europa debate en Catalunya la regulación de la inteligencia artificial

"Todo el mundo habla de cómo la inteligencia artificial (IA) puede cambiar el mundo, pero no debemos confiar en ella". Con esta advertencia, Gary Marcus, profesor emérito de Psicología y Ciencias Neuronales en la Universidad de Nueva York, ha abierto este lunes la 45ª edición de la conferencia de la Asociación Parlamentaria Europea de Tecnología (EPTA), una jornada de debate que acoge el Parlament de Catalunya.

Entre el 'hype' y el miedo: Los intereses comerciales marcan el frenesí de la inteligencia artificial

Aunque lleva décadas en desarrollo, esta tecnología emergente ha vivido un auge meteórico en el último año que la ha llevado a estar presente en cada vez más facetas de nuestra vida. La industria ha marcado el paso, especialmente tras la irrupción de ChatGPT, y ahora son las instituciones políticas las que buscan vías de regulación para minimizar sus riesgos.

La EPTA es una red especializada en asesorar a órganos parlamentarios en la Unión Europea (UE). Es por eso que decenas de expertos y legisladores de varios países se han reunido este lunes para intercambiar ideas y tratar de encontrar un equilibrio entre los riesgos y las oportunidades de esta tecnología.

Desinformación y opacidad

Uno de los temores más comentados es que la llamada IA generativa contribuya a acelerar la desinformación. Marcus ha definido los errores que estos sistemas cometen como "gilipolleces autoritarias", pues son presentados como verdades, lo que puede llevar a los usuarios a creer en esas falsedades, sean o no intencionadas.

Ulises Cortés, académico experto en IA del Centro Nacional de Supercomputación de Barcelona, ha señalado que las empresas del sector deberían rendir cuentas por los errores que cometen sus sistemas, así como los fabricantes automovilísticos o de aviones están obligados a una revisión exhaustiva para garantizar que sus productos son seguros antes de lanzarlos al mercado.

Otro problema es la opacidad en la que opera la IA. "Los parlamentos no deben aceptar que las grandes tecnológicas funcionen como cajas negras, hay que obligarlas a ser transparentes", ha pedido Jérome Duberry, investigador del Albert Hirschman Center on Democracy, de Ginebra.

Regulación de la UE

La ley de la inteligencia artificial, en la recta final: estos son los riesgos que la UE quiere regular

Estos son algunos de los puntos que aborda la ley de la UE que regulará la IA, que presumiblemente será aprobada antes de finales de año. Sin embargo, la normativa europea también plantea algunas dudas. "Tener un enfoque ético puede perjudicar la competitividad de la UE en el mercado, pues hace que los sistemas tarden más en llegar al mercado y sean más caros de producir", ha apuntado Katerina Gibert, directora del centro de investigación Intelligent Data Science and Artificial Intelligence (IDEAI-UPC).

La IA, han señalado los expertos, también puede ser una herramienta útil para el sector público. Los parlamentos pueden usarla como ayuda para la redacción de leyes, agilizar traducciones o personalizar la comunicación política. "Servirá para ser más eficientes, reducir costes y digitalizar servicios para que sean más sencillos de usar para la ciudadanía", ha apuntado Duberry.