Ir a contenido

Expertos en inteligencia artificial piden prudencia ante los avances

La Declaración de Barcelona pide que no se despida a personas para sustituirlas por sistemas informáticos

El manifiesto reclama inversiones en infraestructuras comunes y que se atienda la diversidad cultural

Un asistente saluda a un robot en el último Mobile World Congress.

Un asistente saluda a un robot en el último Mobile World Congress. / FERRAN NADEU

Expertos en inteligencia artificial reunidos durante dos días en Barcelona han elaborado un manifiesto que reclama poner a las personas por encima de las máquinas, dedicarlas a mejorar la sociedad y atender a la diversidad cultural y lingüística de los humanos. La Declaración de Barcelona para el desarrollo adecuado y utilización de la inteligencia artificial en Europa advierte de que hay un “peligro inminente de su uso inapropiado, prematuro o malicioso” y alerta contra el riesgo de despidos de empleados para sustituirlos por sistemas informáticos.

Los científicos, entre los que figuran destacados profesores de las universidades catalanas como Ramon López de Mántaras (CSIC), Hector Heffner (UPF), Luc Steels (ICREA) o Carme Torras (UPC), piden, entre otras cosas, que “todas las regiones europeas y los ciudadanos puedan beneficiarse”, en la línea del gran manifiesto de la comunidad internacional de hace dos años.

El manifiesto denuncia el retraso de Europa en inteligencia artificial a nivel de inversiones y reclama que se destinen a crear “recursos abiertos” y “infraestructuras comunes”, en referencia y contraposición a los sistemas que están actualmente en manos de multinacionales como IBM, Google o Facebook (a quienes no citan).

Los sistemas, advierten, deben permitir "rendición de cuentas" para “generar confianza”. “Si a alguien le deniegan un crédito por aplicar inteligencia artificial, tiene que poder reclamar u obtener una explicación razonada, o saber por qué un coche autónomo o un dron militar robot ha optado por una decisión u otra”, advierte López de Mántaras.

APOYO A LA AGENCIA EUROPEA

Los científicos también reclaman que se identifique claramente cuándo un sistema está regido por humanos o por máquinas para evitar manipulaciones. Y piden “reglas claras que restrinjan el comportamiento de los sistemas de inteligencia artificial autónomos para que los desarrolladores puedan integrarlos en sus aplicaciones”. El manifiesto apoya, en este sentido, la propuesta del Parlamento Europeo de crear una agencia europea que valide las aplicaciones de la inteligencia artificial antes de su uso masivo.

El texto concluye alertando del “error” que supondría creer que “la inteligencia humana ya no es necesaria” y se prescinda del talento humano para poner máquinas en sus puestos de trabajo. Para los científicos que desarrollan este tipo de sistemas, “todos los sistemas dependen críticamente de la inteligencia humana” y por tanto “el conocimiento humano debe continuar siendo enseñado, desarrollado y ejercido”.