EEUU, China y la UE acuerdan cooperar para frenar los riesgos "catastróficos" de la inteligencia artificial

Estados Unidos, China, la Unión Europea (UE) y otros 26 países de los seis continentes han llegado hoy a un acuerdo global para a avanzar su cooperación científica y poner freno a los posibles peligros "catastróficos" de la inteligencia artificial (IA).

El llamada "Declaración de Bletchley" se ha firmado este miércoles en Londres, donde se está celebrando la primera cumbre mundial sobre seguridad de la IA. En el texto, naciones de todo el mundo se han comprometido a mejorar "la colaboración internacional en materia de seguridad e investigación en las fronteras de la IA, en particular mediante una mayor colaboración científica".

Entre el 'hype' y el miedo: Los intereses comerciales marcan el frenesí de la inteligencia artificial

"Existe la posibilidad de que se produzcan daños graves, incluso catastróficos, ya sean deliberados o involuntarios, derivados de las capacidades más significativas de estos modelos de IA", advierte el documento.

Este evento, organizado por el gobierno del Reino Unido, ha congregado a dirigentes políticos, altos ejecutivos empresariales, académicos y organizaciones sin ánimo de lucro que debatirán los posibles riesgos de esta tecnología. La resolución contempla la celebración de futuras cumbres sobre la seguridad de la IA. La primera será dentro de seis meses en Corea del Sur y en Francia dentro de un año.

El objetivo de esta reunión es iniciar una conversación global sobre la regulación de la IA. El meteórico auge del sector está llevando a cada vez más gobiernos a vigilar el despliegue de estos sistemas. La UE, por ejemplo, ultima la que será la primera ley en poner límite a los usos de esta tecnología que entrañan mayores riesgos. Sin embargo, aún no existe una normativa de amplio alcance.

100 invitados

Más de 100 oenegés denuncian "vacíos" en la regulación de la inteligencia artificial que podrían exponer a los migrantes

La cumbre, que se celebrará en Londres hoy y mañana jueves, contará con la presencia de unos 100 invitados. Asistirán líderes mundiales como el primer ministro británico, Rishi Sunak; el canciller de Alemania, Olaf Scholz; la vicepresidenta de EEUU, Kamala Harris; o el secretario general de Naciones Unidas, Antonio Guterres.

También participarán reconocidas figuras empresariales como el magnate Elon Musk, el hombre más rico del mundo, así como los directivos de los pesos pesados del sector de la IA como son Google Deepmind o Sam Altman, fundador de OpenAI, la 'startup' financiada por Microsoft que ha creado el popular ChatGPT.

China estará presente en la cumbre con la presencia de altos cargos de su gobierno, pero también de compañías como Alibaba o Tencent.

Críticas a la cumbre

El auge de los centros de datos amenaza con disparar el gasto de agua en una España en emergencia por sequía

El enfoque de esta cumbre plantea dudas, pues su agenda está dominada por los llamados riesgos existenciales de la IA. Así, se tratarán situaciones hipotéticas como la posibilidad que esta tecnología sirva a terroristas para fabricar armas biológicas.

También se abordarán otros problemas ya existentes, si bien tendrán menos presencia. Es el caso de los errores que cometen estos sistemas, sus sesgos racistas, la violación de la privacidad de los ciudadanos, el consumo de agua y energía de estos sistemas o la concentración de poder en un puñado de empresas.

Entre los académicos invitados destacan el informático británico Geoffrey Hinton, conocido como el "padrino" de la IA, que abandonó su cargo en Google a principios de mayo. A pesar de ser una referencia en el campo, otros reputados expertos como Gary Marcus han criticado que sus advertencias se centren en futuribles.

Regulación global

Estados Unidos anuncia su primera regulación de la inteligencia artificial

La cumbre podría ayudar a construir un organismo mundial que regule la IA. El 'premier' británico, por ejemplo, planea la creación de un consejo asesor similar al Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), según adelantó el 'Financial Times'. La ONU ya lo ha formado y grupos de expertos han hecho propuestas en esa misma línea.

Esta última semana, el G7 ha anunciado la creación de un código de conducta para minimizar los riesgos de la IA y el presidente estadounidense, Joe Biden, ha firmado una orden ejecutiva que supone la primera regulación de esta tecnología en el país.