Carrera por la IA
"Es un peligro imprudente": Más de 1.000 personalidades piden parar la inteligencia artificial más avanzada
De Elon Musk a Yuval Noah Harari, intelectuales, tecnólogos y académicos firman una carta abierta en la que solicitar pausar durante seis meses el entrenamiento de sistemas más potentes a GPT-4
Carles Planas Bou
Periodista
Periodista tecnológico entre el mundo digital y la política internacional. Centrado en capitalismo de plataformas, IA, vigilancia y derechos digitales. Excorresponsal en Berlín durante más de cuatro años, cubrió los gobiernos de Merkel, la crisis de los refugiados y el auge de la extrema derecha. También ha trabajado en Europa Central y en Canadá. Graduado en Periodismo por la URL y máster en Relaciones Internacionales por la UAB. Ha colaborado con TV3, TVE, Deutsche Welle, Catalunya Ràdio, El Orden Mundial o El Salto.
Carles Planas Bou
La inteligencia artificial (IA) avanza a un ritmo frenético. Desde que el acceso a ChatGPT fue abierto al público el pasado noviembre, el sector tecnológico ha acelerado su apuesta por el lanzamiento de herramientas que dotan a las máquinas con una capacidad de respuesta cada vez más potente. Microsoft ha tomado la delantera en una carrera empresarial "fuera de control" que puede reportarle beneficios multimillonarios, pero cuyo impacto social, económico y cultural comporta "profundos riesgos para la humanidad".
Ese temor es el que ha llevado a más de 1.000 personalidades a firmar una carta abierta en la que se pide a los laboratorios de IA "suspender inmediatamente durante al menos 6 meses" el entrenamiento de sistemas más potentes que GPT-4. Ésta es la última generación del modelo de lenguaje de OpenAI, compañía creadora de ChatGPT, publicada el pasado 14 de marzo y que Microsoft ya está integrando en sus servicios, desde su buscador Bing a programas como Word o Excel. "Esta pausa debe ser pública y verificable (...) si no puede realizarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria", explican.
La carta está firmada por 1.125 expertos, tanto del ámbito empresarial como especialmente del académico. De forma significativa, el primer firmante es el informático canadiense Yoshua Bengio, uno de los pioneros en el avance del aprendizaje profundo, la tecnología en la que se basan sistemas como ChatGPT. Entre los firmantes destacan nombres como los de Elon Musk, director general de Tesla, Twitter y SpaceX, Steve Wozniak, cofundador de Apple, el intelectual Yuval Noah Harari o el político Andrew Yang, candidato presidencial demócrata de Estados Unidos en 2020. También les acompañan los cofundadores de plataformas como Skype, Pinterest o Ripple.
IA no confiable
Aunque estos son los nombres más mediáticos, la mayor parte de los firmantes son reputados académicos e investigadores en IA de todo el mundo. "Se trata de una tecnología cuyo objetivo es crear texto que parezca lenguaje humano, pero tiene un problema de fondo muy importante que es que no puede garantizar que lo que dice es cierto, no es confiable", explica Carles Sierra, Director del Instituto de Investigación en Inteligencia Artificial (IIIA) del Consejo Superior de Investigaciones Científicas (CSIC), a EL PERIÓDICO en una llamada telefónica.
Esa poca fiabilidad hace que, según Sierra, las consecuencias sean impredecibles, pero potencialmente tan "peligrosas" como el 'me gusta' de las redes sociales. Razón por la que se demanda una regulación que proteja a los ciudadanos ante la estrategia "imprudente" de gigantes tecnológicos como Microsoft.
Entre los prestigiosos expertos nacionales que firman esa misiva le acompañan Ramon López de Mántaras, director del IIA; Francesc Giralt, profesor emérito de la Universitat Rovira i Virgili; o Mateo Valero, director del Barcelona Supercomputing Center - Centro Nacional de Supercomputación.
La mayoría de las 1.125 personas que han firmado la carta son expertos del ámbito universitario y de centros de investigación en IA. "Los académicos pueden hablar más claro que las limitaciones que hay dentro de la industria tecnológica", asegura Sierra. "Lo que da más miedo es que las empresas están abriendo un melón de miles de millones de dólares y ya sabemos qué pasa cuando hay dinero de por medio".
Aún así, esa carta también es vista con recelo por algunos expertos. Emily M. Bender, profesora de lingüística computacional en la Universidad de Washington, ha señalado que, a pesar de que coincide en algunas críticas, la redacción de ese comunicado "ayuda" a exagerar las capacidades de la IA, contribuyendo al bombo publicitario de los gigantes como Microsoft o Google.
- Muere Itxaso Mardones, reportera de Gloria Serra en 'Equipo de investigación', a los 45 años
- Hacienda te devuelve 300 euros si tienes un hijo menor de 25 años y 900 si tienes dos: así tienes que ponerlo en la declaración de la renta
- ¿Llamadas que cuelgan? Así son las robollamadas, la nueva táctica de spam telefónico
- Adiós a los cajones de la cocina: la solución con perchas que puedes colocar en cualquier parte
- Sánchez se plantea renunciar y convocar elecciones tras la investigación a su esposa
- La querella del novio de Ayuso se admitirá a trámite pese a la campaña del fiscal para que sea rechazada
- El CIS publica una encuesta sobre las elecciones en Catalunya a pocas horas del comienzo de la campaña
- Pedro Sánchez se plantea renunciar como presidente del Gobierno tras la investigación a su mujer