De decir que Obama es musulmán a recomendar poner pegamento en la pizza: la IA está intoxicando el buscador de Google

Imagina que estás en la cocina de tu cada preparando una pizza, pero al sacarla del horno el queso resbala y no se adhiere a la masa. No sabes qué hacer para que se mantenga pegado, así que acudes a Google. Ahí está toda la información que necesito, piensas. Sin embargo, cuando se lo preguntas al buscador los nuevos resúmenes generados con inteligencia artificial (IA) te sugieren que puedes añadir "aproximadamente 1/8 de taza pegamento no tóxico a la salsa para darle más pegajosidad".

Eso es lo que le ha pasado esta semana a un usuario que estaba probando la nueva función habilitada por el gigante tecnológico. Hace 10 días, Google anunció al mundo que pasaba a integrar la IA en su popular motor de búsqueda, la puerta de entrada a Internet para miles de millones de personas. Eso se traduce en pequeños resúmenes que aparecen en la parte superior de la pantalla y que se nutren del contenido extraído de la red. "Puede quitarte un montón de trabajo duro", prometió Liz Reid, responsable de ese negocio.

Google refuerza su buscador, Android y servicios como Gmail acelerando la integración de su inteligencia artificial

Sin embargo, el nuevo buscador no está funcionando como Google esperaba. Durante la última semana y media, decenas de usuarios en Estados Unidos han denunciado que la flamante novedad de la compañía amplifica bulos, se inventa datos o hechos históricos que nunca sucedieron y da por buena información que podría ser peligrosa, como la de la pizza.

"Completamente peligroso"

Esos problemas se deben, en gran parte, a que Gemini, la IA de Google, genera resúmenes en base a la ingente cantidad de información que extrae de Internet y no sabe distingir qué es cierto y qué no. Eso hace que algunas de sus respuestas simplificadas puedan sustentarse en fuentes poco fiables. En el caso del pegamento y la pizza, por ejemplo, la compañía podría haber dado por bueno un comentario publicado en Reddit hace 11 años por un usuario apodado 'fucksmith'. En febrero, el foro cerró un acuerdo por el que cobrará 60 millones de dólares para dejar que Google use su contenido para entrenar su IA.

"Hitler tenía razón": por qué no puedes fiarte de ChatGPT y los bots de inteligencia artificial

En las últimas horas, expertos en IA, periodistas tecnológicos y usuarios comunes están señalando problemas mayúsculos del buscador que van desde decir que solo 17 de los 42 presidentes de EEUU han sido blancos a indicar que Barack Obama es musulmán, una falsa conspiración popular entre la extrema derecha que fue amplificada por Donald Trump. Los resúmenes también están dando consejos peligrosos para la salud en consultas como qué temperatura usar para concinar pollo o qué hacer si te muerde una serpiente de cascabel. En otros casos, el buscador incluso está presentando como verdaderas las bromas creadas por una revista satírica.

Algunos expertos están pidiendo a la compañía que retire la nueva función de IA. "Es completamente peligroso", ha lamentado Melanie Mitchell, catedrática de Complejidad en el Instituto Santa Fe. "Google está desplegando una tecnología de la que se sabe que no es fiable en infraestructuras de conocimiento críticas como la búsqueda. simplemente imprudente y extremadamente irresponsable", ha añadido Abeba Birhane, asesora principal de IA responsable en Mozilla.

En la conferencia Google I/O de la semana pasada, el director ejecutivo de la compañía, Sundar Pichai, aseguró que esta función, por ahora solo desplegada en EEUU, se abrirá progresivamente en todo el mundo. Así, esperan que más de mil millones de personas usen estos resúmenes generados con IA a final de año.

Sin embargo, este alud de problemas en los resultados de AI Overview podrían llevar a la compañía a tomar medidas. "¿podría Google poner en pausa los resúmenes de IA en una semana?", se ha preguntado Alex Heath, director adjunto del medio especializado en tecnología The Verge.