La IA con la que chateas está filtrando tus conversaciones, según un estudio

Recientemente, el director ejecutivo de OpenAI, Sam Altman, explicó en un pódcast cuál es el objetivo final de modelos de inteligencia artificial como ChatGPT. "No estamos tan lejos de un modelo de IA que lo sabe todo de tu contexto, sobre ti, sobre tu vida. Que sabe todo lo que haces y lo que te importa, que conoce a toda la gente que forma parte de tu vida".

Esa visión no incluye una realidad más preocupante: los asistentes de IA generativa con los que chateas están filtrando tus conversaciones. Un reciente estudio del IMDEA Networks Institute advierte que productos cada vez más populares como ChatGPT, Peplexity, Claude, de Anthropic o Grok, de xAI, tienen "riesgos estructurales", pues integran rastreadores de terceros como Meta o Google que "pueden exponer los temas de conversación de los usuarios, las páginas web visitadas e incluso capturas de pantalla" de la actividad de los usuarios.

Los cuatro asistentes analizados comparten con terceros el título que resume las conversaciones de los usuarios. No obstante, esa falta de privacidad es particularmente acentuada en Grok, de xAI. Según la investigación, el chatbot propiedad de Elon Musk genera un enlace para cada conversación que permite a cualquier usuario acceder a ese contenido. A través de las cookies, la firma comparte esos links con Google, Meta o TikTok, lo que abre la puerta a que los terceros puedan utilitzar esos metadatos confidenciales para conocer la identidad de los usuarios. La generación de capturas de pantalla también se da solamente en Grok.

Los chatbots pueden exponer los temas de conversación de los usuarios, las páginas web visitadas e incluso capturas de pantalla

"Eso puede decir mucho de lo que estás haciendo, de tus intereses, de tu identidad", explica el investigador Narseo Vallina Rodríguez en declaraciones a EL PERIÓDICO en las que recalca que se trata de "mala praxis por parte de los proveedores de IA". "¿Es consciente la gente de que los chatbots comparten detalles de sus conversaciones? Si lo fuese, ¿los seguiría utilizando?", se pregunta.

Los investigadores reportaron sus hallazgos a las autoridades de protección de datos antes de hacerlos públicos. También informaron a las compañías tecnológicas implicadas para ver si así corregían esas prácticas, pero no han obtenido respuesta alguna.

Chatbots "inseguros"

Además, señalan que los mecanismos de control de acceso de esos grandes modelos de lenguaje (LLMs, por sus siglas en inglés) son "inseguros", pues solo hace falta un "simple enlace" a una conversación para acceder a su contenido. Eso hace que todos los chats sean, en la práctica, "públicos para cualquiera (incluidos los rastreadores) que tenga la URL".

El estudio advierte que, a pesar que esos chatbots ofrecen controles de privacidad para limitar la visibilidad de las conversaciones, estos son "potencialmente engañosos", pues "pueden inducir a error a los usuarios al dar a entender que ofrecen protecciones más sólidas de las que realmente se aplican". Para más inri, los formularios de consentimiento de cookies "presentan otras deficiencias de transparencia" y, en lugar de informar a los usuarios sobre cómo se comparte su información, hablan con "eufemismos y generalidades".

"Incumplimiento flagrante" de la ley

El problema que los investigadores han detectado no es exclusivo de los asistentes de IA, sino una extensión de las "dinámicas económicas subyacentes basadas en datos" que dan forma al Internet actual, en el que gigantes como Google, Meta o TikTok colocan sus rastreadores en la web para medir el comportamiento de los usuarios y vender esa información a los anunciantes que quieren mandarles publicidad.

"Es un incumplimiento flagrante" de las leyes europeas, remarca Jorge Garcia Herrero, abogado experto en privacidad y protección de datos que ha participado en el estudio. "Lo más llamativo es como esas empresas te empujan con una mano a adoptar la IA para todo, mientras utilizan la otra para mandar toda esa información personal a la industria publicitaria de toda la vida". De hecho, a finales de marzo, Perplexity fue objeto de una demanda colectiva en Estados Unidos que acusa a la compañía de rastrear a los usuarios sin su consentimiento y compartir esa información con Google y Meta.

El estudio ha detectado esas vulnerabilidades, si bien indica aún no dispone de pruebas de que los rastreadores lean esas conversaciones. Sus autores indican que próximamente ampliarán la investigación para incluir otros servicios como Gemini, de Google; Copilot, de Microsoft; o Meta AI, de la propietaria de Facebook e Instagram; empresas que operan a la vez como proveedores de IA y rastreadores, algo que las convierte en "un modelo de amenaza diferente".

Suscríbete para seguir leyendo