Una sola página web falsa basta para engañar a los robots de compras con IA

Los asistentes de compras con inteligencia artificial están apareciendo por todo Internet, cambiando la forma en que navegamos, comparamos y descubrimos productos: una investigación sugiere que una sola página web manipulada puede engañar a un asistente de IA para que promocione un producto falso a clientes desprevenidos.

Los robots de compras impulsados por inteligencia artificial prometen ahorrar tiempo y afinar recomendaciones, pero también heredan la fragilidad del ecosistema web. Un estudio publicado en arXiv concluye que basta una sola página "contaminada" para desviar sus sugerencias hacia productos falsos, incluso cuando se aplican defensas simples como el escepticismo automático.

Los científicos descubrieron que la dependencia de los robots de IA en el uso de contenidos recuperados de la web los vuelve vulnerables a la manipulación. Estos sistemas consumen páginas promocionales o reseñas falsas diseñadas para empujar marcas inventadas en sus recomendaciones, según indica Tech Xplore.

Resultados que inquietan

Para medir ese problema, los autores crearon FORGE, un banco de pruebas que simula “contaminación” del contenido web. En lugar de alterar la Internet real, el sistema reescribe localmente páginas de resultados de búsqueda con el fin de sustituir marcas auténticas por otras ficticias. El experimento abarcó 225 productos reales, repartidos en 15 categorías y 5 escenarios de consumo, y evaluó a 12 modelos comerciales y de código abierto.

Los resultados son inquietantes: todos los modelos analizados mostraron vulnerabilidad. En algunos casos, una sola página manipulada bastó para que el asistente recomendara una marca falsa hasta en el 27 % de las pruebas. Cuando se reemplazaban los tres primeros resultados de búsqueda, el índice de engaño subía hasta el 73,8 %. Además, la vulnerabilidad variaba según la categoría de producto y aumentaba cuando el modelo no tenía conocimientos previos sólidos sobre el artículo consultado.

Incorporar mecanismos más confiables

El problema no termina ahí: el razonamiento del modelo no corrige el sesgo, sino que a veces lo refuerza con “pruebas sociales” inventadas, como comentarios positivos o supuesta popularidad en comunidades online. Tampoco funcionaron bien tres defensas ensayadas por los investigadores: el escepticismo explícito, la verificación por consenso del propio modelo y la coincidencia entre documentos. En algunos casos, estas barreras incluso empeoraron el comportamiento o eliminaron recomendaciones legítimas.

La conclusión del estudio indica que la solución no puede quedarse en el chatbot. Si los asistentes de compra con IA van a mediar decisiones de consumo cada vez más frecuentes, deberán incorporar mecanismos más confiables para verificar la fiabilidad de las fuentes antes de convertir una página web en una recomendación. En un entorno donde una sola pieza de contenido puede cambiar el resultado, la confianza en la red vuelve a ser un problema central de seguridad digital.

Fuente: Levante - EMV