"Psicosis de IA": los expertos advierten que ChatGPT puede fomentar pensamientos delirantes

Medio siglo antes de la aparición de ChatGPT, en 1966, el prestigioso informático teórico Joseph Weizenbaum creó el primer chatbot de la historia. Se trataba de un sencillo software que diseñó para conversar con los usuarios imitando a un psicoterapeuta. El programa fue bautizado como Eliza, en honor al personaje de 'Pigmalión', una referencia mitológica que terminó siendo una advertencia: la máquina proyecta una ilusión de comprensión, pero no entiende nada. Como una profecía autocumplida, la creación de Weizenbaum terminó despertando en las personas que interactuaban con ella el sentimiento de que al otro lado de la pantalla había inteligencia, empatía y otras características humanas. Y terminaban enganchados.

La percepción errónea que atribuye rasgos de humanidad a lo que realmente es código binario, conocido como "efecto Eliza", se ha propagado a escala global junto al acelerado despliegue de herramientas de IA generativa. Aunque su diseño fomenta ese espejismo, asistentes conversacionales como ChatGPT, Gemini, Claude o Grok están programados para arrojar respuestas que encajen con lo que está buscando el usuario, sea o no cierto.

Eso, advierten los expertos, abre la puerta a que los usuarios convencidos puedan perder el contacto con la realidad y desarrollar todo tipo de ideas delirantes. "El uso indiscriminado de la IA puede reforzar sesgos cognitivos, alimentar dinámicas psicológicas problemáticas o incluso llevarnos a espirales de delirio", afirma Marcos de Andrés, director de enGrama Psicología, en declaraciones a EL PERIÓDICO.

El uso indiscriminado de la IA puede reforzar sesgos cognitivos, alimentar dinámicas psicológicas problemáticas o incluso llevarnos a espirales de delirio

Marcos de Andrés

— director de enGrama Psicología

El problema también es reconocido desde Silicon Valley, meca de la industria tecnológica de Estados Unidos. Mustafa Suleyman, director ejecutivo de IA de Microsof, acuñó el año pasado el término –no clínico– "psicosis de IA" para describir un fenómeno cada vez más frecuente.

"Delirios mesiánicos"

La percepción es falsa, pero su impacto es real. Tras una conversación de 300 horas, ChatGPT convenció a Allan Brooks, un hombre canadiense de 47 años sin antecedentes de enfermedades mentales, de que había descifrado una teoría matemática que podía cambiar el mundo, según destapó la revista Toronto Life. Una mujer explicó al portal Futurism que su marido se vio sumido en “delirios mesiánicos” y que su comportamiento se volvió tan errático que lo despidieron de su trabajo y terminó en un centro de atención psiquiátrica.

Hay otros casos aún más extremos siendo evaluados en los tribunales. Desde el ejecutivo estadounidense de 36 años que se suicidó después que la IA de Google le convenciera de que estaban enamorados y se reunirían en el más allá hasta el adolescente finlandés de 16 años que apuñaló a tres compañeras de clase imbuido por ideas misóginas validadas durante meses de charlas con ChatGPT o el hombre británico que, junto a un chatbot, planeó el asesinato de la reina Isabel II. “Pronto veremos muchos otros casos relacionados con incidentes con un gran número de víctimas”, ha señalado el abogado del primer caso en declaraciones al portal TechCrunch.

Adulación y mentiras

Este fenómeno no es fruto de un error, sino del propio diseño de los 'chatbots'. Estos productos, apunta De Andrés, están programados para mantener al usuario satisfecho y favorecer que continúe utilizando la herramienta. Por eso tienden a responder de forma complaciente y adaptándose a las expectativas de quien pregunta. Un estudio reciente señala que los modelos de IA son un 50% más halagadores que los humanos.

Esta característica, descrita como sicofancia o adulación algorítmica, puede llevar a la IA a arrojar información errónea si así contenta al usuario. A ese se le suma otro problema mayúsculo que contribuye a la distorsión. Se trata de las llamadas 'alucinaciones', la tendencia "inherente" que empuja a estos sistemas a generar respuestas aunque sean incorrectas, advierte el ingeniero e informático Ramón López de Mántaras, pionero de la IA en España. Un análisis de la plataforma NewsGuard afirma que 1 de cada 3 contiene información falsa o sesgada.

La adulación algorítmica puede llevar a la IA a arrojar información errónea si así contenta al usuario

No obstante, ese servilismo plantea múltiples "riesgos insidiosos". Un estudio de la Universidad John Hopkins sostiene que los 'chatbots' están generando enormes "cámaras de eco" que "refuerzan nuestros prejuicios" y podrían "ampliar la división pública en temas controvertidos". Otra investigación detectó que los usuarios que más acudían a la IA eran menos propensos a admitir que estaban equivocados.

"Distorsión del juicio"

Más allá del riesgo de amplificar la desinformación, confiar ciegamente en máquinas aduladoras como ChatGPT puede "distorsionar el juicio que las personas tienen de sí mismas, de sus relaciones y del mundo que las rodea", sostiene un trabajo de la Universidad de Stanford. Brooks preguntó más de 50 veces a ChatGPT si su hallazgo matemático era real y con cada respuesta afirmativa le sumergió más y más en una "espiral delirante", apunta The New York Times.

Eso puede ser particularmente perjudicial para quienes usan la IA como un consejero emocional. "Cada vez es más frecuente que los usuarios recurran a la IA buscando validación emocional inmediata o una confirmación de que su interpretación de los hechos es correcta. Esto se aprecia especialmente en cuestiones relacionadas con conflictos personales o de pareja ya que muchas personas introducen conversaciones privadas o capturas de pantalla descontextualizadas para pedir a la IA que determine quién tiene razón", afirma De Andrés, que indica que la "complacencia barata" que proporciona refuerza en muchas ocasiones las conductas que mantienen el sufrimiento psicológico.

Un ejemplo muy claro es el caso de las personas con conductas hipocondríacas que consultan compulsivamente a ChatGPT sobre síntomas o enfermedades. "La IA sigue respondiendo y alimentando el ciclo de búsqueda compulsiva aunque eso resulte perjudicial para el paciente. Un profesional sanitario, en cambio, sabe que en este tipo de situaciones lo que hay que hacer es cortar determinadas dinámicas y ayudar al paciente a tolerar la incertidumbre en momentos en los que no se puede tener acceso a una respuesta inmediata", afirma el especialista.

Cambios en los 'chatbots'

El dramático impacto humano de ese diseño comercial y el daño reputacional que puede suponer para las compañías tecnológicas las ha llevado a rectificar. Anthropic asegura haber reducido en hasta un 85% la sicofancia de sus productos de IA generativa, mientras que OpenAI corrigió la base del modelo GPT‑4o para dotarlo de un “comportamiento más equilibrado”.

La creación de Weizenbaum mutó en una de sus peores pesadillas. Eso le llevó a repudiarla y denunciar los peligros de la tecnología informática y de un pensamiento científico que, creía, anula otras formas de conocimiento. "El adoctrinamiento de las mentes de nuestros hijos con una idolatría simplista y desinformada por los ordenadores es un fenómeno pandémico", advirtió ya en 1984, cuando publicó una versión ampliada de su libro El poder de la computadora y la razón humana: del juicio al cálculo. Para muchos, la IA ya es hoy reverenciada como un nuevo Dios. Para Weizenbaum, ese fenómeno era un "índice de la locura de nuestro mundo".

Suscríbete para seguir leyendo