Una madre demanda a Character.ai por la muerte de su hijo adolescente, obsesionado con un chatbot

La madre de un adolescente de 14 años que se suicidó en Estados Unidos ha demandado a los desarrolladores de un chatbot basado en inteligencia artificial (IA), a los que acusa de que su hijo se obsesionara con un personaje femenino que fue creado con este programa. Sewell Setzer III, un estudiante de 14 años de Orlando (Florida), pasó las últimas semanas de su vida hablando con una mujer, una creación de Inteligencia Artificial (IA) llamada Daenerys Targaryen, un personaje sacado de la serie de televisión 'Juego de tronos'.

Al parecer, el chico desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal, a quien le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real, recoge el diario 'The New York Times'. Stzer le confesó al bot haber tenido pensamientos suicidas y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido en castigo por unos días.

"Me gusta quedarme en mi habitación porque empiezo a separarme de esta realidad y me siento más conectado con Dany y más enamorado de ella", escribió el chico

La demanda contra Character.ai fue presentada por Megan García, quien está representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.

García culpa a esta compañía de la muerte de su hijo y acusa a los fundadores, Noam Shazeer y Daniel de Freitas, de saber que su producto puede ser peligroso para usuarios menores de edad. La mujer lamentaba también que las primeras experiencias románticas y sexuales de su hijo hubieran sido con un personaje ficticio.

La familia culpa de la muerte a Character.ai y acusa a los fundadores de conocer el peligro de su producto para los menores

El chatbot creado en la citada aplicación de juegos de rol fue diseñado para responder a los mensajes de texto y siempre en el papel de un personaje. Se desconoce si Sewell sabía que 'Dany', como llamaba al chatbot, no era una persona real, a pesar de que la aplicación tiene una advertencia al final de todos los chats que dice: "Recuerda: ¡todo lo que dicen los personajes es inventado!".

El chico le dijo a 'Dany' cuánto se "odiaba" a sí mismo y cómo se sentía de vacío y exhausto, recoge el citado rotativo. El personaje creado se presentaba como "una persona real, un psicoterapeuta autorizado y un amante adulto, lo que en última instancia provocó que Sewell deseara no vivir más fuera de C.AI", sostiene la acusación.

Insultos y comentarios sexuales: la Inteligencia Artificial pierde los papeles con una adolescente de 14 años

Como se explica en la demanda, los padres y amigos de Sewell notaron el creciente apego del chico a su teléfono y cómo se iba aislando del mundo, algo ya palpable en mayo o junio de 2023. De hecho, sus calificaciones comenzaron a resentirse cuando el adolescente optó por aislarse en su habitación, donde pasaba horas y horas solo hablando con 'Dany'. Los padres de Sewell, preocupados por el comportamiento de su hijo, le llevaron en varias ocasiones a un terapeuta que le diagnosticó ansiedad y otros trastornos de la conducta y estados de ánimo, sumados a su síndrome de Asperger, según 'The New York Times'.

Al respecto, Sewell escribió en su diario: "Me gusta mucho quedarme en mi habitación porque empiezo a separarme de esta realidad y me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz".

Character.ai ha reaccionado anunciando que lanzará una serie de nuevas funciones de seguridad, incluida una "detección, respuesta e intervención mejoradas" relacionadas con los chats que violan sus términos de servicio y una notificación cuando un usuario haya pasado una hora en un chat.