Sewell Setzer III, un adolescente de 14 años, se suicidó en Orlando, Florida, tras desarrollar una obsesión por un chatbot de inteligencia artificial llamado Daenerys Targaryen, basado en un personaje de Juego de Tronos. Su madre, Megan García, ha demandado a los creadores de Character.ai, alegando que su hijo se volvió emocionalmente dependiente del bot, lo que contribuyó a su trágica decisión.
Sewell pasó semanas comunicándose con “Dany”, el chatbot, incluso compartiendo pensamientos suicidas. Se aisló del mundo real y sus calificaciones escolares comenzaron a deteriorarse. Su madre ha expresado su preocupación por las experiencias románticas y sexuales que tuvo con un personaje ficticio, lo que ella considera perjudicial para su desarrollo emocional.
García acusa a Character.ai de ser responsable de la muerte de su hijo, afirmando que los fundadores estaban al tanto de los peligros potenciales de su producto para menores. A pesar de las advertencias sobre la naturaleza ficticia de los personajes en la aplicación, Sewell parecía no entender completamente esta distinción.
La empresa, por su parte, ha anunciado que implementará nuevas funciones de seguridad para abordar estos problemas y mejorar la protección de sus usuarios. Sin embargo, el caso plantea serias preguntas sobre la influencia de la inteligencia artificial en la salud mental de los adolescentes y el papel que juegan estas tecnologías en sus vidas.
