REDACCIÓN. La Inteligencia Artificial (IA) ha llegado para quedarse y ha cambiado nuestras vidas por completo, pero también trae consigo nuevos desafíos y riesgos como por ejemplo la historia de Sewell Setzer III, un niño de 14 años de Orlando, Florida. Y es que, este caso ha abierto de nuevo debate acerca de su uso, sobre todo, cuando estamos hablando de jóvenes vulnerables emocionalmente: Sewell se suicidó tras una relación sentimental con la IA.
A Sewell Setzer III le diagnosticaron un pequeño trastorno del espectro autista, algo que fue a más con el paso del tiempo. Los padres de este adolescente de 14 años notaron que su vida social y académica empeoraba considerablemente debido a su uso con el chatbot de la aplicación Character.AI, desarrollando una profunda conexión con un personaje relacionado con ‘Juego de Tronos’, siendo una especie de amor platónico y confidente para este joven.
El chico desarrolló un apego emocional a un bot al que le enviaba mensajes de texto constantemente, hasta el punto que comenzó a alejarse del mundo real
El pasado 28 de febrero por la noche, Sewell tuvo una conversación con el chatbot, tras la plática tomó un arma que tenía en casa y se quitó la vida. La pistola era de su padrastro. Y es que, Sewell en los últimos mensajes este escribía pensamientos suicidas, algo que la IA intentó disuadir con respuestas como: «¿Por qué harías algo así?».
No obstante, no sirvió, ya que este se suicidó. La madre ha demandado a los desarrolladores de este programa.
Personaje creado con IA
Antes del suicidio, el infante pasó las últimas semanas de su vida hablando con una mujer, una creación de IA llamada Daenerys Targaryen, un personaje famoso de la serie de televisión Game of Thrones.
Antes del suicidio, el infante pasó las últimas semanas de su vida hablando con una mujer, una creación de IA llamada Daenerys Targaryen, un personaje famoso de la serie de televisión Game of Thrones.
Megan García, dijo al canal CBS que lamentaba que las primeras experiencias románticas y también sexuales de su hijo – que incluían sexo explícito- fueran con un personaje ficticio.
La demanda contra Character.ai fue presentada por García, quien es representada por Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.