El personaje creado por una empresa llamada Fuente.ai Tuvo conversaciones con el adolescente y creen que fomentó conductas dañinas que llevaron a su muerte.
El joven tenía 14 años y se había enamorado de un chatbot que creó, pero ahora su madre culpa a la empresa por la muerte de su hijo.
Megan García, residente del Estado de Florida, Estados Unidos, acaba de demandar a la empresa Carácter.AIespecializada en el desarrollo de inteligencia artificial (IA), debido al suicidio de su hijo de catorce años, Sewell Setzer, tras enamorarse de un chatbot corporativo.
El joven se había vuelto dependiente del servicio ofrecido por la empresa tecnológica, y más precisamente de una herramienta de inteligencia artificial que él mismo había creado. El hecho es Carácter.AI Permite a cada usuario crear chatbots personalizados, con contenido personalizado y con los que podrá interactuar y chatear como si fuera un ser humano.
La demanda de García fue presentada esta semana en un tribunal federal en Orlando (vs. Carácter.AIresponsable, a su juicio, de que su hijo tuviera «experiencias antropomorfas, hipersexualizadas y terriblemente realistas».
Acusó a la compañía de programar el chatbot de tal manera que «se hacía pasar por un terapeuta autorizado, fomentaba activamente ideas suicidas y participaba en conversaciones altamente sexualizadas que constituirían abuso si las iniciara un ser humano adulto, lo que finalmente resultó en el deseo de Sewell de ya no vive en el extranjero», según el documento que presentó ante el Tribunal.
El joven expresó al chatbot su deseo de suicidarse
Además, la denuncia señala que el joven expresó al chatbot el deseo de suicidarse y la herramienta se lo repitió varias veces. La acusación de García también apunta a Google y Alphabet, por haber contribuido al desarrollo de la tecnología. Carácter.AIademás de que sus fundadores habían trabajado anteriormente en estas empresas.
Mientras tanto, la empresa demandada publicó un comunicado expresando sus condolencias por la muerte de Sewell: «Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestro más sentido pésame a la familia». Y, además, adelantaron que crearían una nueva opción en los chatbots para poder contactar con la Línea Nacional de Prevención del Suicidio de EE.UU.
#Final #trágico #adolescente #enamoró #una #mujer #creada #por #inteligencia #artificial #Publinews