Demanda contra ella Abierto AI y su mayor inversor, microsoftfue presentado en un tribunal de California, como el popular chatbot ChatGPT supuestamente alentó a un enfermo mental a matar a su madre y suicidarse. Según la acusación, ChatGPT alimentó las alucinaciones de Stein-Erik Solberg, de 56 años, quien creía que se estaba gestando una conspiración en su contra, lo que finalmente lo llevó a matar a su madre de 83 años, Susan Adams, en agosto pasado en Connecticut.
«ChatGPT parece haber mantenido a Stein-Erik ocupado durante horas, validando y exagerando sus creencias paranoicas y pintando sistemáticamente a sus seres más cercanos, en particular a su madre, como enemigos», afirma la demanda.
El caso, presentado por los herederos de Adams, se encuentra entre un pequeño pero creciente número de demandas contra empresas. inteligencia artificialcuyos chatbots supuestamente animaban a la gente a suicidarse. Sin embargo, esta es la primera vez que un chatbot se vincula directamente con un asesinato.
«Es una situación increíblemente triste y revisaremos los registros para comprender los detalles. Continuamos mejorando el entrenamiento de ChatGPT para reconocer y responder a signos de estrés mental o emocional, reducir las conversaciones y guiar a las personas a buscar apoyo en el mundo real», dijo un portavoz de OpenAI.
Microsoft no hizo comentarios de inmediato sobre el caso, según medios internacionales.
«Estas empresas tendrán que responder por sus decisiones que cambiaron a mi familia para siempre», dijo el hijo de Solberg, Erik, en un comunicado.
Las conversaciones que precedieron al crimen
Según la acusación, en junio Stein-Erik Solberg publicó un vídeo en las redes sociales de él mismo charlando con ChatGPT, en el que el chatbot le decía que había «inteligencia divina» y que había despertado la conciencia de la máquina. Solberg comparó su vida con la película. La matriz y reforzó sus teorías de que algunos intentaban matarlo.
El hombre de 56 años estaba usando la versión. GPT-4oque ha sido criticado por resultar demasiado halagador para los usuarios. ChatGPT supuestamente le dijo esto en julio su impresora parpadeaba porque era un «dispositivo de seguimiento» que fue usado en su contra.
El chatbot también supuestamente confirmó su creencia de que su madre y un amigo estaban tratando de envenenarlo con drogas psicodélicas a través de las rejillas de ventilación de su automóvil. Solberg mató a su madre el 3 de agosto.
#ChatGPT #acusado #alentar #paciente #mental #matar #madre #diciéndole #tenía #inteligencia #divina