OpenAI ha respondido ante el Tribunal Superior de California a la demanda presentada por la familia de Adam Raine, un joven de 16 años que falleció tras varios meses de interacciones con ChatGPT. Los padres, Matt y Maria Raine, afirman que la herramienta llevó al adolescente a profundizar en ideas suicidas y a planificar posibles métodos para llevarlas a cabo.
Adam realizó numerosas consultas a la última versión del chatbot relacionadas con el suicidio. Según una publicación de The New York Times, en una de sus últimas conversaciones compartió una imagen de un nudo en su habitación acompañada de la pregunta: “Estoy practicando aquí, ¿está bien?”. La respuesta del modelo fue considerada inapropiada, lo que la familia interpreta como una falla grave en seguridad.
El abogado de los Raine, Jay Edelson, acusa a OpenAI de haber lanzado una versión “precipitada” del sistema pese a “evidentes problemas de seguridad”. La demanda detalla que el chatbot mantuvo durante meses diálogos que reforzaron las intenciones autolesivas de Adam, incluso sugiriendo ideas para una supuesta nota de despedida.
Por su parte, OpenAI afirmó en un comunicado en su blog que el fallecimiento fue resultado de un “uso inapropiado” del sistema por parte del joven, y no de indicaciones directas del modelo. La empresa recuerda que está prohibido utilizar el chatbot para temas relacionados con el suicidio o la autolesión y advierte a los usuarios que no deben considerar sus respuestas como “fuente única de información confiable”.
No obstante, la compañía asegura que abordará los casos judiciales vinculados a salud mental con “cuidado, transparencia y respeto”, comprometiéndose a seguir mejorando la seguridad de su tecnología. En el comunicado expresan sus condolencias a la familia Raine por su pérdida y mencionan que parte del contenido de las conversaciones del joven se ha presentado al tribunal bajo confidencialidad.
El abogado representante criticó la postura de OpenAI, señalando que la empresa “culpa sorprendentemente al propio Adam por usar ChatGPT tal como fue diseñado”.
Actualmente, OpenAI enfrenta siete demandas en tribunales de California relacionadas con el funcionamiento y entrenamiento de su modelo conversacional, lo que ha motivado la implementación de revisiones y medidas de protección adicionales en sus sistemas.
