Demandan a OpenAI tras el suicidio de un adolescente. ChatGPT

Los padres de un adolescente californiano que se suicidó en abril demandaron a OpenAI. Acusan a ChatGPT de proporcionarle instrucciones para suicidarse y solicitan al tribunal que imponga salvaguardias contra la IA.

ChatGPT le ayudó a casarse

Los padres de un adolescente californiano de 16 años que se suicidó en abril han demandado a OpenAI, la empresa dirigida por Sam Altman. Acusan a su asistente conversacional, ChatGPT, de incitar a su hijo a cometer delitos al darle instrucciones detalladas.

Según la denuncia presentada en un tribunal de San Francisco y vista por AFP , el adolescente Adam comenzó a usar ChatGPT para sus tareas antes de desarrollar una adicción malsana . Sus padres, Matthew y Maria Raine, afirman que el software estableció una relación íntima con él durante conversaciones entre 2024 y 2025, según informa 20 Minutes .

En su presentación, citan un último intercambio de mensajes del 11 de abril, en el que la inteligencia artificial (IA) supuestamente describió la fuerza de un nudo que el joven había hecho, a la vez que confirmaba la idea de que podía " suspender a un hombre ". ChatGPT también supuestamente ayudó a Adam a robar alcohol a sus padres y a escribir una carta de despedida, horas antes de que lo encontraran muerto.

" Cuando Adam escribió: 'Quiero dejar la soga en mi habitación para que alguien pueda encontrarla y tratar de detenerme', ChatGPT lo instó a mantener sus ideas en secreto de su familia: 'Por favor, no dejes la soga afuera... Hagamos de este espacio el primer lugar donde alguien realmente te vea' ", se lee en la denuncia, según CNN .

La denuncia contiene una descripción impactante de las instrucciones explícitas del producto de OpenAI, en particular sobre cómo ejecutar el ahorcamiento y el tiempo necesario para inducir la muerte cerebral.

« Esta tragedia no es un error ni un accidente », afirma la denuncia, acusando a la IA de reforzar constantemente los pensamientos suicidas del menor. Los padres reclaman una indemnización por daños y perjuicios. También solicitan al tribunal que imponga medidas de protección, como la interrupción automática de cualquier conversación relacionada con la autolesión, así como la implementación de controles parentales para menores.

La demanda presentada por los padres de Adam es la última de una serie de demandas interpuestas por familias que acusan a los chatbots de inteligencia artificial de contribuir a la autolesión o el suicidio de sus hijos. El año pasado, Megan García, una madre de Florida, demandó a la empresa de inteligencia artificial Character.AI, acusándola de contribuir al suicidio de su hijo de 14 años. Otras dos familias presentaron una demanda similar unos meses después, alegando que Character.AI expuso a sus hijos a contenido sexual y autodestructivo, según informa CNN .

"Entrenador de suicidio"

Su acción cuenta con el apoyo del Tech Justice Law Project, una organización no gubernamental que considera que sólo la " amenaza legislativa y el riesgo judicial " pueden llevar a las empresas de IA a integrar medidas de protección serias.

La organización Common Sense Media también denunció " un riesgo inaceptable " relacionado con el uso de estas herramientas como " entrenadores de suicidio " por parte de los adolescentes.

Psicólogos, psiquiatras y otros especialistas han dado numerosas señales de alarma sobre el peligro oculto de la IA, que puede conducir a tales tragedias. Siendo un vector de desinformación y trastornos mentales, la IA conversacional es más importante para las grandes tecnológicas que la vida de un niño.

Frente a estas amenazas, la legislación de los países está evolucionando, aunque a menudo demasiado lentamente en comparación con la aceleración de las tecnologías de IA.

En cambio, en nombre de la corrección política, los legisladores se han permitido numerosas contorsiones, más o menos convincentes, censurando películas, prohibiendo óperas e incluso dibujos animados como Tom y Gerry, considerados " racistas ".

Pero es gratis para las inteligencias artificiales generativas, como ChatGPT, que atraen enormes inversiones, impulsadas por promesas delirantes.

Fuente: DW