Las instituciones psiquiátricas están siendo invadidas por usuarios de IA

La adopción masiva de chatbots con modelos de lenguaje extensos ( LLM ) está provocando un número creciente de crisis de salud mental relacionadas con la IA. En estos casos, las personas comparten pensamientos delirantes o paranoicos con un producto como ChatGPT , y el chatbot , en lugar de recomendar al usuario que busque ayuda profesional, suele apoyar los pensamientos desequilibrados, lo que puede llevar a sesiones de chat extremadamente largas con un final trágico o incluso fatal.

Nuevos informes publicados por Wired , basados ​​en las opiniones de más de una docena de psiquiatras e investigadores, califican este fenómeno como una « nueva tendencia » en auge en nuestro mundo dominado por la IA. Keith Sakata, psiquiatra de la UCSF, declaró a la publicación que solo este año ha visto una docena de hospitalizaciones en las que la IA desempeñó un papel significativo en « episodios psicóticos ».

Sakata es uno de los muchos profesionales de la salud mental que están en la primera línea de esta crisis de salud urgente y poco comprendida que surge de las relaciones con la IA, un trastorno que aún carece de un diagnóstico oficial pero que los psiquiatras ya llaman “ psicosis de la IA ” o “ síndrome de alucinación de la IA ”.

Hamilton Morrin, un investigador psiquiátrico del King's College de Londres, dijo a The Guardian que se sintió inspirado para colaborar en un artículo de investigación sobre el impacto de la IA en los trastornos psicóticos después de encontrarse con pacientes que desarrollaron enfermedades psicóticas mientras usaban programas de chatbot LLM .

Otro profesional de la salud mental escribió un artículo en el Wall Street Journal después de que los pacientes comenzaron a llevar el chatbot de inteligencia artificial a las sesiones de terapia sin que se lo pidieran.

Si bien aún no ha comenzado un estudio de caso riguroso sobre el impacto de la IA en su uso por parte de pacientes psiquiátricos, los datos que tenemos hasta el momento no parecen buenos.

Una encuesta preliminar reciente sobre el impacto psiquiátrico de la IA, realizada por el investigador de trabajo social Keith Robert Head, apunta a una crisis social inminente, desencadenada por “ desafíos de salud mental sin precedentes que los profesionales no están bien equipados para abordar ”.

“ Estamos presenciando el surgimiento de una nueva frontera de crisis de salud mental, ya que las interacciones con chatbots impulsados ​​por IA están causando cada vez más casos documentados de suicidio, autolesiones y deterioro mental grave, algo sin precedentes en la era de Internet ”, escribe Head.

De hecho, los informes que han surgido hasta ahora son desalentadores. Si bien existe un debate sobre si los chatbots causan comportamientos delirantes o simplemente los exacerban, las historias reales de usuarios presentan un panorama inquietante.

Algunos casos involucran a personas con antecedentes de problemas de salud mental que controlaban eficazmente sus síntomas antes de que un chatbot entrara en sus vidas. En uno de estos casos, una mujer que llevaba años tomando medicación para la esquizofrenia fue convencida por ChatGPT de que su diagnóstico era falso. Pronto dejó de tomar su medicación y entró en una fase delirante que probablemente no habría ocurrido sin el chatbot .

Otros informes sugieren que incluso personas sin antecedentes de problemas de salud mental son víctimas de delirios generados por IA. Recientemente, ChatGPT convenció a un veterano inversor de OpenAI y exitoso empresario de haber descubierto un " sistema no gubernamental " que lo atacaba personalmente, en términos que los observadores en línea reconocieron rápidamente como sacados de libros de ficción.

Otra historia inquietante involucró a un padre de tres hijos, sin antecedentes de enfermedad mental, que sufrió una alucinación severa después de que ChatGPT lo convenció de que había descubierto un nuevo tipo de matemática.

Una cosa es cierta: la afluencia de nuevos pacientes psiquiátricos relacionados con la IA es una clara señal de que esta situación merece mucha más atención pública de la que está recibiendo por parte de los medios de comunicación y las autoridades.

Fuente: Yoga ezoteric