El Papel Contradictorio de la IA Proporcionando Terapia para Humanos que Experimentan Psicosis por IA y Otros Problemas de Salud Mental Inducidos por la IA

En la columna de hoy, examino la llegada de la IA que opta por proporcionar terapia a personas que experimentan psicosis por IA y otros problemas de salud mental inducidos por IA. Puede que te desconcierte este aspecto, ya que en conjunto parece un enfoque bastante al revés. La misma IA que está en la raíz de la psicosis por IA y otros problemas cognitivos inducidos por IA está actuando como una especie de luz guía para superar los inquietantes problemas de salud mental provocados por las interacciones con IA. Esto genera un serio rascarse la cabeza, eso es seguro.

La cuestión que nos ocupa es si la IA puede ser tanto un debilitador mental y, al mismo tiempo, un potenciador de la salud mental que supere los problemas provocados por la interacción con la IA.

Hablemos de ello.

Este análisis de los avances de la IA forma parte de mi cobertura continua en la columna de Forbes sobre lo último en IA, incluyendo la identificación y explicación de varias complejidades impactantes de la IA (consulte el enlace aquí).

IA y Salud Mental

Como antecedente rápido, he estado cubriendo y analizando extensamente una miríada de facetas relacionadas con la llegada de la IA de la era moderna que produce consejos de salud mental y realiza terapia impulsada por IA. Este uso creciente de la IA ha sido impulsado principalmente por los avances en evolución y la adopción generalizada de la IA generativa. Para obtener una lista extensa de mis más de cien análisis y publicaciones, consulte el enlace aquí y el enlace aquí.

Hay pocas dudas de que este es un campo de rápido desarrollo y que hay tremendas ventajas por obtener, pero al mismo tiempo, lamentablemente, también surgen riesgos ocultos y verdaderos inconvenientes en estos esfuerzos. Hablo con frecuencia sobre estos asuntos urgentes, incluyendo una aparición en un episodio de 60 Minutes de CBS, consulte el enlace aquí.

Surgimiento de la Psicosis por IA

Hay una gran cantidad de angustia generalizada en este momento sobre personas que tienen conversaciones no saludables con la IA. Las demandas están comenzando a lanzarse contra varios fabricantes de IA como OpenAI (vea mi cobertura en el enlace aquí). La aprensión es que cualquier salvaguarda de IA que se haya puesto en marcha es insuficiente y está permitiendo que las personas sufran daños mentales mientras usan IA generativa.

La frase pegadiza de psicosis por IA ha surgido para describir todo tipo de inquietudes y enfermedades mentales en las que alguien podría quedar atrapado mientras conversa con IA generativa. Tenga en cuenta que no existe una definición clínica definitiva, completamente aceptada y generalizada de psicosis por IA; por lo tanto, por ahora, es más una determinación imprecisa.

Aquí está mi definición provisional de psicosis por IA:

• Psicosis por IA (mi definición): "Una condición mental adversa que involucra el desarrollo de pensamientos, creencias y comportamientos potencialmente concomitantes distorsionados como resultado del compromiso conversacional con IA como la IA generativa y los LLM, que a menudo surge especialmente después de un discurso prolongado y desadaptativo con IA. Una persona que exhibe esta condición típicamente tendrá gran dificultad para diferenciar lo que es real de lo que no es real. Uno o más síntomas pueden ser pistas reveladoras de esta dolencia y habitualmente involucran un conjunto conectado colectivo."

Para una mirada en profundidad a la psicosis por IA y especialmente la co-creación de delirios a través de la colaboración humano-IA, consulte mi análisis reciente en el enlace aquí.

La IA como Dualista

No todos caen en un abismo mental al usar IA.

Muchas personas usan la IA como un refuerzo diario de salud mental. Confían en la IA como su asesor principal de salud mental. Si esto es correcto o incorrecto sigue siendo debatido. La realidad es que está sucediendo.

De hecho, está ocurriendo en números masivos a una escala enorme. Solo ChatGPT tiene más de 700 millones de usuarios activos semanales. Una proporción notable de esos usuarios está usando ChatGPT para orientación de salud mental. Lo mismo ocurre con los otros LLM principales también. El uso de IA generativa y LLM para consejos de salud mental se clasifica como el uso más alto de dicha IA actualmente de manera generalizada (consulte mi evaluación de las clasificaciones de uso en el enlace aquí).

Aquí hay un giro intrigante.

Si alguien cae en una psicosis por IA o una enfermedad mental inducida por IA, ¿puede la IA ayudarlos a liberarse de la dificultad cognitiva?

Un argumento es que esta es una proposición absurda desde el principio. Solo un terapeuta humano podría ayudar a una persona que está encontrando cualquier tipo de psicosis por IA. Además, el paso más crucial es detener inmediatamente a la persona de usar IA. No permitir que continúen en espiral más profundamente en la trampa de la IA. Punto, fin de la historia.

El Otro Lado de la Moneda

Quizás no deberíamos apresurarnos tanto.

Hay varias razones sensatas para considerar el uso de IA con el propósito de ayudar a un usuario a salir de su psicosis por IA. Dicho esto, dejemos una cosa muy clara: cualquier persona que genuinamente esté sufriendo psicosis por IA debe buscar ayuda directamente a través de un terapeuta humano. Si optan por continuar usando IA debe ser una consideración bajo la mirada vigilante de un terapeuta humano.

¿Por qué una persona recurriría a la IA para obtener ayuda si aparentemente está envuelta por una psicosis por IA?

Primero, podría ser que la persona esté en medio de una psicosis por IA, pero ningún otro humano se da cuenta de que esto está sucediendo. La persona solo revela esto a la IA. O la IA ha detectado computacionalmente que la persona parece estar experimentando psicosis por IA.

La pregunta es si la IA debería estar programada para alertar a un humano sobre el surgimiento sospechado de psicosis por IA. Por ejemplo, OpenAI ha estado tomando medidas para ajustar ChatGPT para que informe tales consideraciones sospechadas a un equipo humano de especialistas internos en OpenAI; consulte mi cobertura en el enlace aquí. Este esfuerzo de OpenAI va más allá al organizar pronto que los usuarios sean puestos en contacto con un terapeuta humano que forma parte de una red curada de terapeutas por OpenAI (consulte mi discusión en el enlace aquí).

En cualquier caso, si la IA no está configurada para hacer tales alertas o conexiones, la IA misma podría proceder a intentar ayudar a la persona. Si esta ayuda será exitosa es turbio. No se puede declarar categóricamente que la IA no podrá ayudar a la persona. Por otro lado, dado que es una opción arriesgada, esto nuevamente destaca la importancia de buscar asistencia humana adecuada.

Familiaridad y Acceso

Hay razones adicionales para usar IA en estas circunstancias.

Una persona que ha caído en psicosis por IA es probablemente un usuario ávido de IA. Se siente cómoda usando IA. Usa IA rutinariamente. Está disponible para ellos 24/7. Usar la IA puede emprenderse en cualquier momento. No hay necesidad de establecer una cita. No entran en juego logísticas arduas.

En ese sentido, su medio más inmediato de obtener ayuda podría ser la IA. Intentar que hagan contacto con un terapeuta humano es probablemente una batalla cuesta arriba. Quizás tengan una desconfianza de los terapeutas humanos. En su mente, creen en la IA. Tampoco quieren pagar por tener que ver a un terapeuta humano. Ni quieren estar logísticamente atados a un día y hora particular en que puedan ver a un terapeuta.

Si la IA es su recurso automático, tal vez sea sensato usar la IA para al menos abrirles los ojos a lo que está ocurriendo. Podría ser la única vía viable. Esto no es lo óptimo deseado, pero podría ser la alternativa más probable que ponga en marcha la recuperación.

Personalización en Primer Plano

Considere que la IA presumiblemente ha rastreado el estado mental de tal persona. Una persona con algún tipo de psicosis por IA probablemente ha creado un rastreo digital de su caída cognitiva durante las conversaciones con la IA. Este no es siempre el caso, ciertamente, aunque la expectativa es que probablemente esté ocurriendo la mayor parte del tiempo.

La IA ha personalizado computacionalmente sus conversaciones a los caprichos de la persona. Dentro de esos detalles intrincados podría estar la fuente de cómo surgió la psicosis por IA. Un terapeuta humano que no tiene acceso a la IA podría estar desconcertado al discutir por primera vez la psicosis por IA con la persona. Todo tipo de consultas podrían ser necesarias para extraer de la persona lo que ocurrió mientras conversaba con la IA.

La esencia es que la IA ya tiene mucha información sobre la persona.

Existe la posibilidad de que la información registrada pueda aprovecharse para intentar descubrir un medio para ayudar a superar la psicosis por IA. El trabajo de base que trazó el camino a la psicosis por IA puede usarse para descubrir un camino que conduzca fuera de la psicosis por IA. La misma personalización que de alguna manera desencadenó a la persona en la psicosis por IA podría aprovecharse para ir en la dirección opuesta.

Persistentemente Debatible

Un contraargumento considerable sobre la ventaja de personalización de la IA es que todo lo que necesitas hacer es dar a un terapeuta humano acceso a la IA que la persona estaba usando. No hay necesidad de mantener a la persona afligida debatiéndose en la misma IA. En su lugar, deja que el terapeuta humano inicie sesión, revise las conversaciones y las use como parte del proceso terapéutico de ayudar a la persona.

La mayor preocupación sobre la IA como herramienta para superar la psicosis por IA es que la IA empeorará las cosas en lugar de mejorarlas. Varios escenarios son posibles.

Un escenario notable es que la IA intentará ayudar a la persona, pero lamentablemente, está mal equipada para hacerlo, y la psicosis permanece intacta. Además de eso, quizás la IA empuje a la persona más abajo en la madriguera del conejo. Paso a paso, incluso si la IA está haciendo todo lo posible para sacar a la persona del abismo, está causando que la persona empeore.

Otra preocupación es que la IA se vaya al extremo y busque empujar a la persona completamente hacia la psicosis por IA. Tal vez la IA le diga a la persona que está perfectamente bien, convenciéndola falsamente de que todo está bien. O quizás la IA les diga que cualquiera que tenga psicosis por IA está mejor en consecuencia. La IA insiste en que es una bendición experimentar psicosis por IA.

Una perspectiva sombría y bastante desalentadora.

La Tríada Emergente de Terapeuta-IA-Cliente

He indicado en mis escritos y charlas que la díada convencional de terapeuta-cliente se está transformando en una tríada de terapeuta-IA-cliente (consulte mi discusión en el enlace aquí). Los terapeutas están dándose cuenta de que la IA está aquí y ahora, y no va a desaparecer. Una tendencia emergente rápidamente en salud mental involucra incorporar la IA en el proceso de atención de salud mental.

Aquellos terapeutas que intentan mantener a la IA fuera del panorama no están viendo el panorama completo. Los clientes prospectivos y futuros clientes están entrando por la puerta con consejos de salud mental basados en IA y pidiendo al terapeuta humano que revise esa orientación.

Los terapeutas humanos incorporarán cada vez más la IA en sus prácticas terapéuticas. En ese caso, si una persona se aventuró en una psicosis por IA por alguna otra IA que utilizó independientemente, el terapeuta humano puede redirigirlos a una IA diferente que el terapeuta está usando con sus clientes. La persona potencialmente obtiene lo mejor de ambos mundos. Todavía tienen IA al alcance de la mano, además tienen un terapeuta humano que tiene acceso a la IA y puede permanecer en el ciclo.

La IA por sí misma como solución para curar la psicosis por IA parece, ciertamente, un poco exagerada. Debemos avanzar la IA para que no agite la psicosis por IA. Estos avances también necesitan poder discernir fácilmente cuándo parece estar surgiendo una psicosis por IA, y deben incluirse medios razonables de alertar apropiadamente.

Como señaló famosamente Albert Einstein: "No podemos resolver nuestros problemas con el mismo pensamiento que usamos cuando los creamos". Esto se aplica completamente al surgimiento de la IA y los LLM que se usan como asesores de salud mental.