Tecnología
Ahora mismo hay 4500 estudiantes norteamericanos aconsejados psicológicamente por un chatbot. Es solo el principio
Ahora mismo, mientras escribo esto, hay unos 4.500 estudiantes norteamericanos siendo «aconsejados psicológicamente» a través de una aplicación llamada Sonny. No es nada sorprendente. En EEUU, en torno al 17% de las escuelas secundarias no tienen orientador ni psicólogo escolar. La mayoría de ellas están en ámbitos rurales o en zonas económicamente deprimidas y aplicaciones de este tipo acercan la asistencia psicosocial a todo el mundo.
El problema no es ese. El problema es que Sonny es un chatbot de inteligencia artificial.
¿Está el Chatbot? Que se ponga. La idea no es nueva: de hecho, es una de las primeras ideas que le viene a todo el mundo preocupado por la salud mental. En los últimos 50 años hemos llegado a la conclusión de que la psicoterapia es tremendamente efectiva. Por hasta ahora no hemos podido escalarla: esa es la promesa de los chatbots.
El ejemplo de Sonny ayuda a entenderlo: los estudiantes tienen acceso al chatbot 18 horas al día (de 8:00 a 2:00 de la mañana) y el servicio «solo» cuesta entre 20.000 y 30.000 dólares a cada distrito. Mucho menos que un consejero escolar al uso. Es verdad que no es tan efectivo que el consejero, pero para muchos entornos es lo mejor que se pueden permitir.
Y, de hecho, según explican algunos de sus usuarios, más allá de su efectividad terapéutica final, este tipo de enfoques permiten al colegio identificar casi a tiempo real problemas entre el alumnado. En Berryville (Arkansas), descubrieron que más de la mitad de los usuarios enviaba mensajes justo antes de los exámenes y les permitió desarrollar intervenciones de apoyo emocional.
¿Este es el futuro? Hace un par de años, Zara Abrams publicaba un extenso análisis en la American Psychological Association, donde se concluía que «los chatbots de inteligencia artificial (IA) pueden hacer que la terapia sea más accesible y menos costosa». Justo lo que hace Sonny.
Sin embargo, como también explicaba Abrams, «a pesar del potencial de la IA, todavía hay motivos para preocuparse: las herramientas de IA utilizadas en el ámbito sanitario han discriminado a personas en función de su raza y su condición de discapacidad y hay chatbots maliciosos han difundido información errónea, han profesado su amor a los usuarios o han acosado sexualmente a menores«. Eso es precisamente lo que Sonny trata de evitar.
¿Cómo es posible? En principio, según explican desde la empresa, Sonny tiene un equipo de personas con «experiencia en psicología, trabajo social y apoyo en línea» que supervisan e incluso reescriben las respuestas del bot. Cada técnico supervisa entre 15 y 25 chats a la vez.
Es la forma que tiene Sonar Mental Health, la empresa detrás de la app, para evitar el gran pecado original de los LLM: su tendencia a delirar, fantasear y dar consejos que puedan no ser correctos. Además, el chatbot híbrido está diseñado para avisar a padres y profesores ante la más mínima posibilidad de peligro (ya sea para uno mismo o para los demás).
¿Han solucionado el problema? La verdad es que no lo sabemos (porque faltan estudios sobre ello), pero sinceramente es poco probable que lo hayan conseguido: estamos en una fase muy temprana como para confiar en que todos los problemas asociados estén resueltos.
Pero es un paso radical. Como decía Abrams, es posible que «los psicólogos y sus habilidades sean irremplazables», pero dado que la llegada de la IA es inevitable tenemos que apostar por una «implementación reflexiva y estratégica». Algo que, efectivamente, es muy parecido a no decir nada. Hay mucho que aún no sabemos y, por eso, hacer predicciones concretas es peligroso.
Lo que sí está claro es que la pregunta no es si tendremos GPTerapeutas, ya los tenemos. La pregunta es cómo podemos usarlos para no empeorar la atención que hoy se está dando (una tentación siempre presnete) y convertirlos en una herramienta clave para reducir el sufrimiento humano. Esperemos responderla pronto.
–
La noticia
Ahora mismo hay 4500 estudiantes norteamericanos aconsejados psicológicamente por un chatbot. Es solo el principio
fue publicada originalmente en
Xataka
por
Javier Jiménez
.
Ahora mismo, mientras escribo esto, hay unos 4.500 estudiantes norteamericanos siendo «aconsejados psicológicamente» a través de una aplicación llamada Sonny. No es nada sorprendente. En EEUU, en torno al 17% de las escuelas secundarias no tienen orientador ni psicólogo escolar. La mayoría de ellas están en ámbitos rurales o en zonas económicamente deprimidas y aplicaciones de este tipo acercan la asistencia psicosocial a todo el mundo.
El problema no es ese. El problema es que Sonny es un chatbot de inteligencia artificial.
¿Está el Chatbot? Que se ponga. La idea no es nueva: de hecho, es una de las primeras ideas que le viene a todo el mundo preocupado por la salud mental. En los últimos 50 años hemos llegado a la conclusión de que la psicoterapia es tremendamente efectiva. Por hasta ahora no hemos podido escalarla: esa es la promesa de los chatbots.
El ejemplo de Sonny ayuda a entenderlo: los estudiantes tienen acceso al chatbot 18 horas al día (de 8:00 a 2:00 de la mañana) y el servicio «solo» cuesta entre 20.000 y 30.000 dólares a cada distrito. Mucho menos que un consejero escolar al uso. Es verdad que no es tan efectivo que el consejero, pero para muchos entornos es lo mejor que se pueden permitir.
Y, de hecho, según explican algunos de sus usuarios, más allá de su efectividad terapéutica final, este tipo de enfoques permiten al colegio identificar casi a tiempo real problemas entre el alumnado. En Berryville (Arkansas), descubrieron que más de la mitad de los usuarios enviaba mensajes justo antes de los exámenes y les permitió desarrollar intervenciones de apoyo emocional.
En Xataka
Con depresión y conectado: qué hacemos en Internet cuando lo vemos todo negro
¿Este es el futuro? Hace un par de años, Zara Abrams publicaba un extenso análisis en la American Psychological Association, donde se concluía que «los chatbots de inteligencia artificial (IA) pueden hacer que la terapia sea más accesible y menos costosa». Justo lo que hace Sonny.
Sin embargo, como también explicaba Abrams, «a pesar del potencial de la IA, todavía hay motivos para preocuparse: las herramientas de IA utilizadas en el ámbito sanitario han discriminado a personas en función de su raza y su condición de discapacidad y hay chatbots maliciosos han difundido información errónea, han profesado su amor a los usuarios o han acosado sexualmente a menores». Eso es precisamente lo que Sonny trata de evitar.
¿Cómo es posible? En principio, según explican desde la empresa, Sonny tiene un equipo de personas con «experiencia en psicología, trabajo social y apoyo en línea» que supervisan e incluso reescriben las respuestas del bot. Cada técnico supervisa entre 15 y 25 chats a la vez.
Es la forma que tiene Sonar Mental Health, la empresa detrás de la app, para evitar el gran pecado original de los LLM: su tendencia a delirar, fantasear y dar consejos que puedan no ser correctos. Además, el chatbot híbrido está diseñado para avisar a padres y profesores ante la más mínima posibilidad de peligro (ya sea para uno mismo o para los demás).
¿Han solucionado el problema? La verdad es que no lo sabemos (porque faltan estudios sobre ello), pero sinceramente es poco probable que lo hayan conseguido: estamos en una fase muy temprana como para confiar en que todos los problemas asociados estén resueltos.
Pero es un paso radical. Como decía Abrams, es posible que «los psicólogos y sus habilidades sean irremplazables», pero dado que la llegada de la IA es inevitable tenemos que apostar por una «implementación reflexiva y estratégica». Algo que, efectivamente, es muy parecido a no decir nada. Hay mucho que aún no sabemos y, por eso, hacer predicciones concretas es peligroso.
Lo que sí está claro es que la pregunta no es si tendremos GPTerapeutas, ya los tenemos. La pregunta es cómo podemos usarlos para no empeorar la atención que hoy se está dando (una tentación siempre presnete) y convertirlos en una herramienta clave para reducir el sufrimiento humano. Esperemos responderla pronto.
Imagen | Sonar / Sigmund
En Xataka | 50 años de investigación sobre la psicoterapia de la depresión dejan un dato sorprendente: no hemos mejorado nada
– La noticia
Ahora mismo hay 4500 estudiantes norteamericanos aconsejados psicológicamente por un chatbot. Es solo el principio
fue publicada originalmente en
Xataka
por
Javier Jiménez
.
