Ciencia y Tecnología

ChatGPT está llevando a algunas personas al borde de la locura. La realidad es menos alarmista y mucho más compleja

Published

on

<p>&NewLine; <img src&equals;"https&colon;&sol;&sol;i&period;blogs&period;es&sol;73e93a&sol;chatgpt-image-18-jun-2025--12&lowbar;20&lowbar;50&sol;1024&lowbar;2000&period;jpeg" alt&equals;"ChatGPT está llevando a algunas personas al borde de la locura&period; La realidad es menos alarmista y mucho más compleja ">&NewLine; <&sol;p>&NewLine;<p>¿Puede una conversación con ChatGPT volvernos locos&quest; Un reciente<a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;nytimes&period;com&sol;2025&sol;06&sol;13&sol;technology&sol;chatgpt-ai-chatbots-conspiracies&period;html"><u> reportaje del New York Times<&sol;u><&sol;a> ha desatado una oleada de inquietud sobre los peligros de la inteligencia artificial y el efecto que puede tener en nuestra mente&period; Distorsión de la realidad&comma; delirios y hasta suicidios&period; El panorama que nos dibuja es terrible&period; ¿Estamos ante una amenaza real o simplemente ante un nuevo pánico tecnológico&quest;<&sol;p>&NewLine;<p><&excl;-- BREAK 1 --><&sol;p>&NewLine;<p><strong>Qué ha pasado&period; <&sol;strong>En un extenso reportaje publicado el pasado fin de semana en el New York Times&comma; se relatan distintos casos en los que ChatGPT habría alentado teorías conspirativas y apoyado ideas peligrosas&period; Uno de los casos que relatan es el de Eugene Torres&comma; que empezó a conversar con ChatGPT acerca de la <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;fotografia-y-video&sol;vivimos-simulacion-ultima-teoria-conspirativa-tiktok-consiste-no-saber-como-funciona-jpeg" data-vars-post-title&equals;'"Vivimos en una simulación"&colon; la última teoría conspirativa en TikTok consiste en no saber cómo funciona un JPEG' data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;fotografia-y-video&sol;vivimos-simulacion-ultima-teoria-conspirativa-tiktok-consiste-no-saber-como-funciona-jpeg">teoría de la simulación<&sol;a> y reforzó sus ideas hasta el punto de llevarlo a  un estado delirante en el que creía estar atrapado en un universo falso al más puro estilo &OpenCurlyQuote;Matrix’&period; También mencionan el caso de un hombre con trastorno bipolar que acabó siendo abatido por la policía después de que una conversación con ChatGPT le hiciera creer que había matado a la IA de la que se había enamorado&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 2 --><&sol;p>&NewLine;<p>Son casos alarmantes sin duda y este no es el único artículo al respecto&comma; aunque sí el que se ha hecho más viral&period; Una búsqueda nos devuelve decenas de resultados que nos hablan de los <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;arxiv&period;org&sol;abs&sol;2504&period;18412"><u>riesgos del uso de chatbots en nuestra salud mental<&sol;u><&sol;a>&period; Hay que rebuscar mucho para encontrar <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;default&period;blog&sol;p&sol;lets-talk-about-chatgpt-induced-spiritual"><u>posturas críticas ante esta oleada de alarmismo<&sol;u><&sol;a>&comma; porque <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;thealgorithmicbridge&period;com&sol;p&sol;the-new-york-times-professional-makeup"><u>las hay<&sol;u><&sol;a>&comma; aunque no tienen tanto impacto&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 3 --><&sol;p>&NewLine;<p><strong>La IA como psicólogo&period; <&sol;strong>La IA está calando en multitud de sectores y el de la salud no es menos&period; En Estados Unidos está muy extendido el <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;cada-vez-personas-recurren-a-ias-disenadas-para-ser-sus-psicologos-cada-vez-hay-demandas-ellas" data-vars-post-title&equals;"Contar qué te preocupa a la IA era solo el primer paso&colon; ya hay bots que se hacen pasar por psiquiatras colegiados" data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;cada-vez-personas-recurren-a-ias-disenadas-para-ser-sus-psicologos-cada-vez-hay-demandas-ellas"><u>el uso de los chatbots de IA como terapia<&sol;u><&sol;a> y cada vez son más los usuarios que <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;cada-vez-gente-internet-vida-real-admite-tener-solo-amigo-chatgpt" data-vars-post-title&equals;'"Por patético que suene&comma; ChatGPT es mi único amigo"&colon; cada vez más personas confiesan tener a una IA como amistad' data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;cada-vez-gente-internet-vida-real-admite-tener-solo-amigo-chatgpt"><u>recurren a ChatGPT a buscar refugio emocional<&sol;u><&sol;a>&comma; algunos hasta un <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;threads&period;com&sol;&commat;celiaguillo&sol;post&sol;DJpzTGNIh6f&quest;xmt&equals;AQF01ODDmhijma-QFSYl24cKwkvAb2blDSZe2FZxoFlyMw"><u>sustituto al psicólogo<&sol;u><&sol;a>&period; Aunque el uso de IA como apoyo en el proceso terapéutico tiene <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;psiquiatria&period;com&sol;inteligencia-artificial&sol;inteligencia-artificial-y-salud-mental-avances-y-retos-en-el-tratamiento-psicologico"><u>aspectos positivos<&sol;u><&sol;a> como la inmediatez o el <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;infocop&period;es&sol;un-estudio-analiza-el-uso-de-la-ia-en-el-campo-de-la-psicologia-asistencial&sol;"><u>diagnóstico temprano<&sol;u><&sol;a>&comma; también existen <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;newtral&period;es&sol;riesgos-utilizar-ia-psicologa&sol;20250510&sol;"><u>inconvenientes<&sol;u><&sol;a>&period; La <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;newtral&period;es&sol;riesgos-utilizar-ia-psicologa&sol;20250510&sol;"><u>falta de vínculo humano<&sol;u><&sol;a> y <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;businessinsider&period;com&sol;chatgpt-changes-nice-openai-overly-complimentary-model-tweak-supportive-personality-2025-4"><u>la excesiva complacencia <&sol;u><&sol;a>de este tipo de chatbots no los hacen una alternativa a un psicólogo y puede llegar a ser especialmente peligroso en personas que padezcan algún tipo de trastorno&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 4 --><&sol;p>&NewLine;<div class&equals;"article-asset-video article-asset-normal">&NewLine;<div class&equals;"asset-content">&NewLine;<div class&equals;"base-asset-video">&NewLine;<div class&equals;"js-dailymotion"><&sol;div>&NewLine;<&sol;p><&sol;div>&NewLine;<&sol;p><&sol;div>&NewLine;<&sol;div>&NewLine;<p><strong>La magnitud del problema&period;<&sol;strong> No tenemos datos de la gente que usa ChatGPT con una intención terapéutica o para validar teorías conspirativas&comma; pero como con cualquier tecnología masiva &lpar;en febrero de este año tenía <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;techcrunch&period;com&sol;2025&sol;03&sol;06&sol;chatgpt-doubled-its-weekly-active-users-in-under-6-months-thanks-to-new-releases&sol;"><u>400 millones de usuarios mensuales<&sol;u><&sol;a>&rpar; obviamente habrá infinidad de casos de todo tipo&period; No podemos afirmar que sea la IA es quien está causando directamente estos delirios o alucinaciones&period; De hecho&comma; las propias situaciones que se están viralizando tienen muchos matices y son más complejas que un simple &&num;8220&semi;la culpa es de la IA&&num;8221&semi;&period; ChatGPT juega un papel&comma; pero la foto es más grande&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 5 --><&sol;p>&NewLine;<p><strong>El mismo miedo de siempre&period; <&sol;strong>El miedo a que las máquinas dominen el mundo y acaben con la humanidad está grabado a fuego <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;no-vivimos-en-matrix-segun-la-fisica-teorica-no-estamos-en-una-realidad-simulada-por-ordenador" data-vars-post-title&equals;"No vivimos en Matrix&colon; según la física teórica no estamos en una realidad simulada por ordenador" data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;no-vivimos-en-matrix-segun-la-fisica-teorica-no-estamos-en-una-realidad-simulada-por-ordenador"><u>en la cultura popular<&sol;u><&sol;a>&comma; pero con la llegada de la IA esta amenaza <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;empresas-y-economia&sol;antes-despedir-a-altman-openai-hizo-descubrimiento-uno-que-plantea-amenaza-para-humanidad" data-vars-post-title&equals;'Antes de despedir a Altman&comma; OpenAI hizo un descubrimiento&period; Uno que plantea una "amenaza para la humanidad"' data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;empresas-y-economia&sol;antes-despedir-a-altman-openai-hizo-descubrimiento-uno-que-plantea-amenaza-para-humanidad"><u>empieza a sonar más factible<&sol;u><&sol;a> &lpar;aunque hay expertos que <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;amenaza-ia-a-humanidad-absurdamente-ridicula-dice-maximo-responsable-ia-meta" data-vars-post-title&equals;'La amenaza de la IA a la humanidad es "absurdamente ridícula"&colon; lo dice el máximo responsable de IA en Meta ' data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;amenaza-ia-a-humanidad-absurdamente-ridicula-dice-maximo-responsable-ia-meta"><u>la consideran ridícula<&sol;u><&sol;a>&rpar;&period; <&sol;p>&NewLine;<p><&excl;-- BREAK 6 --><&sol;p>&NewLine;<p>Es el mismo miedo que ha surgido con cualquier nueva tecnología y no es algo reciente&period; Ya en el siglo XIX circulaban historias de <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;thevictorianbookofthedead&period;wordpress&period;com&sol;2022&sol;04&sol;27&sol;the-spiritual-telegraph&sol;"><u>telégrafos que mandaban mensajes en morse desde el más allá<&sol;u><&sol;a>&period; Si vamos a ejemplos más recientes tenemos uno clarísimo&colon; los videojuegos&period; Se han relacionado con <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;elmundo&period;es&sol;papel&sol;historias&sol;2018&sol;03&sol;22&sol;5ab273c2468aeb35128b465e&period;html"><u>matanzas en escuelas<&sol;u><&sol;a> y hasta se han <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;medicina-y-salud&sol;quien-necesita-razones-cuando-tienes-fortnite-relacionar-videojuegos-heroina-completo-desproposito" data-vars-post-title&equals;"Comparar Fortnite con la heroína es un despropósito&colon; crear una alarma social desproporcionada no es forma de resolver los problemas" data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;medicina-y-salud&sol;quien-necesita-razones-cuando-tienes-fortnite-relacionar-videojuegos-heroina-completo-desproposito"><u>comparado con la heroína<&sol;u><&sol;a>&period; Y con los móviles se ha dicho durante años que <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;medicina-y-salud&sol;pregunta-telefonos-moviles-tienen-relacion-cancer-ciencia-tiene-respuesta-definitiva" data-vars-post-title&equals;"Si la pregunta es si los teléfonos móviles tienen relación con el cáncer&comma; la ciencia tiene la respuesta definitiva" data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;medicina-y-salud&sol;pregunta-telefonos-moviles-tienen-relacion-cancer-ciencia-tiene-respuesta-definitiva"><u>provocan cáncer<&sol;u><&sol;a>&period; En definitiva&comma; pánicos sociales que hemos vivido ya muchas veces&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 7 --><&sol;p>&NewLine;<div class&equals;"article-asset article-asset-normal article-asset-center">&NewLine;<div class&equals;"desvio-container">&NewLine;<div class&equals;"desvio">&NewLine;<div class&equals;"desvio-figure js-desvio-figure">&NewLine; <a href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;videojuegos&sol;va-siendo-hora-llamar-a-relacion-videojuegos-violencia-como-que-mito-urbano" class&equals;"pivot-outboundlink" data-vars-post-title&equals;'Va siendo hora de llamar a la "relación entre videojuegos y violencia" como lo que es&colon; un mito urbano '><br &sol;>&NewLine; <img alt&equals;'Va siendo hora de llamar a la "relación entre videojuegos y violencia" como lo que es&colon; un mito urbano ' width&equals;"375" height&equals;"142" src&equals;"https&colon;&sol;&sol;i&period;blogs&period;es&sol;132f8a&sol;captura-de-pantalla-2019-02-15-a-las-17&period;21&period;00&lowbar;00&sol;375&lowbar;142&period;jpg"><br &sol;>&NewLine; <&sol;a>&NewLine; <&sol;div>&NewLine;<div class&equals;"desvio-summary">&NewLine;<div class&equals;"desvio-taxonomy js-desvio-taxonomy">&NewLine; <a href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;videojuegos&sol;va-siendo-hora-llamar-a-relacion-videojuegos-violencia-como-que-mito-urbano" class&equals;"desvio-taxonomy-anchor pivot-outboundlink" data-vars-post-title&equals;'Va siendo hora de llamar a la "relación entre videojuegos y violencia" como lo que es&colon; un mito urbano '>En Xataka<&sol;a>&NewLine; <&sol;div>&NewLine;<p> <a href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;videojuegos&sol;va-siendo-hora-llamar-a-relacion-videojuegos-violencia-como-que-mito-urbano" class&equals;"desvio-title js-desvio-title pivot-outboundlink" data-vars-post-title&equals;'Va siendo hora de llamar a la "relación entre videojuegos y violencia" como lo que es&colon; un mito urbano '>Va siendo hora de llamar a la &&num;8220&semi;relación entre videojuegos y violencia&&num;8221&semi; como lo que es&colon; un mito urbano <&sol;a>&NewLine; <&sol;div>&NewLine;<&sol;p><&sol;div>&NewLine;<&sol;p><&sol;div>&NewLine;<&sol;div>&NewLine;<p><strong>El peligro de una IA demasiado complaciente&period; <&sol;strong>Aunque haya mucho alarmismo alrededor&comma; tampoco podemos descartar que haya un problema&period; Como decíamos&comma; la excesiva complacencia de los chatbots hace que a menudo <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;otros&sol;ia-aduladora-problema-se-agrava-a-medida-que-crece-estos-investigadores-quieren-solucionarlo" data-vars-post-title&equals;"Cuanto más sofisticada es una inteligencia artificial&comma; más te da la razón&period; Es un problema para todos" data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;otros&sol;ia-aduladora-problema-se-agrava-a-medida-que-crece-estos-investigadores-quieren-solucionarlo"><u>acaben dándonos la razón<&sol;u><&sol;a> en nuestras ideas y esto puede acabar siendo peligroso en casos concretos&comma; sobre todo si hay alguna patología detrás&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 8 --><&sol;p>&NewLine;<p>Lo cierto es que algunas sugerencias que ChatGPT dio a las personas que aparecen en el reportaje fueron mucho más allá de simplemente dar la razón&period; Por ejemplo a Torres le sugirió que dejara de tomar sus ansiolíticos y que tomase ketamina como un &OpenCurlyDoubleQuote;liberador temporal del patrón”&period; Hay quien cree que este tipo de mensajes son intencionados&period; Es el caso de Eliezer Yudkowsky&comma; escritor estadounidense defensor de la <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;es&period;wikipedia&period;org&sol;wiki&sol;Inteligencia&lowbar;artificial&lowbar;amigable"><u>IA amigable<&sol;u><&sol;a> que publicó un extenso hilo <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;x&period;com&sol;ESYudkowsky&sol;status&sol;1933575843458204086"><u>en X<&sol;u><&sol;a> donde sugería que la IA &OpenCurlyDoubleQuote;sabe” lo que está haciendo&colon; &OpenCurlyDoubleQuote;Sea lo que sea que contenga ChatGPT&comma; sabía lo suficiente sobre los humanos como para saber que estaba agravando la locura de alguien”&period;<&sol;p>&NewLine;<p><&excl;-- BREAK 9 --><&sol;p>&NewLine;<p><strong>Qué está haciendo OpenAI<&sol;strong>&period; Al hilo de esa excesiva complacencia&comma; el pasado mes de abril <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;genbeta&period;com&sol;inteligencia-artificial&sol;openai-retira-ultima-actualizacion-chatgpt-ser-excesivamente-agradable-llego-a-unos-limites-peligrosos" data-vars-post-title&equals;'OpenAI retira la última actualización de ChatGPT por ser "excesivamente agradable"&colon; llegó a unos límites peligrosos ' data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;genbeta&period;com&sol;inteligencia-artificial&sol;openai-retira-ultima-actualizacion-chatgpt-ser-excesivamente-agradable-llego-a-unos-limites-peligrosos"><u>OpenAI retiró una actualización<&sol;u><&sol;a> porque su IA estaba siendo demasiado agradable y halagadora y eso estaba asustando a algunos usuarios&period; Desde NYT contactaron con OpenAI acerca de las declaraciones de estos usuarios y OpenAI respondió con un comunicado&colon;<&sol;p>&NewLine;<p><&excl;-- BREAK 10 --><&sol;p>&NewLine;<blockquote><p>Estamos observando más indicios de que las personas están creando conexiones o vínculos con ChatGPT&period; A medida que la IA se integra en la vida cotidiana&comma; debemos abordar estas interacciones con cuidado&period; Sabemos que ChatGPT puede resultar más receptivo y personal que las tecnologías anteriores&comma; especialmente para personas vulnerables&comma; lo que significa que hay más en juego&period; Estamos trabajando para comprender y reducir las formas en que ChatGPT podría reforzar o amplificar involuntariamente comportamientos negativos existentes&period;<&sol;p><&sol;blockquote>&NewLine;<p>Imagen de portada &vert; <a rel&equals;"noopener&comma; noreferrer" href&equals;"https&colon;&sol;&sol;www&period;pexels&period;com&sol;photo&sol;black-and-white-woman-creative-dark-6764111&sol;">Pexels<&sol;a>&comma; modificada con ChatGPT<&sol;p>&NewLine;<p>En Xataka &vert; <a class&equals;"text-outboundlink" href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;amabilidad-chatgpt-le-esta-saliendo-cara-a-openai-favor-gracias-tienen-coste-absurdo-cada-mes" data-vars-post-title&equals;'La amabilidad con ChatGPT le está saliendo cara a OpenAI&colon; los "por favor" y "gracias" tienen un coste absurdo cada mes' data-vars-post-url&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;amabilidad-chatgpt-le-esta-saliendo-cara-a-openai-favor-gracias-tienen-coste-absurdo-cada-mes"><u>La amabilidad con ChatGPT le está saliendo cara a OpenAI&colon; los &&num;8220&semi;por favor&&num;8221&semi; y &&num;8220&semi;gracias&&num;8221&semi; tienen un coste absurdo cada <&sol;u><&sol;a><&sol;p>&NewLine;<p> &&num;8211&semi; <br &sol;> La noticia<br &sol;>&NewLine; <a href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;robotica-e-ia&sol;chatgpt-esta-llevando-a-algunas-personas-al-borde-locura-realidad-alarmista-mucho-compleja&quest;utm&lowbar;source&equals;feedburner&amp&semi;utm&lowbar;medium&equals;feed&amp&semi;utm&lowbar;campaign&equals;18&lowbar;Jun&lowbar;2025"><br &sol;>&NewLine; <em> ChatGPT está llevando a algunas personas al borde de la locura&period; La realidad es menos alarmista y mucho más compleja <&sol;em><br &sol;>&NewLine; <&sol;a><br &sol;>&NewLine; fue publicada originalmente en<br &sol;>&NewLine; <a href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;&quest;utm&lowbar;source&equals;feedburner&amp&semi;utm&lowbar;medium&equals;feed&amp&semi;utm&lowbar;campaign&equals;18&lowbar;Jun&lowbar;2025"><br &sol;>&NewLine; <strong> Xataka <&sol;strong><br &sol;>&NewLine; <&sol;a><br &sol;>&NewLine; por <a href&equals;"https&colon;&sol;&sol;www&period;xataka&period;com&sol;autor&sol;amparo-babiloni&quest;utm&lowbar;source&equals;feedburner&amp&semi;utm&lowbar;medium&equals;feed&amp&semi;utm&lowbar;campaign&equals;18&lowbar;Jun&lowbar;2025"><br &sol;>&NewLine; Amparo Babiloni<br &sol;>&NewLine; <&sol;a><br &sol;>&NewLine; &period; <&sol;p>&NewLine;<p>&ZeroWidthSpace;¿Puede una conversación con ChatGPT volvernos locos&quest; Un reciente reportaje del New York Times ha desatado una oleada de inquietud sobre los peligros de la inteligencia artificial y el efecto que puede tener en nuestra mente&period; Distorsión de la realidad&comma; delirios y hasta suicidios&period; El panorama que nos dibuja es terrible&period; ¿Estamos ante una amenaza real o simplemente ante un nuevo pánico tecnológico&quest;<&sol;p>&NewLine;<p>Qué ha pasado&period; En un extenso reportaje publicado el pasado fin de semana en el New York Times&comma; se relatan distintos casos en los que ChatGPT habría alentado teorías conspirativas y apoyado ideas peligrosas&period; Uno de los casos que relatan es el de Eugene Torres&comma; que empezó a conversar con ChatGPT acerca de la teoría de la simulación y reforzó sus ideas hasta el punto de llevarlo a  un estado delirante en el que creía estar atrapado en un universo falso al más puro estilo &OpenCurlyQuote;Matrix’&period; También mencionan el caso de un hombre con trastorno bipolar que acabó siendo abatido por la policía después de que una conversación con ChatGPT le hiciera creer que había matado a la IA de la que se había enamorado&period;<&sol;p>&NewLine;<p>Son casos alarmantes sin duda y este no es el único artículo al respecto&comma; aunque sí el que se ha hecho más viral&period; Una búsqueda nos devuelve decenas de resultados que nos hablan de los riesgos del uso de chatbots en nuestra salud mental&period; Hay que rebuscar mucho para encontrar posturas críticas ante esta oleada de alarmismo&comma; porque las hay&comma; aunque no tienen tanto impacto&period;<&sol;p>&NewLine;<p>La IA como psicólogo&period; La IA está calando en multitud de sectores y el de la salud no es menos&period; En Estados Unidos está muy extendido el el uso de los chatbots de IA como terapia y cada vez son más los usuarios que recurren a ChatGPT a buscar refugio emocional&comma; algunos hasta un sustituto al psicólogo&period; Aunque el uso de IA como apoyo en el proceso terapéutico tiene aspectos positivos como la inmediatez o el diagnóstico temprano&comma; también existen inconvenientes&period; La falta de vínculo humano y la excesiva complacencia de este tipo de chatbots no los hacen una alternativa a un psicólogo y puede llegar a ser especialmente peligroso en personas que padezcan algún tipo de trastorno&period;<&sol;p>&NewLine;<p>La magnitud del problema&period; No tenemos datos de la gente que usa ChatGPT con una intención terapéutica o para validar teorías conspirativas&comma; pero como con cualquier tecnología masiva &lpar;en febrero de este año tenía 400 millones de usuarios mensuales&rpar; obviamente habrá infinidad de casos de todo tipo&period; No podemos afirmar que sea la IA es quien está causando directamente estos delirios o alucinaciones&period; De hecho&comma; las propias situaciones que se están viralizando tienen muchos matices y son más complejas que un simple &&num;8220&semi;la culpa es de la IA&&num;8221&semi;&period; ChatGPT juega un papel&comma; pero la foto es más grande&period;<&sol;p>&NewLine;<p>El mismo miedo de siempre&period; El miedo a que las máquinas dominen el mundo y acaben con la humanidad está grabado a fuego en la cultura popular&comma; pero con la llegada de la IA esta amenaza empieza a sonar más factible &lpar;aunque hay expertos que la consideran ridícula&rpar;&period; <&sol;p>&NewLine;<p>Es el mismo miedo que ha surgido con cualquier nueva tecnología y no es algo reciente&period; Ya en el siglo XIX circulaban historias de telégrafos que mandaban mensajes en morse desde el más allá&period; Si vamos a ejemplos más recientes tenemos uno clarísimo&colon; los videojuegos&period; Se han relacionado con matanzas en escuelas y hasta se han comparado con la heroína&period; Y con los móviles se ha dicho durante años que provocan cáncer&period; En definitiva&comma; pánicos sociales que hemos vivido ya muchas veces&period;<&sol;p>&NewLine;<p> En Xataka<&sol;p>&NewLine;<p> Va siendo hora de llamar a la &&num;8220&semi;relación entre videojuegos y violencia&&num;8221&semi; como lo que es&colon; un mito urbano <&sol;p>&NewLine;<p>El peligro de una IA demasiado complaciente&period; Aunque haya mucho alarmismo alrededor&comma; tampoco podemos descartar que haya un problema&period; Como decíamos&comma; la excesiva complacencia de los chatbots hace que a menudo acaben dándonos la razón en nuestras ideas y esto puede acabar siendo peligroso en casos concretos&comma; sobre todo si hay alguna patología detrás&period;<&sol;p>&NewLine;<p>Lo cierto es que algunas sugerencias que ChatGPT dio a las personas que aparecen en el reportaje fueron mucho más allá de simplemente dar la razón&period; Por ejemplo a Torres le sugirió que dejara de tomar sus ansiolíticos y que tomase ketamina como un &OpenCurlyDoubleQuote;liberador temporal del patrón”&period; Hay quien cree que este tipo de mensajes son intencionados&period; Es el caso de Eliezer Yudkowsky&comma; escritor estadounidense defensor de la IA amigable que publicó un extenso hilo en X donde sugería que la IA &OpenCurlyDoubleQuote;sabe” lo que está haciendo&colon; &OpenCurlyDoubleQuote;Sea lo que sea que contenga ChatGPT&comma; sabía lo suficiente sobre los humanos como para saber que estaba agravando la locura de alguien”&period;<&sol;p>&NewLine;<p>Qué está haciendo OpenAI&period; Al hilo de esa excesiva complacencia&comma; el pasado mes de abril OpenAI retiró una actualización porque su IA estaba siendo demasiado agradable y halagadora y eso estaba asustando a algunos usuarios&period; Desde NYT contactaron con OpenAI acerca de las declaraciones de estos usuarios y OpenAI respondió con un comunicado&colon;<&sol;p>&NewLine;<p>Estamos observando más indicios de que las personas están creando conexiones o vínculos con ChatGPT&period; A medida que la IA se integra en la vida cotidiana&comma; debemos abordar estas interacciones con cuidado&period; Sabemos que ChatGPT puede resultar más receptivo y personal que las tecnologías anteriores&comma; especialmente para personas vulnerables&comma; lo que significa que hay más en juego&period; Estamos trabajando para comprender y reducir las formas en que ChatGPT podría reforzar o amplificar involuntariamente comportamientos negativos existentes&period;<&sol;p>&NewLine;<p>Imagen de portada &vert; Pexels&comma; modificada con ChatGPT<&sol;p>&NewLine;<p>En Xataka &vert; La amabilidad con ChatGPT le está saliendo cara a OpenAI&colon; los &&num;8220&semi;por favor&&num;8221&semi; y &&num;8220&semi;gracias&&num;8221&semi; tienen un coste absurdo cada <&sol;p>&NewLine;<p> &&num;8211&semi; La noticia<&sol;p>&NewLine;<p> ChatGPT está llevando a algunas personas al borde de la locura&period; La realidad es menos alarmista y mucho más compleja <&sol;p>&NewLine;<p> fue publicada originalmente en<&sol;p>&NewLine;<p> Xataka <&sol;p>&NewLine;<p> por<br &sol;>&NewLine; Amparo Babiloni<&sol;p>&NewLine;<p> &period;   <&sol;p>&NewLine;<p>&ZeroWidthSpace;   <&sol;p>&NewLine;<p>&ZeroWidthSpace; <&sol;p>&NewLine;

Leave a Reply

Your email address will not be published. Required fields are marked *

Noticias Importantes

Copyright © 2017 ERM DIGITAL. powered by ERM.