![\"Los](\"https:\/\/i.blogs.es\/ee86fe\/zulfugar-karimov-carba5zxjtq-unsplash\/1024_2000.jpeg\")
\n <\/p>\n\n \n <\/p>\n
Antes, para crear tu c\u00e1mara de eco pod\u00edas seguir s\u00f3lo a personas que pensaran como t\u00fa en redes, ahora puedes crear tu propia c\u00e1mara de eco personalizada con una IA. Un estudio de Stanford<\/a> ha analizado a fondo la excesiva adulaci\u00f3n de los LLM y el resultado es claro: si quieres que te digan lo que quieres o\u00edr, mejor hablar con la IA antes que con una persona.<\/p>\n <\/p>\n El estudio.<\/strong> Los\u00a0investigadores analizaron once modelos de lenguaje,<\/a> entre los que estaban los m\u00e1s populares como ChatGPT, Gemini, Claude o DeepSeek, y y los alimentaron con conjuntos de datos sobre dilemas personales. Adem\u00e1s, incluyeron 2.000 prompts extra\u00eddos de la comunidad de Reddit. Aproximadamente un tercio de todos los escenarios planteados inclu\u00edan conductas da\u00f1inas o directamente ilegales. Despu\u00e9s, compararon las respuestas de los LLM con respuestas humanas para ver qui\u00e9n suele dar m\u00e1s la raz\u00f3n al usuario.<\/p>\n En una segunda parte del estudio, reclutaron a 2.400 participantes y los pusieron a chatear con modelos de lenguaje aduladores y otros no aduladores.\u00a0<\/p>\n En ocasiones, las IA er\u00f3ticas son IA. Y en ocasiones, son un se\u00f1or de Kenia que cobra dos d\u00f3lares por hora<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n Nos gusta que nos den la raz\u00f3n<\/strong>. Los chatbots tienden a ser mucho m\u00e1s aduladores que un humano cuando dan consejos personales, pero no s\u00f3lo eso, adem\u00e1s las personas generalmente prefieren este tipo de respuestas. Los modelos respaldaron la postura del usuario un 49% m\u00e1s que los humanos en dilemas generales y avalaron conductas da\u00f1inas un 47% m\u00e1s.\u00a0<\/p>\n <\/p>\n En el segundo experimento, la gente que chate\u00f3 con distintos modelos consider\u00f3 m\u00e1s confiable y preferible al modelo adulador. Adem\u00e1s, sali\u00f3 m\u00e1s convencida de tener raz\u00f3n y menos dispuesta a disculparse o reparar el conflicto.\u00a0<\/p>\n Por qu\u00e9 es un problema<\/strong>. Seg\u00fan los autores, los LLM pueden reforzar el egocentrismo y hacer a las personas m\u00e1s moralmente dogm\u00e1ticas. Seg\u00fan Myra Cheng, coautora del estudio \"Por defecto, los consejos de la IA no le dicen a la gente que se equivoca ni le dan un ba\u00f1o de realidad (…) Me preocupa que la gente pierda la capacidad de lidiar con situaciones sociales dif\u00edciles\". Adem\u00e1s, hay otro dato preocupante y es que los usuarios percibieron los modelos como igualmente objetivos, lo que sugiere una falta de visi\u00f3n cr\u00edtica para poder distinguir una IA aduladora de una no aduladora.\u00a0<\/p>\n <\/p>\n La IA no es una persona.<\/strong> Es una obviedad, pero la realidad es que a diario nos dirigimos a chatbots IA como si fueran una. Darle las gracias y pedirle las cosas por favor\u00a0<\/a>es un s\u00edntoma inofensivo de esa man\u00eda nuestra de antropoformizarlo todo<\/a>. Sin embargo, cuando usamos la IA como sustituto a un psic\u00f3logo<\/a> o cuando entablamos relaciones \u00edntimas con un chatbot<\/a>, ah\u00ed es donde empezamos a pisar en terreno pantanoso<\/a>. Los autores del estudio consideran urgente que las empresas introduzcan salvaguardas para reducir la excesiva complacencia de los LLM y aconsejan evitar usarlos como sustituto de una persona para tratar conflictos personales.\u00a0<\/p>\n El contrapunto<\/strong>. Hay voces que defienden que la IA \u00a0no est\u00e1 generando esas c\u00e1maras de eco, al menos no con tanta intensidad como hemos visto con las redes sociales. \u00a0Seg\u00fan John Burn-Murdoch en Financial Times<\/a>, los modelos de lenguaje tienden a elevar el consenso con los expertos y generan opiniones m\u00e1s moderadas que las redes. Su argumento es que la arquitectura econ\u00f3mica de las redes premia el contenido incendiario y polarizante, mientras que los chatbots compiten por ofrecer respuestas fiables a usuarios que los usan para tomar decisiones importantes.<\/p>\n <\/p>\n No es una opini\u00f3n sin m\u00e1s, tambi\u00e9n ha hecho un experimento en el que ha simulado miles de conversaciones pol\u00edticas entre usuarios con posiciones extremas y varios de los principales chatbots del mercado. A partir de encuestas electorales y datos de uso de estas herramientas, mide c\u00f3mo se mover\u00edan las posturas si una parte de la ciudadan\u00eda usara la IA para informarse. El autor concluye que, en promedio, los modelos tienden a empujar a los m\u00e1s radicales hacia posiciones m\u00e1s templadas y cercanas al consenso experto, validando adem\u00e1s muchas menos teor\u00edas conspirativas que las que circulan de forma rutinaria en redes sociales.<\/p>\n En Xataka | Las IA se han convertido en herramientas de acompa\u00f1amiento contra la soledad. Para algunos investigadores es \"comida basura\"<\/a><\/p>\n <\/p>\n Imagen | Zulfugar Karimov<\/a> en Unsplash<\/a><\/p>\n – \u00a0Antes, para crear tu c\u00e1mara de eco pod\u00edas seguir s\u00f3lo a personas que pensaran como t\u00fa en redes, ahora puedes crear tu propia c\u00e1mara de eco personalizada con una IA. Un estudio de Stanford ha analizado a fondo la excesiva adulaci\u00f3n de los LLM y el resultado es claro: si quieres que te digan lo que quieres o\u00edr, mejor hablar con la IA antes que con una persona. En Xataka<\/p>\n En ocasiones, las IA er\u00f3ticas son IA. Y en ocasiones, son un se\u00f1or de Kenia que cobra dos d\u00f3lares por hora<\/p>\n Nos gusta que nos den la raz\u00f3n. Los chatbots tienden a ser mucho m\u00e1s aduladores que un humano cuando dan consejos personales, pero no s\u00f3lo eso, adem\u00e1s las personas generalmente prefieren este tipo de respuestas. Los modelos respaldaron la postura del usuario un 49% m\u00e1s que los humanos en dilemas generales y avalaron conductas da\u00f1inas un 47% m\u00e1s.\u00a0 El contrapunto. Hay voces que defienden que la IA \u00a0no est\u00e1 generando esas c\u00e1maras de eco, al menos no con tanta intensidad como hemos visto con las redes sociales. \u00a0Seg\u00fan John Burn-Murdoch en Financial Times, los modelos de lenguaje tienden a elevar el consenso con los expertos y generan opiniones m\u00e1s moderadas que las redes. Su argumento es que la arquitectura econ\u00f3mica de las redes premia el contenido incendiario y polarizante, mientras que los chatbots compiten por ofrecer respuestas fiables a usuarios que los usan para tomar decisiones importantes. Imagen | Zulfugar Karimov en Unsplash<\/p>\n – La noticia<\/p>\n Los chatbots IA son m\u00e1s aduladores que los humanos dando consejos personales. Y eso es un problem\u00f3n <\/p>\n fue publicada originalmente en<\/p>\n Xataka <\/p>\n por .\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":" Antes, para crear tu c\u00e1mara de eco pod\u00edas seguir s\u00f3lo a personas que pensaran como t\u00fa en redes, ahora puedes crear tu propia c\u00e1mara de eco personalizada con una IA. Un estudio de Stanford ha analizado a fondo la excesiva adulaci\u00f3n de los LLM y el resultado es claro: si quieres que te digan lo […]<\/p>\n","protected":false},"author":1,"featured_media":9034,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[6],"tags":[],"class_list":["post-9033","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/posts\/9033","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/comments?post=9033"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/posts\/9033\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/media\/9034"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/media?parent=9033"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/categories?post=9033"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php\/wp-json\/wp\/v2\/tags?post=9033"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n\n\n\n
\n ![\"En](\"https:\/\/i.blogs.es\/2240b4\/about-img\/375_142.jpeg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n\n\n\n<\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n
La noticia
\n
\n Los chatbots IA son m\u00e1s aduladores que los humanos dando consejos personales. Y eso es un problem\u00f3n <\/em>
\n <\/a>
\n fue publicada originalmente en
\n
\n Xataka <\/strong>
\n <\/a>
\n por
\n Amparo Babiloni
\n <\/a>
\n . <\/p>\n
\nEl estudio. Los\u00a0investigadores analizaron once modelos de lenguaje, entre los que estaban los m\u00e1s populares como ChatGPT, Gemini, Claude o DeepSeek, y y los alimentaron con conjuntos de datos sobre dilemas personales. Adem\u00e1s, incluyeron 2.000 prompts extra\u00eddos de la comunidad de Reddit. Aproximadamente un tercio de todos los escenarios planteados inclu\u00edan conductas da\u00f1inas o directamente ilegales. Despu\u00e9s, compararon las respuestas de los LLM con respuestas humanas para ver qui\u00e9n suele dar m\u00e1s la raz\u00f3n al usuario.
\nEn una segunda parte del estudio, reclutaron a 2.400 participantes y los pusieron a chatear con modelos de lenguaje aduladores y otros no aduladores.\u00a0<\/p>\n
\nEn el segundo experimento, la gente que chate\u00f3 con distintos modelos consider\u00f3 m\u00e1s confiable y preferible al modelo adulador. Adem\u00e1s, sali\u00f3 m\u00e1s convencida de tener raz\u00f3n y menos dispuesta a disculparse o reparar el conflicto.\u00a0
\nPor qu\u00e9 es un problema. Seg\u00fan los autores, los LLM pueden reforzar el egocentrismo y hacer a las personas m\u00e1s moralmente dogm\u00e1ticas. Seg\u00fan Myra Cheng, coautora del estudio \"Por defecto, los consejos de la IA no le dicen a la gente que se equivoca ni le dan un ba\u00f1o de realidad (…) Me preocupa que la gente pierda la capacidad de lidiar con situaciones sociales dif\u00edciles\". Adem\u00e1s, hay otro dato preocupante y es que los usuarios percibieron los modelos como igualmente objetivos, lo que sugiere una falta de visi\u00f3n cr\u00edtica para poder distinguir una IA aduladora de una no aduladora.\u00a0
\nLa IA no es una persona. Es una obviedad, pero la realidad es que a diario nos dirigimos a chatbots IA como si fueran una. Darle las gracias y pedirle las cosas por favor\u00a0es un s\u00edntoma inofensivo de esa man\u00eda nuestra de antropoformizarlo todo. Sin embargo, cuando usamos la IA como sustituto a un psic\u00f3logo o cuando entablamos relaciones \u00edntimas con un chatbot, ah\u00ed es donde empezamos a pisar en terreno pantanoso. Los autores del estudio consideran urgente que las empresas introduzcan salvaguardas para reducir la excesiva complacencia de los LLM y aconsejan evitar usarlos como sustituto de una persona para tratar conflictos personales.\u00a0<\/p>\n
\nNo es una opini\u00f3n sin m\u00e1s, tambi\u00e9n ha hecho un experimento en el que ha simulado miles de conversaciones pol\u00edticas entre usuarios con posiciones extremas y varios de los principales chatbots del mercado. A partir de encuestas electorales y datos de uso de estas herramientas, mide c\u00f3mo se mover\u00edan las posturas si una parte de la ciudadan\u00eda usara la IA para informarse. El autor concluye que, en promedio, los modelos tienden a empujar a los m\u00e1s radicales hacia posiciones m\u00e1s templadas y cercanas al consenso experto, validando adem\u00e1s muchas menos teor\u00edas conspirativas que las que circulan de forma rutinaria en redes sociales.
\nEn Xataka | Las IA se han convertido en herramientas de acompa\u00f1amiento contra la soledad. Para algunos investigadores es \"comida basura\"<\/p>\n
\n Amparo Babiloni<\/p>\n