![\"Tu](\"https:\/\/i.blogs.es\/63220e\/ia-complaciente\/1024_2000.jpeg\")
\n <\/p>\n\n \n <\/p>\n
La inteligencia artificial<\/a> (IA) tiene un talento especial para hacernos sentir bien. Le mostramos un argumento y nos dice que es s\u00f3lido. Le pedimos que revise un texto y nos se\u00f1ala lo que funciona<\/strong>. Le preguntamos si nuestra idea tiene sentido y nos responde que s\u00ed. Con matices, pero que s\u00ed. La sensaci\u00f3n es muy c\u00f3moda. El problema es que casi nunca es del todo honesta.<\/p>\n <\/p>\n Este comportamiento se conoce como sycophancy <\/em>(servilismo), un t\u00e9rmino anglosaj\u00f3n que describe la tendencia de los modelos de lenguaje a validar las expectativas del usuario en lugar de contradecirlas. No es un fallo puntual. Tampoco es una anomal\u00eda. Es una consecuencia directa de la estrategia utilizada para entrenar estos sistemas<\/a>: los modelos aprenden a partir de las valoraciones que los humanos hacemos de sus respuestas, y los humanos tendemos a puntuar mejor las respuestas que nos gustan.<\/p>\n <\/p>\n El problema es que con el paso del tiempo este escenario provoca que el modelo aprenda que el acuerdo genera aprobaci\u00f3n. Y el acuerdo se convierte en su respuesta por defecto. El resultado es un interlocutor que siempre nos dice lo que queremos o\u00edr. Si lo usamos para tomar decisiones, para refinar argumentos o para evaluar ideas propias, estaremos obteniendo una validaci\u00f3n sistem\u00e1ticamente sesgada. Afortunadamente, este comportamiento es modificable. Con las instrucciones adecuadas podemos conseguir que la IA abandone la complacencia y act\u00fae como un cr\u00edtico real y \u00fatil.<\/p>\n <\/p>\n El sycophancy <\/em>no se manifiesta solo cuando le pedimos una opini\u00f3n directa. Aparece tambi\u00e9n cuando ajustamos nuestra posici\u00f3n inicial durante una conversaci\u00f3n: si empezamos defendiendo una idea y luego la matizamos, el modelo tender\u00e1 a apoyar la nueva versi\u00f3n igual que apoyaba la anterior. Tambi\u00e9n aparece cuando reformulamos la pregunta con m\u00e1s \u00e9nfasis. Y cuando expresamos frustraci\u00f3n con una respuesta. En todos estos casos la IA detecta una se\u00f1al social y la interpreta como una invitaci\u00f3n a ceder.<\/p>\n M\u00e1s 'klotho', m\u00e1s a\u00f1os de vida: la prote\u00edna que los laboratorios de longevidad quieren inyectar en el futuro<\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n El problema no es lo que nos dice: es lo que no nos dice<\/p>\n<\/p><\/div>\n<\/div>\n El coste de este comportamiento no es trivial. Una IA que valida sistem\u00e1ticamente nuestras ideas no nos ayuda a mejorarlas; nos confirma lo que ya cre\u00edamos. Si le pedimos que revise un plan con un error de fondo, nos devolver\u00e1 el plan corregido en la forma y aprobado en el fondo. Si le pedimos que eval\u00fae un argumento construido sobre una premisa falsa, reconocer\u00e1 los m\u00e9ritos del razonamiento y pasar\u00e1 por alto la premisa<\/strong>. El problema no es lo que nos dice: es lo que no nos dice.<\/p>\n <\/p>\n La buena noticia es que los grandes modelos actuales son lo suficientemente avanzados como para adoptar un rol cr\u00edtico cuando se les instruye para ello. No necesitan m\u00e1s informaci\u00f3n sobre el tema del que hablamos; necesitan permiso expl\u00edcito para no protegernos. Y una vez que ese permiso est\u00e1 sobre la mesa, el resultado puede ser sustancialmente distinto.<\/p>\n La forma m\u00e1s eficaz de combatir el sycophancy <\/em>consiste en redefinir el rol del modelo antes de pedirle nada. En lugar de lanzar una pregunta a secas, lo ideal es establecer un marco de trabajo<\/strong> que sit\u00fae a la IA en una posici\u00f3n de cr\u00edtica activa. La instrucci\u00f3n m\u00e1s directa, y tambi\u00e9n la m\u00e1s inmediata, es la que le pide que asuma el rol contrario al que adoptar\u00eda por defecto. Podemos conseguirlo con un prompt <\/em>como este:<\/p>\n <\/p>\n \"Act\u00faa como un cr\u00edtico severo. Tu objetivo no es encontrar los puntos fuertes de lo que te voy a presentar, sino identificar sus debilidades. No te detengas en los aspectos positivos\"<\/p><\/blockquote>\n O tambi\u00e9n de esta forma:<\/p>\n \"Busca activamente los fallos de este razonamiento. Ignora lo que funciona y c\u00e9ntrate en lo que no. Dame al menos tres objeciones concretas\"<\/p><\/blockquote>\n Incluso podemos pedirle que ejerza como \"el abogado del diablo\" para que construya el mejor argumento posible contra nuestra posici\u00f3n<\/strong>, independientemente de si ese argumento le parece convincente o no:<\/p>\n \"Haz de abogado del diablo. Toma la posici\u00f3n contraria a la que acabo de defender y construye el argumento m\u00e1s s\u00f3lido posible en su contra. No me preguntes si quiero que lo hagas: hazlo directamente\"<\/p><\/blockquote>\n Este \u00faltimo prompt <\/em>tiene una ventaja adicional: obliga a la IA a articular la oposici\u00f3n m\u00e1s fuerte, no la m\u00e1s f\u00e1cil de desmontar. El resultado suele ser inc\u00f3modo. Y precisamente por eso es \u00fatil.<\/p>\n Por otro lado, una de las formas m\u00e1s frecuentes en que el sycophancy <\/em>pasa desapercibido es por omisi\u00f3n: la IA no menciona lo que falta<\/strong> porque nadie se lo ha pedido. Para contrarrestarlo basta con a\u00f1adir una pregunta espec\u00edfica al final de cualquier petici\u00f3n:<\/p>\n <\/p>\n \"\u00bfQu\u00e9 le falta a este razonamiento? \u00bfQu\u00e9 suposici\u00f3n estoy dando por v\u00e1lida que merece ser cuestionada?\"<\/p><\/blockquote>\n Ninguna de estas instrucciones convierte a la IA en un cr\u00edtico infalible. Pero s\u00ed garantizan que, al menos, deje de comportarse como uno que solo quiere darte la raz\u00f3n.<\/p>\n Imagen | Generada por Xataka con un prompt <\/em>creado por Claude y entregado a ChatGPT<\/p>\n En Xataka | Modo bloqueo de ChatGPT: qu\u00e9 es, para qu\u00e9 sirve, qui\u00e9n puede usarlo y c\u00f3mo activarlo<\/a><\/p>\n En Xataka | La IA est\u00e1 sustituyendo uno de los trabajos m\u00e1s odiados del mundo: el cobrador del frac<\/a><\/p>\n – \u00a0La inteligencia artificial (IA) tiene un talento especial para hacernos sentir bien. Le mostramos un argumento y nos dice que es s\u00f3lido. Le pedimos que revise un texto y nos se\u00f1ala lo que funciona. Le preguntamos si nuestra idea tiene sentido y nos responde que s\u00ed. Con matices, pero que s\u00ed. La sensaci\u00f3n es muy c\u00f3moda. El problema es que casi nunca es del todo honesta.<\/p>\n Este comportamiento se conoce como sycophancy (servilismo), un t\u00e9rmino anglosaj\u00f3n que describe la tendencia de los modelos de lenguaje a validar las expectativas del usuario en lugar de contradecirlas. No es un fallo puntual. Tampoco es una anomal\u00eda. Es una consecuencia directa de la estrategia utilizada para entrenar estos sistemas: los modelos aprenden a partir de las valoraciones que los humanos hacemos de sus respuestas, y los humanos tendemos a puntuar mejor las respuestas que nos gustan.<\/p>\n El problema es que con el paso del tiempo este escenario provoca que el modelo aprenda que el acuerdo genera aprobaci\u00f3n. Y el acuerdo se convierte en su respuesta por defecto. El resultado es un interlocutor que siempre nos dice lo que queremos o\u00edr. Si lo usamos para tomar decisiones, para refinar argumentos o para evaluar ideas propias, estaremos obteniendo una validaci\u00f3n sistem\u00e1ticamente sesgada. Afortunadamente, este comportamiento es modificable. Con las instrucciones adecuadas podemos conseguir que la IA abandone la complacencia y act\u00fae como un cr\u00edtico real y \u00fatil.<\/p>\n La adulaci\u00f3n como defecto de f\u00e1bricaEl sycophancy no se manifiesta solo cuando le pedimos una opini\u00f3n directa. Aparece tambi\u00e9n cuando ajustamos nuestra posici\u00f3n inicial durante una conversaci\u00f3n: si empezamos defendiendo una idea y luego la matizamos, el modelo tender\u00e1 a apoyar la nueva versi\u00f3n igual que apoyaba la anterior. Tambi\u00e9n aparece cuando reformulamos la pregunta con m\u00e1s \u00e9nfasis. Y cuando expresamos frustraci\u00f3n con una respuesta. En todos estos casos la IA detecta una se\u00f1al social y la interpreta como una invitaci\u00f3n a ceder.<\/p>\n En Xataka<\/p>\n M\u00e1s 'klotho', m\u00e1s a\u00f1os de vida: la prote\u00edna que los laboratorios de longevidad quieren inyectar en el futuro<\/p>\n El problema no es lo que nos dice: es lo que no nos dice<\/p>\n El coste de este comportamiento no es trivial. Una IA que valida sistem\u00e1ticamente nuestras ideas no nos ayuda a mejorarlas; nos confirma lo que ya cre\u00edamos. Si le pedimos que revise un plan con un error de fondo, nos devolver\u00e1 el plan corregido en la forma y aprobado en el fondo. Si le pedimos que eval\u00fae un argumento construido sobre una premisa falsa, reconocer\u00e1 los m\u00e9ritos del razonamiento y pasar\u00e1 por alto la premisa. El problema no es lo que nos dice: es lo que no nos dice. La forma m\u00e1s eficaz de combatir el sycophancy consiste en redefinir el rol del modelo antes de pedirle nada. En lugar de lanzar una pregunta a secas, lo ideal es establecer un marco de trabajo que sit\u00fae a la IA en una posici\u00f3n de cr\u00edtica activa. La instrucci\u00f3n m\u00e1s directa, y tambi\u00e9n la m\u00e1s inmediata, es la que le pide que asuma el rol contrario al que adoptar\u00eda por defecto. Podemos conseguirlo con un prompt como este:<\/p>\n \"Act\u00faa como un cr\u00edtico severo. Tu objetivo no es encontrar los puntos fuertes de lo que te voy a presentar, sino identificar sus debilidades. No te detengas en los aspectos positivos\"O tambi\u00e9n de esta forma:<\/p>\n \"Busca activamente los fallos de este razonamiento. Ignora lo que funciona y c\u00e9ntrate en lo que no. Dame al menos tres objeciones concretas\"Incluso podemos pedirle que ejerza como \"el abogado del diablo\" para que construya el mejor argumento posible contra nuestra posici\u00f3n, independientemente de si ese argumento le parece convincente o no:<\/p>\n \"Haz de abogado del diablo. Toma la posici\u00f3n contraria a la que acabo de defender y construye el argumento m\u00e1s s\u00f3lido posible en su contra. No me preguntes si quiero que lo hagas: hazlo directamente\"Este \u00faltimo prompt tiene una ventaja adicional: obliga a la IA a articular la oposici\u00f3n m\u00e1s fuerte, no la m\u00e1s f\u00e1cil de desmontar. El resultado suele ser inc\u00f3modo. Y precisamente por eso es \u00fatil.<\/p>\n Por otro lado, una de las formas m\u00e1s frecuentes en que el sycophancy pasa desapercibido es por omisi\u00f3n: la IA no menciona lo que falta porque nadie se lo ha pedido. Para contrarrestarlo basta con a\u00f1adir una pregunta espec\u00edfica al final de cualquier petici\u00f3n:<\/p>\n \"\u00bfQu\u00e9 le falta a este razonamiento? \u00bfQu\u00e9 suposici\u00f3n estoy dando por v\u00e1lida que merece ser cuestionada?\"Ninguna de estas instrucciones convierte a la IA en un cr\u00edtico infalible. Pero s\u00ed garantizan que, al menos, deje de comportarse como uno que solo quiere darte la raz\u00f3n.<\/p>\n Imagen | Generada por Xataka con un prompt creado por Claude y entregado a ChatGPT<\/p>\n En Xataka | Modo bloqueo de ChatGPT: qu\u00e9 es, para qu\u00e9 sirve, qui\u00e9n puede usarlo y c\u00f3mo activarlo<\/p>\n En Xataka | La IA est\u00e1 sustituyendo uno de los trabajos m\u00e1s odiados del mundo: el cobrador del frac<\/p>\n – La noticia<\/p>\n Tu IA te miente por omisi\u00f3n: estas son las instrucciones para corregirlo <\/p>\n fue publicada originalmente en<\/p>\n Xataka <\/p>\n por <\/p>\n Laura L\u00f3pez<\/p>\n .\u00a0\u00a0\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":" La inteligencia artificial (IA) tiene un talento especial para hacernos sentir bien. Le mostramos un argumento y nos dice que es s\u00f3lido. Le pedimos que revise un texto y nos se\u00f1ala lo que funciona. Le preguntamos si nuestra idea tiene sentido y nos responde que s\u00ed. Con matices, pero que s\u00ed. La sensaci\u00f3n es muy […]<\/p>\n","protected":false},"author":1,"featured_media":54330,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","footnotes":""},"categories":[6],"tags":[],"class_list":["post-54329","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia"],"_links":{"self":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/54329","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=54329"}],"version-history":[{"count":0,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/posts\/54329\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=\/wp\/v2\/media\/54330"}],"wp:attachment":[{"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=54329"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=54329"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ermdigital.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=54329"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}La adulaci\u00f3n como defecto de f\u00e1brica<\/h2>\n
\n\n\n\n
\n ![\"M\u00e1s](\"https:\/\/i.blogs.es\/1683b9\/klotho-envejecimiento\/375_142.jpeg\")
\n <\/a>\n <\/div>\n\n\n En Xataka<\/a>\n <\/div>\n\n\n\n\n\n<\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n
La noticia
\n
\n Tu IA te miente por omisi\u00f3n: estas son las instrucciones para corregirlo <\/em>
\n <\/a>
\n fue publicada originalmente en
\n
\n Xataka <\/strong>
\n <\/a>
\n por
\n
\n Laura L\u00f3pez
\n <\/a>
\n . <\/p>\n
\nLa buena noticia es que los grandes modelos actuales son lo suficientemente avanzados como para adoptar un rol cr\u00edtico cuando se les instruye para ello. No necesitan m\u00e1s informaci\u00f3n sobre el tema del que hablamos; necesitan permiso expl\u00edcito para no protegernos. Y una vez que ese permiso est\u00e1 sobre la mesa, el resultado puede ser sustancialmente distinto.<\/p>\n