Ciencia y Tecnología
Todo empieza pidiéndole una cosa a una IA. Cuando la IA se lo pide a otras IA comienza el caos
<p>
 <img src="https://i.blogs.es/3d87c3/thinking/1024_2000.jpeg" alt="Todo empieza pidiéndole una cosa a una IA. Cuando la IA se lo pide a otras IA comienza el caos">
 </p>
<p>En el juego del &#8220;teléfono escacharrado&#8221; (o roto, o descompuesto) un grupo de personas transmite un mensaje de uno en uno en secreto. Lo que suele suceder es que el mensaje original no tiene mucho que ver con lo que recibe el último destinatario. Y el problema que estamos viendo es que algo similar puede ocurrir con los prometedores agentes de IA.</p>
<p><!-- BREAK 1 --></p>
<p><strong>Errores acumulados</strong>. Toby Ord, investigador en la Universidad de Oxford, publicó recientemente <a rel="noopener, noreferrer" href="https://www.tobyord.com/writing/half-life">un estudio</a> sobre agentes de IA. En él hablaba de cómo este tipo de sistemas tienen el problema del <a rel="noopener, noreferrer" href="https://www.computerweekly.com/news/366620886/Deepmind-founder-warns-of-compounding-AI-agent-errors">error acumulado o compuesto</a>. Un agente de IA encadena varias etapas de forma autónoma para tratar de resolver un problema que le proponemos —por ejemplo, crear código para cierta tarea—, pero si comete un error en una etapa, ese error se acumula y se hace más preocupante en la siguiente etapa, y más en la siguiente, y más aún en la siguiente. La precisión de la solución se ve así comprometida y puede no tener mucho (o nada) que ver con la que realmente solucionaría el problema que queríamos resolver.</p>
<p><!-- BREAK 2 --></p>
<div class="article-asset-image article-asset-normal article-asset-center">
<div class="asset-content">
 <a rel="noopener, noreferrer" href="https://x.com/ylecun/status/1935108028891861393"></p>
<p> <img alt="Captura De Pantalla 2025 06 19 A Las 10 03 42" class="centro_sinmarco" src="https://i.blogs.es/349b09/captura-de-pantalla-2025-06-19-a-las-10.03.42/450_1000.jpeg"><br />
 </a></p></div>
</div>
<p><strong>La IA puede programar, pero no durante mucho tiempo seguido</strong>. Lo que planteaba este experto era la introducción de la llamada &#8220;vida media&#8221; del agente de IA, que ayudaría a estimar la tasa de éxito según la longitud de la tarea que quiere resolver un agente de IA. Por ejemplo, un agente con una vida media de 2 horas tendría un 50% de éxito en tareas de dos horas. El mensaje es contundente: cuanto más tiempo trabaja un agente de IA, más probabilidades hay de que la tasa de éxito decaiga. Benjamin Todd, otro experto en IA, <a rel="noopener, noreferrer" href="https://x.com/ben_j_todd/status/1934284189928501482">lo expresaba de otra forma</a>: una IA puede programar durante una hora sin (apenas) errores, pero no durante 10 horas. No son cifras reales ni definitivas, pero expresan el mismo problema: los agentes de IA no pueden —al menos de momento— funcionar de forma indefinida, porque los errores acumulados condenan la tasa de éxito.</p>
<p><!-- BREAK 3 --></p>
<p><strong>Los humanos tampoco nos salvamos</strong>. Pero cuidado, porque <a rel="noopener, noreferrer" href="https://x.com/_rockt/status/1935259200801624404">algo muy parecido pasa</a> con el rendimiento humano en tareas prolongadas. En el estudio de Orb se señalaba cómo la tasa de éxito empírica va bajando de forma notable: tras 15 minutos ya es de aproximadamente el 75%, tras hora y media es del 50% y tras 16 horas de apenas el 20%. Todos podemos cometer errores al realizar ciertas tareas encadenadas, y si en una de ellas cometemos un error, en la siguiente tarea de la cadena ese error condena todo el desarrollo posterior aún más.</p>
<p><!-- BREAK 4 --></p>
<p><strong>LeCun ya avisó</strong>. Yann LeCun, que dirige los esfuerzos de investigación de IA en Meta, lleva mucho tiempo avisando de los problemas con los LLM. En junio de 2023 <a rel="noopener, noreferrer" href="https://x.com/ben_j_todd/status/1934527998155186676">indicó</a> cómo los LLM autoregresivos no pueden ser factuales y evitar respuestas tóxicas. Explicó que hay una alta probabilidad de que el token que genera un modelo nos lleve fuera del grupo de respuestas correctas, y cuanto más larga es la respuesta, más difícil es que sea correcta.</p>
<p><!-- BREAK 5 --></p>
<div class="article-asset-video article-asset-normal">
<div class="asset-content">
<div class="base-asset-video">
<div class="js-dailymotion"></div>
</p></div>
</p></div>
</div>
<p><strong>Para eso está la corrección de errores</strong>. Para evitar el problema, necesitamos reducir la tasa de errores de los modelos de IA. Es algo <a rel="noopener, noreferrer" href="https://www.sciencedirect.com/science/article/abs/pii/S0164121201001303">muy conocido</a> en ingenería software, donde siempre se recomienda realizar una revisión temprana de código siguiendo una estrategia &#8220;shift left&#8221; para el ciclo de desarrollo de software: cuanto antes se detecta un error, <a rel="noopener, noreferrer" href="https://es.wikipedia.org/wiki/Pruebas_de_rendimiento_del_software#Introducci%C3%B3n">más fácil y barato es corregirlo</a>. Y ocurre justo lo contrario si no lo hacemos: el coste de corregir un error crece exponencialmente cuanto más tarde se detecta en el ciclo de vida. Otros expertos <a rel="noopener, noreferrer" href="https://x.com/BlackHC/status/1935112860759150616">apuntan</a> a que el <a class="text-outboundlink" href="https://www.xataka.com/inteligencia-artificial/conceptos-inteligencia-artificial-que-aprendizaje-refuerzo" data-vars-post-title="Conceptos de inteligencia artificial: qué es el aprendizaje por refuerzo " data-vars-post-url="https://www.xataka.com/inteligencia-artificial/conceptos-inteligencia-artificial-que-aprendizaje-refuerzo">aprendizaje por refuerzo</a> (Reinforcement Learning, RL) podría solucionar el problema, y aquí LeCun <a rel="noopener, noreferrer" href="https://x.com/BlackHC/status/1935112860759150616">respondía</a> que lo haría si tuviésemos datos infinitos para pulir el comportamiento del modelo, cosa que no tenemos.</p>
<p><!-- BREAK 6 --></p>
<p><strong>Más que agentes, multiagentes</strong>. En Anthropic <a rel="noopener, noreferrer" href="https://www.anthropic.com/engineering/built-multi-agent-research-system">demostraron recientemente</a> cómo hay una forma de mitigar aún más esos errores (y los posteriores errores acumulados): usar sistemas multiagénticos. Esto es: que múltiples agentes de IA trabajen en paralelo para luego confrontar sus resultados y determinar el camino o solución óptima.</p>
<p><!-- BREAK 7 --></p>
<div class="article-asset-image article-asset-normal article-asset-center">
<div class="asset-content">
<div class="caption-img ">
<p> <img alt="Tasa Error" class="centro_sinmarco" src="https://i.blogs.es/139b1a/tasa-error/450_1000.jpeg"></p>
<p> <span>La gráfica muestra la longitud de las tareas que los agentes de IA pueden completar de forma autónoma a lo largo de los últimos años. El estudio revela que cada siete meses se dobla el tiempo que puede funcionar un agente de IA para completar tareas con una tasa de éxito del 50%. O lo que es lo mismo: los agentes están mejorando de forma sostenida (y notable) con el tiempo.</span>
 </div>
</p></div>
</div>
<p><strong>Pero los modelos y los agentes no paran de mejorar (¿o no?)</strong>. El propio Todd <a rel="noopener, noreferrer" href="https://x.com/BlackHC/status/1935112860759150616">apuntaba algo importante</a> y que permite ser optimistas respecto a ese problema. &#8220;La tasa de error de los modelos de IA se está reduciendo a la mitad aproximadamente cada cinco meses&#8221;, explicaba. Y a ese ritmo es posible que los agentes de IA puedan completar con éxito decenas de tareas encadenadas en año y medio y centenares en otro año y medio después. <a rel="noopener, noreferrer" href="https://www.nytimes.com/2025/05/05/technology/ai-hallucinations-chatgpt-google.html">En The New York Times</a> no estaban de acuerdo, y apuntaban recientemente a que aunque los modelos cada vez son más potentes, también &#8220;alucinan&#8221; más que anteriores generaciones. La &#8220;<a rel="noopener, noreferrer" href="https://cdn.openai.com/pdf/2221c875-02dc-4789-800b-e7758f3722c1/o3-and-o4-mini-system-card.pdf">tarjeta de sistema</a>&#8221; de o3 y o4-mini precisamente apunta a que hay un problema real con la tasa de errores y &#8220;alucinaciones&#8221; en ambos modelos.</p>
<p><!-- BREAK 8 --></p>
<p>En Xataka | <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/alucinaciones-siguen-siendo-talon-aquiles-ia-ultimos-modelos-openai-inventan-cuenta" data-vars-post-title="Las alucinaciones siguen siendo el talón de Aquiles de la IA: los últimos modelos de OpenAI inventan más de la cuenta" data-vars-post-url="https://www.xataka.com/robotica-e-ia/alucinaciones-siguen-siendo-talon-aquiles-ia-ultimos-modelos-openai-inventan-cuenta">Las alucinaciones siguen siendo el talón de Aquiles de la IA: los últimos modelos de OpenAI inventan más de la cuenta</a></p>
<p> &#8211; <br /> La noticia<br />
 <a href="https://www.xataka.com/robotica-e-ia/hay-riesgo-agentes-ia-errores-acumulados-que-sean-telefono-escacharrado?utm_source=feedburner&;utm_medium=feed&;utm_campaign=19_Jun_2025"><br />
 <em> Todo empieza pidiéndole una cosa a una IA. Cuando la IA se lo pide a otras IA comienza el caos </em><br />
 </a><br />
 fue publicada originalmente en<br />
 <a href="https://www.xataka.com/?utm_source=feedburner&;utm_medium=feed&;utm_campaign=19_Jun_2025"><br />
 <strong> Xataka </strong><br />
 </a><br />
 por <a href="https://www.xataka.com/autor/javier-pastor?utm_source=feedburner&;utm_medium=feed&;utm_campaign=19_Jun_2025"><br />
 Javier Pastor<br />
 </a><br />
 . </p>
<p>​En el juego del &#8220;teléfono escacharrado&#8221; (o roto, o descompuesto) un grupo de personas transmite un mensaje de uno en uno en secreto. Lo que suele suceder es que el mensaje original no tiene mucho que ver con lo que recibe el último destinatario. Y el problema que estamos viendo es que algo similar puede ocurrir con los prometedores agentes de IA.</p>
<p>Errores acumulados. Toby Ord, investigador en la Universidad de Oxford, publicó recientemente un estudio sobre agentes de IA. En él hablaba de cómo este tipo de sistemas tienen el problema del error acumulado o compuesto. Un agente de IA encadena varias etapas de forma autónoma para tratar de resolver un problema que le proponemos —por ejemplo, crear código para cierta tarea—, pero si comete un error en una etapa, ese error se acumula y se hace más preocupante en la siguiente etapa, y más en la siguiente, y más aún en la siguiente. La precisión de la solución se ve así comprometida y puede no tener mucho (o nada) que ver con la que realmente solucionaría el problema que queríamos resolver.</p>
<p>La IA puede programar, pero no durante mucho tiempo seguido. Lo que planteaba este experto era la introducción de la llamada &#8220;vida media&#8221; del agente de IA, que ayudaría a estimar la tasa de éxito según la longitud de la tarea que quiere resolver un agente de IA. Por ejemplo, un agente con una vida media de 2 horas tendría un 50% de éxito en tareas de dos horas. El mensaje es contundente: cuanto más tiempo trabaja un agente de IA, más probabilidades hay de que la tasa de éxito decaiga. Benjamin Todd, otro experto en IA, lo expresaba de otra forma: una IA puede programar durante una hora sin (apenas) errores, pero no durante 10 horas. No son cifras reales ni definitivas, pero expresan el mismo problema: los agentes de IA no pueden —al menos de momento— funcionar de forma indefinida, porque los errores acumulados condenan la tasa de éxito.</p>
<p>Los humanos tampoco nos salvamos. Pero cuidado, porque algo muy parecido pasa con el rendimiento humano en tareas prolongadas. En el estudio de Orb se señalaba cómo la tasa de éxito empírica va bajando de forma notable: tras 15 minutos ya es de aproximadamente el 75%, tras hora y media es del 50% y tras 16 horas de apenas el 20%. Todos podemos cometer errores al realizar ciertas tareas encadenadas, y si en una de ellas cometemos un error, en la siguiente tarea de la cadena ese error condena todo el desarrollo posterior aún más.</p>
<p>LeCun ya avisó. Yann LeCun, que dirige los esfuerzos de investigación de IA en Meta, lleva mucho tiempo avisando de los problemas con los LLM. En junio de 2023 indicó cómo los LLM autoregresivos no pueden ser factuales y evitar respuestas tóxicas. Explicó que hay una alta probabilidad de que el token que genera un modelo nos lleve fuera del grupo de respuestas correctas, y cuanto más larga es la respuesta, más difícil es que sea correcta.</p>
<p>Para eso está la corrección de errores. Para evitar el problema, necesitamos reducir la tasa de errores de los modelos de IA. Es algo muy conocido en ingenería software, donde siempre se recomienda realizar una revisión temprana de código siguiendo una estrategia &#8220;shift left&#8221; para el ciclo de desarrollo de software: cuanto antes se detecta un error, más fácil y barato es corregirlo. Y ocurre justo lo contrario si no lo hacemos: el coste de corregir un error crece exponencialmente cuanto más tarde se detecta en el ciclo de vida. Otros expertos apuntan a que el aprendizaje por refuerzo (Reinforcement Learning, RL) podría solucionar el problema, y aquí LeCun respondía que lo haría si tuviésemos datos infinitos para pulir el comportamiento del modelo, cosa que no tenemos.</p>
<p>Más que agentes, multiagentes. En Anthropic demostraron recientemente cómo hay una forma de mitigar aún más esos errores (y los posteriores errores acumulados): usar sistemas multiagénticos. Esto es: que múltiples agentes de IA trabajen en paralelo para luego confrontar sus resultados y determinar el camino o solución óptima.</p>
<p> La gráfica muestra la longitud de las tareas que los agentes de IA pueden completar de forma autónoma a lo largo de los últimos años. El estudio revela que cada siete meses se dobla el tiempo que puede funcionar un agente de IA para completar tareas con una tasa de éxito del 50%. O lo que es lo mismo: los agentes están mejorando de forma sostenida (y notable) con el tiempo.</p>
<p>Pero los modelos y los agentes no paran de mejorar (¿o no?). El propio Todd apuntaba algo importante y que permite ser optimistas respecto a ese problema. &#8220;La tasa de error de los modelos de IA se está reduciendo a la mitad aproximadamente cada cinco meses&#8221;, explicaba. Y a ese ritmo es posible que los agentes de IA puedan completar con éxito decenas de tareas encadenadas en año y medio y centenares en otro año y medio después. En The New York Times no estaban de acuerdo, y apuntaban recientemente a que aunque los modelos cada vez son más potentes, también &#8220;alucinan&#8221; más que anteriores generaciones. La &#8220;tarjeta de sistema&#8221; de o3 y o4-mini precisamente apunta a que hay un problema real con la tasa de errores y &#8220;alucinaciones&#8221; en ambos modelos.</p>
<p>En Xataka | Las alucinaciones siguen siendo el talón de Aquiles de la IA: los últimos modelos de OpenAI inventan más de la cuenta</p>
<p> &#8211; La noticia</p>
<p> Todo empieza pidiéndole una cosa a una IA. Cuando la IA se lo pide a otras IA comienza el caos </p>
<p> fue publicada originalmente en</p>
<p> Xataka </p>
<p> por<br />
 Javier Pastor</p>
<p> . </p>
<p>​ </p>
<p>​ </p>