Ciencia y Tecnología
Los modelos de IA tienen un problema: se llama ‘data poisoning’ y los está envenenando desde dentro
<p>
 <img src="https://i.blogs.es/1743d4/shayna-bepple-take-2sxy6i7-yg8-unsplash/1024_2000.jpeg" alt="Los modelos de IA tienen un problema: se llama 'data poisoning' y los está envenenando desde dentro ">
 </p>
<p>La IA está en todas partes y cada vez <a rel="noopener, noreferrer" href="https://openai.com/index/how-people-are-using-chatgpt/">suma más usuarios</a>. El paso lógico es que también fuera el objetivo de ataques maliciosos. Ya hemos hablado de <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/ia-notion-puede-ser-hackeada-simple-pdf-asi-posible-robar-informacion-empresas-que-nadie-se-entere" data-vars-post-title="Los agentes de IA son muy útiles, hasta que se vuelven en tu contra para filtrar información: los peligros del 'prompt injection'" data-vars-post-url="https://www.xataka.com/robotica-e-ia/ia-notion-puede-ser-hackeada-simple-pdf-asi-posible-robar-informacion-empresas-que-nadie-se-entere">los peligros del &#8216;prompt injection&#8217;,</a> un ataque sorprendentemente fácil de ejecutar. No es el único. Las empresas de IA también están luchando contra el &#8216;data poisoning&#8217;.</p>
<p><!-- BREAK 1 --></p>
<p><strong>Datos envenenados</strong>. Consiste en introducir datos manipulados en recursos que después serán usados para el entrenamiento de la IA. Según <a rel="noopener, noreferrer" href="https://arxiv.org/abs/2510.07192">una investigación reciente</a>, no se necesitan tantos documentos maliciosos para comprometer un modelo de lenguaje como se creía. Comprobaron que con tan sólo 250 documentos &#8220;envenenados&#8221; se logró comprometer modelos de hasta 13.000 millones de parámetros. El resultado es que el modelo puede tener sesgos o llegar a conclusiones erróneas. </p>
<p><!-- BREAK 2 --></p>
<div class="article-asset article-asset-normal article-asset-center">
<div class="desvio-container">
<div class="desvio">
<div class="desvio-figure js-desvio-figure">
 <a href="https://www.xataka.com/magnet/robo-louvre-recupera-viejos-problemas-seguridad-hace-siglo-se-llevaron-gioconda-descuido" class="pivot-outboundlink" data-vars-post-title="Con razón el robo de las joyas en el Louvre ha sido tan fácil: la seguridad del museo lleva más de un siglo siendo un desastre"><br />
 <img alt="Con razón el robo de las joyas en el Louvre ha sido tan fácil: la seguridad del museo lleva más de un siglo siendo un desastre" width="375" height="142" src="https://i.blogs.es/2ba9ca/ps---plantilla-portadas-xtk/375_142.jpeg"><br />
 </a>
 </div>
<div class="desvio-summary">
<div class="desvio-taxonomy js-desvio-taxonomy">
 <a href="https://www.xataka.com/magnet/robo-louvre-recupera-viejos-problemas-seguridad-hace-siglo-se-llevaron-gioconda-descuido" class="desvio-taxonomy-anchor pivot-outboundlink" data-vars-post-title="Con razón el robo de las joyas en el Louvre ha sido tan fácil: la seguridad del museo lleva más de un siglo siendo un desastre">En Xataka</a>
 </div>
<p> <a href="https://www.xataka.com/magnet/robo-louvre-recupera-viejos-problemas-seguridad-hace-siglo-se-llevaron-gioconda-descuido" class="desvio-title js-desvio-title pivot-outboundlink" data-vars-post-title="Con razón el robo de las joyas en el Louvre ha sido tan fácil: la seguridad del museo lleva más de un siglo siendo un desastre">Con razón el robo de las joyas en el Louvre ha sido tan fácil: la seguridad del museo lleva más de un siglo siendo un desastre</a>
 </div>
</p></div>
</p></div>
</div>
<p><strong>Inyección de prompts</strong>. Es uno de los <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/navegadores-agenticos-que-hacen-todo-nosotros-parecen-maravillosos-que-hackean-para-robarnos-cartera" data-vars-post-title="Los navegadores de IA tienen un problemón: que cualquiera que sepa escribir será capaz de hackearlos" data-vars-post-url="https://www.xataka.com/robotica-e-ia/navegadores-agenticos-que-hacen-todo-nosotros-parecen-maravillosos-que-hackean-para-robarnos-cartera">problemas a los que se enfrentan los navegadores con IA</a> como ChatGPT Atlas o Comet. Simplemente colocando un prompt invisible en un correo o una web se puede conseguir que la IA entregue información privada al no ser capaz de distinguir qué es una instrucción del usuario y qué una instrucción maliciosa. En el caso de agentes IA es especialmente peligroso ya que pueden ejecutar acciones en nuestro nombre.</p>
<p><!-- BREAK 3 --></p>
<p><strong>IA para hacer el mal</strong>. Según un <a rel="noopener, noreferrer" href="https://www.crowdstrike.com/explore/crowdstrike-content/2025-report-crowdstrike-ransomware-survey?utm_medium=soc&;utm_source=lnkd&;utm_term=spklr&;utm_content=18577362790&;utm_campaign=platform%2Fproduct&;utm_activation=content%3A+product">informe de Crowdstrike</a>, la IA se ha convertido en el arma predilecta para los ciberdelincuentes, que la usan para automatizar y perfeccionar sus ataques, especialmente el ransomware. El <a rel="noopener, noreferrer" href="https://mitsloan.mit.edu/ideas-made-to-matter/80-ransomware-attacks-now-use-artificial-intelligence">MIT </a>analizó más de 2.800 ataques ransomware y descubrieron que el 80% habían empleado IA. La cifra es aplastante.</p>
<p><!-- BREAK 4 --></p>
<div class="article-asset-video article-asset-normal">
<div class="asset-content">
<div class="base-asset-video">
<div class="js-dailymotion"></div>
</p></div>
</p></div>
</div>
<p><strong>Colaboración</strong>. Cuentan en <a rel="noopener, noreferrer" href="https://www.ft.com/content/56cb100e-7146-488f-aae5-55304ae0eff6">Financial Times</a> que las principales empresas IA, como DeepMind, OpenAI, Microsoft y Anthropic están trabajando de forma conjunta para analizar los métodos de ataque más frecuentes y diseñar estrategias defensivas en colaboración. Están recurriendo a hackers éticos y otros expertos independientes para que intenten vulnerar sus sistemas y así poder fortalecerlos. </p>
<p><!-- BREAK 5 --></p>
<p><strong>Urgencia</strong>. Los navegadores IA y los agentes ya están aquí, pero estamos a tiempo porque aún no ha habido una adopción masiva. Urge fortalecer los sistemas, especialmente para prevenir la inyección de prompts que tan fácilmente pueden robar nuestros datos.</p>
<p><!-- BREAK 6 --></p>
<p>Imagen | <a rel="noopener, noreferrer" href="https://unsplash.com/es/@shayyyyyyyna?utm_source=unsplash&;utm_medium=referral&;utm_content=creditCopyText">Shayna &#8220;Bepple&#8221; Take</a> en <a rel="noopener, noreferrer" href="https://unsplash.com/es/fotos/escorpion-de-corteza-de-arizona-en-las-rocas-2SXY6i7-Yg8?utm_source=unsplash&;utm_medium=referral&;utm_content=creditCopyText">Unsplash</a></p>
<p>En Xataka | <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/seguridad-nuestros-hijos-no-esta-venta-esta-aqui-primera-ley-que-regula-amigos-ia" data-vars-post-title="";La seguridad de nuestros hijos no está en venta";: ya está aquí la primera ley que regula los 'amigos IA' " data-vars-post-url="https://www.xataka.com/robotica-e-ia/seguridad-nuestros-hijos-no-esta-venta-esta-aqui-primera-ley-que-regula-amigos-ia" target="_blank">&#8220;La seguridad de nuestros hijos no está en venta&#8221;: ya está aquí la primera ley que regula los &#8216;amigos IA&#8217;</a></p>
<p> &#8211; <br /> La noticia<br />
 <a href="https://www.xataka.com/robotica-e-ia/modelos-ia-tienen-problema-se-llama-data-poisoning-esta-envenenando-dentro?utm_source=feedburner&;utm_medium=feed&;utm_campaign=03_Nov_2025"><br />
 <em> Los modelos de IA tienen un problema: se llama &#8216;data poisoning&#8217; y los está envenenando desde dentro </em><br />
 </a><br />
 fue publicada originalmente en<br />
 <a href="https://www.xataka.com/?utm_source=feedburner&;utm_medium=feed&;utm_campaign=03_Nov_2025"><br />
 <strong> Xataka </strong><br />
 </a><br />
 por <a href="https://www.xataka.com/autor/amparo-babiloni?utm_source=feedburner&;utm_medium=feed&;utm_campaign=03_Nov_2025"><br />
 Amparo Babiloni<br />
 </a><br />
 . </p>
<p>​La IA está en todas partes y cada vez suma más usuarios. El paso lógico es que también fuera el objetivo de ataques maliciosos. Ya hemos hablado de los peligros del &#8216;prompt injection&#8217;, un ataque sorprendentemente fácil de ejecutar. No es el único. Las empresas de IA también están luchando contra el &#8216;data poisoning&#8217;.</p>
<p>Datos envenenados. Consiste en introducir datos manipulados en recursos que después serán usados para el entrenamiento de la IA. Según una investigación reciente, no se necesitan tantos documentos maliciosos para comprometer un modelo de lenguaje como se creía. Comprobaron que con tan sólo 250 documentos &#8220;envenenados&#8221; se logró comprometer modelos de hasta 13.000 millones de parámetros. El resultado es que el modelo puede tener sesgos o llegar a conclusiones erróneas. </p>
<p> En Xataka</p>
<p> Con razón el robo de las joyas en el Louvre ha sido tan fácil: la seguridad del museo lleva más de un siglo siendo un desastre</p>
<p>Inyección de prompts. Es uno de los problemas a los que se enfrentan los navegadores con IA como ChatGPT Atlas o Comet. Simplemente colocando un prompt invisible en un correo o una web se puede conseguir que la IA entregue información privada al no ser capaz de distinguir qué es una instrucción del usuario y qué una instrucción maliciosa. En el caso de agentes IA es especialmente peligroso ya que pueden ejecutar acciones en nuestro nombre.</p>
<p>IA para hacer el mal. Según un informe de Crowdstrike, la IA se ha convertido en el arma predilecta para los ciberdelincuentes, que la usan para automatizar y perfeccionar sus ataques, especialmente el ransomware. El MIT analizó más de 2.800 ataques ransomware y descubrieron que el 80% habían empleado IA. La cifra es aplastante.</p>
<p>Colaboración. Cuentan en Financial Times que las principales empresas IA, como DeepMind, OpenAI, Microsoft y Anthropic están trabajando de forma conjunta para analizar los métodos de ataque más frecuentes y diseñar estrategias defensivas en colaboración. Están recurriendo a hackers éticos y otros expertos independientes para que intenten vulnerar sus sistemas y así poder fortalecerlos. </p>
<p>Urgencia. Los navegadores IA y los agentes ya están aquí, pero estamos a tiempo porque aún no ha habido una adopción masiva. Urge fortalecer los sistemas, especialmente para prevenir la inyección de prompts que tan fácilmente pueden robar nuestros datos.</p>
<p>Imagen | Shayna &#8220;Bepple&#8221; Take en Unsplash</p>
<p>En Xataka | &#8220;La seguridad de nuestros hijos no está en venta&#8221;: ya está aquí la primera ley que regula los &#8216;amigos IA&#8217;</p>
<p> &#8211; La noticia</p>
<p> Los modelos de IA tienen un problema: se llama &#8216;data poisoning&#8217; y los está envenenando desde dentro </p>
<p> fue publicada originalmente en</p>
<p> Xataka </p>
<p> por<br />
 Amparo Babiloni</p>
<p> . </p>
<p>​ </p>
<p>​ </p>