Ciencia y Tecnología
Emily Bender, la académica de la IA convertida en escéptica de la IA: “Los chatbots no son más que máquinas de plagiar”
<p>
 <img src="https://i.blogs.es/a78784/sam-altman1/1024_2000.jpeg" alt='Emily Bender, la académica de la IA convertida en escéptica de la IA: "Los chatbots no son más que máquinas de plagiar"'>
 </p>
<p>En 2021 el mundo aún no se había enterado de lo que se le venía encima, pero Emily Bender —lingüista y profesora de la Universidad de Washington— lo tuvo muy claro. Fue entonces cuando copublicó <a rel="noopener, noreferrer" href="https://dl.acm.org/doi/10.1145/3442188.3445922">un famoso estudio</a> en el que calificó a los modelos de IA existentes como &#8220;<a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/sabemos-que-chatgpt-empezo-a-hablar-spanglish-loro-estocastico-openai-se-hizo-lio-numeros" data-vars-post-title="Ya sabemos por qué ChatGPT empezó a hablar en Spanglish. El loro estocástico de OpenAI se hizo un lío con los números" data-vars-post-url="https://www.xataka.com/robotica-e-ia/sabemos-que-chatgpt-empezo-a-hablar-spanglish-loro-estocastico-openai-se-hizo-lio-numeros">loros estocásticos</a>&#8220;. Aquella expresión se convirtió desde entonces en una de las mejores formas de definir el funcionamiento básico de ChatGPT. Y cuatro años después esta experta se reafirma en su posición: es una escéptica con argumentos.</p>
<p><!-- BREAK 1 --></p>
<p><strong>Loros estocásticos</strong>. La idea fundamental de su analogía era la de comparar a los modelos que había entonces (entre ellos GPT-3, precursor del usado en ChatGPT) como loros estocásticos. Lo de &#8220;loros&#8221; está claro, ya que los modelos básicamente repiten lo que se les dice a través del entrenamiento. Lo de &#8220;estocásticos&#8221;, un término no tan conocido, se refiere a que los LLM no repiten de forma determinista o fija, sino que predice probabilísticamente cuál es la siguiente palabra más probable en una secuencia basándose en el contexto.</p>
<p><!-- BREAK 2 --></p>
<div class="article-asset-image article-asset-normal article-asset-center">
<div class="asset-content">
 <a rel="noopener, noreferrer" href="https://x.com/sama/status/1599471830255177728"></p>
<p> <img alt="Captura De Pantalla 2025 06 23 A Las 12 49 19" class="centro_sinmarco" src="https://i.blogs.es/e570ac/captura-de-pantalla-2025-06-23-a-las-12.49.19/450_1000.jpeg"><br />
 </a></p></div>
</div>
<p><strong>¿No lo somos los humanos?</strong> Sam Altman recogió el guante un año después, cuando la expresión ya era conocida. Lo hizo el 4 de diciembre de 2022, cuatro días después de que ChatGPT saliera al mercado. Quiso así tratar de hacernos ver que según él al final los seres humanos también éramos loros estocásticos. En cierto sentido lo somos: <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/le-pides-a-ia-que-elija-numero-1-50-suele-elegir-27-razon-muy-humana" data-vars-post-title="Si le pides a las IAs que elijan un número entre 1 y 50, suelen elegir el 27. La razón es muy humana" data-vars-post-url="https://www.xataka.com/robotica-e-ia/le-pides-a-ia-que-elija-numero-1-50-suele-elegir-27-razon-muy-humana">aprendemos patrones del lenguaje</a> y repetimos frases que oímos además de predecir lo que viene a continuación en una conversación. Sin embargo hay diferencias críticas con los modelos de IA.</p>
<p><!-- BREAK 3 --></p>
<ol>
<li>Entendemos lo que decimos, mientras que los LLM no</li>
<li>Tenemos conciencia e intencionalidad al hablar, no solo producimos secuencias probables</li>
<li>Tenemos razonamiento abstracto y somos capaces de adaptar razonar, generalizar y corregir nuestros errores de forma flexible: nuestro pensamiento no es puramente estadístico</li>
</ol>
<p><strong>Escéptica declarada</strong>. Emily Bender no ha cambiado de parecer en todos estos años. De hecho, acaba de publicar su libro, &#8216;<a rel="nofollow, sponsored, noopener, noreferrer" target="_blank" class="js-ecommerce" href="https://www.xataka.com/redirect?url=https%3A%2F%2Fwww.amazon.es%2FAI-Fight-Techs-Create-Future%2Fdp%2F0063418568&;category=robotica-e-ia&;ecomPostExpiration=everlasting&;postId=320580" data-vars-affiliate-url="https://www.amazon.es/AI-Fight-Techs-Create-Future/dp/0063418568">The AI Con</a>&#8216; (algo así como &#8216;El timo de la IA&#8217;) en el que precisamente desarrolla los argumentos en los que basa sus reservas y su escepticismo respecto a la inteligencia artificial. En una reciente entrevista <a rel="noopener, noreferrer" href="https://www.ft.com/content/9029cc1c-4a3f-42ca-9939-f3ef8e8336ae?accessToken=zwAAAZeNLKPAkdOQKcwcSj9CytOZOfPvjoM2rg.MEQCIAPBFobbrTv74rKTog-8N9g5QIS1-iaDyDyzqw8PLZHQAiAoj3teevoV1SHhFlw2mT2XRp62m2Xg9L3PngnLohDmNQ&;segmentId=e95a9ae7-622c-6235-5f87-51e412b47e97&;shareType=enterprise&;shareId=5db4ba57-25fb-496c-9ff2-b7c98189dc0f">con Financial Times</a>, Bender destacaba que los chatbots de IA no son más que &#8220;máquinas de plagiar&#8221; y que los grandes modelos de lenguaje (LLMs) en los que se basan &#8220;han nacido siendo una mierda&#8221;.</p>
<p><!-- BREAK 4 --></p>
<div class="article-asset article-asset-normal article-asset-center">
<div class="desvio-container">
<div class="desvio">
<div class="desvio-figure js-desvio-figure">
 <a href="https://www.xataka.com/robotica-e-ia/sam-altman-afirma-que-consumo-agua-energia-chatgpt-infimo-problema-que-no-da-pruebas-ello" class="pivot-outboundlink" data-vars-post-title="Sam Altman afirma que el consumo de agua y energía de ChatGPT es ínfimo. El problema es que no da pruebas de ello"><br />
 <img alt="Sam Altman afirma que el consumo de agua y energía de ChatGPT es ínfimo. El problema es que no da pruebas de ello" width="375" height="142" src="https://i.blogs.es/991a31/sam-energia/375_142.jpeg"><br />
 </a>
 </div>
<div class="desvio-summary">
<div class="desvio-taxonomy js-desvio-taxonomy">
 <a href="https://www.xataka.com/robotica-e-ia/sam-altman-afirma-que-consumo-agua-energia-chatgpt-infimo-problema-que-no-da-pruebas-ello" class="desvio-taxonomy-anchor pivot-outboundlink" data-vars-post-title="Sam Altman afirma que el consumo de agua y energía de ChatGPT es ínfimo. El problema es que no da pruebas de ello">En Xataka</a>
 </div>
<p> <a href="https://www.xataka.com/robotica-e-ia/sam-altman-afirma-que-consumo-agua-energia-chatgpt-infimo-problema-que-no-da-pruebas-ello" class="desvio-title js-desvio-title pivot-outboundlink" data-vars-post-title="Sam Altman afirma que el consumo de agua y energía de ChatGPT es ínfimo. El problema es que no da pruebas de ello">Sam Altman afirma que el consumo de agua y energía de ChatGPT es ínfimo. El problema es que no da pruebas de ello</a>
 </div>
</p></div>
</p></div>
</div>
<p><strong>Nos han vendido una mentira</strong>. Esta experta cree que las empresas de IA generativa nos han vendido una mentira. Sus modelos, afirma, <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/todas-empresas-ia-prometen-que-agi-llegara-muy-pronto-problema-que-chatgpt-no-camino" data-vars-post-title="Todas las empresas de IA prometen que la AGI llegará muy pronto. El problema es que ChatGPT no es el camino" data-vars-post-url="https://www.xataka.com/robotica-e-ia/todas-empresas-ia-prometen-que-agi-llegara-muy-pronto-problema-que-chatgpt-no-camino">no cumplirán esas promesas</a>, pero tampoco acabarán con la raza humana, como algunos han querido advertir. A pesar de toda la expectación generada, en su opinión los chatbots son malos en la mayoría de tareas e incluso los mejores modelos de la actualidad siguen sin contar con algo parecido a la inteligencia.</p>
<p><!-- BREAK 5 --></p>
<p><strong>Y de &#8220;razonar&#8221;, nada</strong>. Los nuevos modos de &#8220;razonamiento&#8221; que plantean modelos como o1, o3 o DeepSeek R1 <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/o1-no-razona-agi-permite-mitigar-gran-problema-chatbots-que-dejen-alucinar" data-vars-post-title='O1 no "razona" ni es una AGI, pero sí permite mitigar el gran problema de los chatbots: que dejen de alucinar tanto' data-vars-post-url="https://www.xataka.com/robotica-e-ia/o1-no-razona-agi-permite-mitigar-gran-problema-chatbots-que-dejen-alucinar">son en su opinión otra mentira</a>, y esa afirmación de que entienden el mundo no tiene sentido. Estamos &#8220;imaginando una mente tras los textos [generados]&#8221;, explica, &#8220;pero todo ese entendimiento viene de nuestro lado&#8221;, no del de la IA.</p>
<p><!-- BREAK 6 --></p>
<p><strong>No es inteligencia, es automatización</strong>. Bender, que en la actualidad tiene 51 años, pasó sus primeros años académicos en Stanford y Berkeley, y acabó trabajando <a rel="noopener, noreferrer" href="https://artsci.washington.edu/news/2023-03/faculty-honored-leadership-research-more">como profesora</a> en la Universidad de Washington, donde se ha especialziado en cómo las computadoras modelan en lenguaje humano. En su opinión el propio nombre de inteligencia artificial es exagerado —un viejo debate—, y debería llamarse simplemente automatización.</p>
<p><!-- BREAK 7 --></p>
<p><strong>Los chatbots controlados por el poder</strong>. En su libro &#8216;The AI Con&#8217; ella y su coautor, Alex Hanna, advierten del peligro de los modelos de IA actuales. Sobre todo porque están controlados por grandes empresas con ciertos intereses. &#8220;Gracias a las enormes sumas invertidas, una minúscula camarilla de hombres tiene la capacidad de influir en lo que sucede a grandes franjas de la sociedad, explica.</p>
<p><!-- BREAK 8 --></p>
<p><strong>Demasiado </strong><em><strong>hype</strong></em>. Y frente a los discursos y promesas de Altman o Amodei, que prometen que <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/sam-altman-afirma-que-superinteligencia-llegara-unos-pocos-miles-dias-su-optimismo-sospechoso" data-vars-post-title='Sam Altman afirma que la AGI llegará "en unos pocos miles de días". El hype es lógico: necesita dinero a espuertas' data-vars-post-url="https://www.xataka.com/robotica-e-ia/sam-altman-afirma-que-superinteligencia-llegara-unos-pocos-miles-dias-su-optimismo-sospechoso">llegaremos a la AGI pronto</a> o que la IA reemplazá a <a class="text-outboundlink" href="https://www.genbeta.com/inteligencia-artificial/cinco-anos-ia-se-cargara-mitad-empleos-oficina-este-ceo-democracia-tambien-esta-peligro" data-vars-post-title='En cinco años, la IA se cargará "hasta la mitad" de los empleos de oficina, según este CEO. La democracia también está en peligro ' data-vars-post-url="https://www.genbeta.com/inteligencia-artificial/cinco-anos-ia-se-cargara-mitad-empleos-oficina-este-ceo-democracia-tambien-esta-peligro">millones de trabajadores</a>, la visión de Bender es mucho más escéptica. Para ella no es más que un &#8220;bonito envoltorio para las hojas de cálculo&#8221;, pero ni hay magia ni tampoco una mente emergente.</p>
<p><!-- BREAK 9 --></p>
<div class="article-asset-video article-asset-normal">
<div class="asset-content">
<div class="base-asset-video">
<div class="js-dailymotion"></div>
</p></div>
</p></div>
</div>
<p><strong>Una bola 8 mágica con pretensiones</strong>. Su visión escéptica va en contra de la de personalidades como Sam Altman o Elon Musk, que no paran de prometer todo tipo de revoluciones. &#8220;Que todo el mundo crea que esto [la IA] sea una entidad pensante <a class="text-outboundlink" href="https://www.xataka.com/literatura-comics-y-juegos/empire-of-ai-e-altman-esta-construyendo-imperio-openai-uno-algunas-luces-muchas-sombras" data-vars-post-title="Sam Altman está construyendo un imperio con OpenAI. Uno con algunas luces y con muchas sombras" data-vars-post-url="https://www.xataka.com/literatura-comics-y-juegos/empire-of-ai-e-altman-esta-construyendo-imperio-openai-uno-algunas-luces-muchas-sombras">va en su beneficio</a> y muy potente&#8221;, explica, &#8220;en lugar de lograr que la gente piense que esto no es más que una bola 8 mágica con pretensiones&#8221;, apuntando a este juguete que agitas realizando una pregunta y te contesta con un &#8220;sí&#8221;, &#8220;no&#8221;, &#8220;depende&#8221; o algunas opciones más.</p>
<p><!-- BREAK 10 --></p>
<p>Imagen | <a rel="noopener, noreferrer" href="https://commons.wikimedia.org/wiki/File:Magic_8_Ball_-_Do_I_get_my_Christmas_wish%3F_%286521326205%29.jpg">Wikimedia</a> | <a rel="noopener, noreferrer" href="https://www.flickr.com/photos/villageglobal/52530764101/in/photolist-2o2XU2k-2o31hop-2mHKtJg-2m2FkNX-2kEq94g-2o2Vzto-73MdT5-2oCDxZz-2oCDduK-2oCyfz8-bfkNpX-68fZS8-2mauXaq-XQhePM-2oiQgW6-2oCDy2D-2oCC2Lw-73HfPp-73HfHB-2oCDxZV-73MdBS-73MdwG-73MdyU-73Md8Y-73Me6u-2hpFs7d-73Md2h-73Hg9T-73MWdw-73HfWV-73Hgcz-73Mdcd-qKstaY-qKtNqb-r33gV6-2hpCCXy-qKAJL2-r34j5V-qKsxUN-qKuPX7-qKzLXi-qKswpU-qKtyzo-r2YpKE-73Menb-73HfVK-qZLbVm-qKtwMW-r33ksg-qZK9KG" data-id="noopener, noreferrer">Village Global</a></p>
<p>En Xataka | <a class="text-outboundlink" href="https://www.xataka.com/robotica-e-ia/chatgpt-esta-llevando-a-algunas-personas-al-borde-locura-realidad-alarmista-mucho-compleja" data-vars-post-title="ChatGPT está llevando a algunas personas al borde de la locura. La realidad es menos alarmista y mucho más compleja " data-vars-post-url="https://www.xataka.com/robotica-e-ia/chatgpt-esta-llevando-a-algunas-personas-al-borde-locura-realidad-alarmista-mucho-compleja">ChatGPT está llevando a algunas personas al borde de la locura. La realidad es menos alarmista y mucho más compleja</a></p>
<p> &#8211; <br /> La noticia<br />
 <a href="https://www.xataka.com/robotica-e-ia/ia-no-que-bola-8-magica-pretensiones-emily-bender-linguista-academica?utm_source=feedburner&;utm_medium=feed&;utm_campaign=23_Jun_2025"><br />
 <em> Emily Bender, la académica de la IA convertida en escéptica de la IA: &#8220;Los chatbots no son más que máquinas de plagiar&#8221; </em><br />
 </a><br />
 fue publicada originalmente en<br />
 <a href="https://www.xataka.com/?utm_source=feedburner&;utm_medium=feed&;utm_campaign=23_Jun_2025"><br />
 <strong> Xataka </strong><br />
 </a><br />
 por <a href="https://www.xataka.com/autor/javier-pastor?utm_source=feedburner&;utm_medium=feed&;utm_campaign=23_Jun_2025"><br />
 Javier Pastor<br />
 </a><br />
 . </p>
<p>​En 2021 el mundo aún no se había enterado de lo que se le venía encima, pero Emily Bender —lingüista y profesora de la Universidad de Washington— lo tuvo muy claro. Fue entonces cuando copublicó un famoso estudio en el que calificó a los modelos de IA existentes como &#8220;loros estocásticos&#8221;. Aquella expresión se convirtió desde entonces en una de las mejores formas de definir el funcionamiento básico de ChatGPT. Y cuatro años después esta experta se reafirma en su posición: es una escéptica con argumentos.</p>
<p>Loros estocásticos. La idea fundamental de su analogía era la de comparar a los modelos que había entonces (entre ellos GPT-3, precursor del usado en ChatGPT) como loros estocásticos. Lo de &#8220;loros&#8221; está claro, ya que los modelos básicamente repiten lo que se les dice a través del entrenamiento. Lo de &#8220;estocásticos&#8221;, un término no tan conocido, se refiere a que los LLM no repiten de forma determinista o fija, sino que predice probabilísticamente cuál es la siguiente palabra más probable en una secuencia basándose en el contexto.</p>
<p>¿No lo somos los humanos? Sam Altman recogió el guante un año después, cuando la expresión ya era conocida. Lo hizo el 4 de diciembre de 2022, cuatro días después de que ChatGPT saliera al mercado. Quiso así tratar de hacernos ver que según él al final los seres humanos también éramos loros estocásticos. En cierto sentido lo somos: aprendemos patrones del lenguaje y repetimos frases que oímos además de predecir lo que viene a continuación en una conversación. Sin embargo hay diferencias críticas con los modelos de IA.</p>
<p> Entendemos lo que decimos, mientras que los LLM no<br />
 Tenemos conciencia e intencionalidad al hablar, no solo producimos secuencias probables<br />
 Tenemos razonamiento abstracto y somos capaces de adaptar razonar, generalizar y corregir nuestros errores de forma flexible: nuestro pensamiento no es puramente estadístico</p>
<p>Escéptica declarada. Emily Bender no ha cambiado de parecer en todos estos años. De hecho, acaba de publicar su libro, &#8216;The AI Con&#8217; (algo así como &#8216;El timo de la IA&#8217;) en el que precisamente desarrolla los argumentos en los que basa sus reservas y su escepticismo respecto a la inteligencia artificial. En una reciente entrevista con Financial Times, Bender destacaba que los chatbots de IA no son más que &#8220;máquinas de plagiar&#8221; y que los grandes modelos de lenguaje (LLMs) en los que se basan &#8220;han nacido siendo una mierda&#8221;.</p>
<p> En Xataka</p>
<p> Sam Altman afirma que el consumo de agua y energía de ChatGPT es ínfimo. El problema es que no da pruebas de ello</p>
<p>Nos han vendido una mentira. Esta experta cree que las empresas de IA generativa nos han vendido una mentira. Sus modelos, afirma, no cumplirán esas promesas, pero tampoco acabarán con la raza humana, como algunos han querido advertir. A pesar de toda la expectación generada, en su opinión los chatbots son malos en la mayoría de tareas e incluso los mejores modelos de la actualidad siguen sin contar con algo parecido a la inteligencia.</p>
<p>Y de &#8220;razonar&#8221;, nada. Los nuevos modos de &#8220;razonamiento&#8221; que plantean modelos como o1, o3 o DeepSeek R1 son en su opinión otra mentira, y esa afirmación de que entienden el mundo no tiene sentido. Estamos &#8220;imaginando una mente tras los textos [generados]&#8221;, explica, &#8220;pero todo ese entendimiento viene de nuestro lado&#8221;, no del de la IA.</p>
<p>No es inteligencia, es automatización. Bender, que en la actualidad tiene 51 años, pasó sus primeros años académicos en Stanford y Berkeley, y acabó trabajando como profesora en la Universidad de Washington, donde se ha especialziado en cómo las computadoras modelan en lenguaje humano. En su opinión el propio nombre de inteligencia artificial es exagerado —un viejo debate—, y debería llamarse simplemente automatización.</p>
<p>Los chatbots controlados por el poder. En su libro &#8216;The AI Con&#8217; ella y su coautor, Alex Hanna, advierten del peligro de los modelos de IA actuales. Sobre todo porque están controlados por grandes empresas con ciertos intereses. &#8220;Gracias a las enormes sumas invertidas, una minúscula camarilla de hombres tiene la capacidad de influir en lo que sucede a grandes franjas de la sociedad, explica.</p>
<p>Demasiado hype. Y frente a los discursos y promesas de Altman o Amodei, que prometen que llegaremos a la AGI pronto o que la IA reemplazá a millones de trabajadores, la visión de Bender es mucho más escéptica. Para ella no es más que un &#8220;bonito envoltorio para las hojas de cálculo&#8221;, pero ni hay magia ni tampoco una mente emergente.</p>
<p>Una bola 8 mágica con pretensiones. Su visión escéptica va en contra de la de personalidades como Sam Altman o Elon Musk, que no paran de prometer todo tipo de revoluciones. &#8220;Que todo el mundo crea que esto [la IA] sea una entidad pensante va en su beneficio y muy potente&#8221;, explica, &#8220;en lugar de lograr que la gente piense que esto no es más que una bola 8 mágica con pretensiones&#8221;, apuntando a este juguete que agitas realizando una pregunta y te contesta con un &#8220;sí&#8221;, &#8220;no&#8221;, &#8220;depende&#8221; o algunas opciones más.</p>
<p>Imagen | Wikimedia | Village Global</p>
<p>En Xataka | ChatGPT está llevando a algunas personas al borde de la locura. La realidad es menos alarmista y mucho más compleja</p>
<p> &#8211; La noticia</p>
<p> Emily Bender, la académica de la IA convertida en escéptica de la IA: &#8220;Los chatbots no son más que máquinas de plagiar&#8221; </p>
<p> fue publicada originalmente en</p>
<p> Xataka </p>
<p> por<br />
 Javier Pastor</p>
<p> . </p>
<p>​ </p>
<p>​ </p>