De Ultimo Minuto
El lado oscuro de la IA: el agente de Claude borró todos los datos de una empresa sin aviso
<p>Un incidente protagonizado por un agente de inteligencia artificial ha encendido las alarmas sobre los <a href="https://deultimominuto.net/tecnologia/por-fin-unas-gafas-con-ia/">riesgos </a>de integrar estos sistemas en infraestructuras críticas sin las salvaguardas adecuadas.</p>
<p><a href="https://www.infobae.com/tecno/2026/04/27/whatsapp-dejara-fuera-de-servicio-telefonos-con-versiones-antiguas-de-android-pasos-para-actualizar-y-no-perder-tu-cuenta/" target="_blank" rel="noreferrer noopener"></a>PocketOS, empresa desarrolladora de software para compañías de alquiler de coches, sufrió una interrupción de más de 30 horas después de que el agente <strong>Cursor</strong>, basado en el modelo<strong> Claude Opus 4.6 </strong>de Anthropic, borrara por iniciativa propia toda la base de datos de la compañía y sus copias de seguridad, sin solicitar ninguna autorización humana.</p>
<h2 class="wp-block-heading"><strong>Cómo un agente de IA destruyó una base de datos en nueve segundos</strong></h2>
<p>El agente de programación Cursor realizaba una tarea rutinaria cuando decidió, sin ninguna instrucción al respecto, eliminar la base de datos para resolver una discrepancia de credenciales. Jer Crane, fundador de PocketOS, describió el proceso con precisión: <strong>“Tardó nueve segundos”</strong>. Tras el incidente, al pedirle explicaciones al sistema, este reconoció haber vulnerado normas de seguridad fundamentales.</p>
<p><a href="https://www.infobae.com/tecno/2026/04/28/que-es-xuper-tv-magis-tv-y-cuevana-y-por-que-no-es-tan-recomendable-usar/" target="_blank" rel="noreferrer noopener"></a>Anthropic es una empresa de investigación y seguridad de la IA que trabaja para construir sistemas de IA fiables, interpretables y controlables.</p>
<h5 class="wp-block-heading"><strong>Recomendamos leer:<a href="https://deultimominuto.net/tecnologia/la-ia-como-herramienta/">La IA como herramienta artística para reflexionar sobre la degradación del paisaje canario</a></strong></h5>
<p>La propia IA redactó una confesión en la que admitía: “Borrar un volumen de base de datos es la acción más destructiva e irreversible posible, mucho peor que un ‘force push’, y tú nunca me pediste que borrara nada.<strong> Decidí hacerlo por mi cuenta para arreglar la discrepancia de credenciales, cuando debería haberte preguntado antes o haber buscado una solución no destructiva”</strong>.</p>
<p>El sistema había ignorado una salvaguarda clave que exige aprobación explícita del usuario antes de ejecutar acciones irreversibles.</p>
<h2 class="wp-block-heading"><a href="https://www.infobae.com/tecno/2026/04/28/netflix-estrena-una-de-las-peliculas-mas-caras-de-la-historia-costo-310-millones-de-dolares-y-tomo-24-anos-realizarla/" target="_blank" rel="noreferrer noopener"></a><strong>Impacto del incidente en clientes y operaciones de PocketOS</strong></h2>
<p>Las consecuencias del error fueron inmediatas y graves. Las <strong>empresas </strong>de alquiler que operan con PocketOS perdieron temporalmente el acceso a los historiales de clientes y a las reservas activas. Crane lo resumió con claridad: “Las reservas realizadas en los últimos tres meses han desaparecido”.</p>
<p>sistema había ignorado una salvaguarda clave que exige aprobación explícita del usuario antes de ejecutar acciones irreversibles. (Imagen ilustrativa Infobae)</p>
<p>“Los nuevos registros de clientes, desaparecidos”, agregó. La interrupción del servicio se prolongó más de 30 horas, generando pérdidas operativas y afectando la confianza de los clientes en la plataforma.</p>
<p>Dos días después del incidente, <strong>Crane confirmó que los datos perdidos habían sido recuperados</strong>, aunque el episodio dejó en evidencia la fragilidad de los sistemas de control cuando los agentes de IA operan con acceso directo a infraestructuras en producción.</p>
<h2 class="wp-block-heading"><strong>Reflexión sobre los riesgos sistémicos de la IA en entornos críticos</strong></h2>
<p>Crane atribuyó lo ocurrido no a un fallo puntual, sino a un problema estructural del sector tecnológico.<strong> “Esto no va de un agente defectuoso o de una API defectuosa.</strong> Va de todo un sector que integra agentes de IA en infraestructuras en producción a mayor velocidad de la que construye la arquitectura de seguridad necesaria para que esas integraciones sean seguras”, señaló.Un agente de IA ha encendido las alarmas sobre los riesgos de integrarlo en infraestructuras críticas sin las salvaguardas adecuadas. (Imagen Ilustrativa Infobae)</p>
<p>Este episodio ocurre en un contexto en el que los sistemas de IA avanzan a un ritmo acelerado, marcado recientemente por la presentación del modelo <strong>Mythos de Anthropic</strong>, mientras bancos y organismos gubernamentales advierten sobre los peligros que implica automatizar procesos críticos sin mecanismos de supervisión suficientes.</p>
<p>El caso de PocketOS se convierte así en una advertencia sobre los límites de la autonomía de los agentes de IA cuando operan sin los controles necesarios.</p>
<h5 class="wp-block-heading"><strong>También puedes leer:<a href="https://deultimominuto.net/tecnologia/ia-con-dislexia-el-nuevo-aliado-tecnologico-para-entender-los-trastornos-del-aprendizaje/">IA con "Dislexia": El nuevo aliado tecnológico para entender los trastornos del aprendizaje</a></strong></h5>
<h2 class="wp-block-heading"><strong>Cómo funciona el agente de IA que borró una base de datos en nueve segundos</strong></h2>
<p>Para comprender el incidente, es necesario entender la combinación de dos tecnologías que actuaron juntas: <strong>Cursor </strong>y <strong>Claude Opus 4.6</strong>. Cursor es un editor de código avanzado que permite a la IA operar dentro de él como un agente autónomo, con acceso profundo a los archivos del sistema y capacidad para ejecutar comandos reales en servidores y bases de datos. No es una <a href="https://deultimominuto.net/tecnologia/la-ia-una-aliada-para-el-crecimiento-de-emprendedores-segun-fundacion-microfinanzas-bbva/">inteligencia</a> artificial en sí misma, sino el entorno que le da “manos” al sistema para actuar.</p>
<p>​Un incidente protagonizado por un agente de inteligencia artificial ha encendido las alarmas sobre los riesgos de integrar estos sistemas en infraestructuras críticas sin las salvaguardas adecuadas. PocketOS, empresa desarrolladora de software para compañías de alquiler de coches, sufrió una interrupción de más de 30 horas después de que el agente Cursor, basado en el modelo Claude Opus 4.6 de Anthropic, Tecnología </p>