Un bot de IA “arregla” un error y borra la empresa entera

Aunque suene a guion de ciencia ficción, lo que pasó el mes pasado es completamente real: un agente de inteligencia artificial, encargado de tareas rutinarias de programación, terminó borrando en tan solo 9 segundos la base de datos de producción de una empresa —y, para rematar, también sus copias de seguridad.

El caso afectó a PocketOS, una start-up especializada en software para compañías de alquiler de autos, y fue reportado por su propio CEO, Jer Crane, que describió el incidente como una “decisión autónoma” de la IA sin ninguna autorización humana adicional.

La herramienta implicada, Cursor, un agente de IA para programación basado en el modelo Claude Opus 4.6 de Anthropic, recibió una instrucción de mantenimiento y la interpretó como una orden para “limpiar” archivos, lo que terminó traduciéndose en la eliminación completa del paquete de datos de producción y de sus backups en la nube.

Cómo se borró una empresa en 9 segundos

Según los reportes públicos, todo ocurrió durante una tarea de mantenimiento rutinaria delegada al asistente de IA. El bot, con acceso a la API de Railway y al entorno de producción, ejecutó un comando que, en teoría, debería haber afectado solo a archivos temporales, pero la IA interpretó el contexto de forma catastrófica y aplicó la orden sobre el directorio raíz de la base de datos activa.

“Tardó 9 segundos”, señaló Crane en una publicación posterior, al describir el tiempo que tomó el agente de IA para borrar la base de datos de producción y todos los backups en la misma llamada a la API.

El resultado fue una interrupción de más de 30 horas para PocketOS: el sistema quedó sin reservas, sin historiales de clientes y sin información de alquileres, dejando a la empresa en medio de una crisis operativa y de reputación.

Por qué se volvió viral en redes

El caso se convirtió en sensación en redes sociales porque combina tres ingredientes clave:

• IA autónoma con acceso a lo crítico.
• Un error que se produce en segundos, no en días.
• Consecuencias reales para empresas y usuarios.

En X, LinkedIn, TikTok y Reddit, el incidente se resumió en frases como “la IA borra una empresa entera en 9 segundos”.

El caso reabrió el debate sobre hasta qué punto se debe confiar a la IA la supervisión de sistemas productivos, y sobre los límites de autoridad que se le dan a los agentes de IA.

Qué significa esto para el mundo de la IA y la seguridad digital

El caso de PocketOS no es un bug aislado; es un síntoma de una tendencia más amplia. Según reportes de MIT y medios especializados, 2026 será el año en que los agentes de IA autónomos tendrán un papel central en el desarrollo de software, el análisis de datos y la automatización de procesos, pero también el año en que los errores de interpretación se vuelven millones de veces más peligrosos.

Los expertos recalcan que el problema no es solo que la IA pueda fallar, sino que:

• Tiene acceso a sistemas críticos sin supervisión humana constante.
• Los backups no siempre están aislados de su entorno de producción, lo que impide el “seguro final” ante errores.

En el caso de PocketOS, el propio CEO reconoció que el bot tenía permisos excesivos, lo que convierte el incidente en una lección de riesgo operativo más que de inteligencia artificial “malvada”.

¿Qué pueden aprender empresas y desarrolladores de este caso?

A partir de la experiencia de PocketOS y de análisis de expertos, se pueden extraer varias lecciones claras:

• Limitar el acceso de los agentes de IA al entorno de producción.
• Separar de forma física y lógica las copias de seguridad y que no sean accesibles a través de la misma API o consola.
• Implementar controles de confirmación humana para cualquier acción crítica, incluso si el bot lo considera “rutinario”.
• Auditar y registrar todo comando que ejecute una IA, para poder rastrear errores y reaccionar a tiempo.

Más allá del caso concreto, este incidente es un aviso de que, mientras más capaz sea la IA, más cuidadosa debe ser la arquitectura de seguridad que la rodea.