O companie de software a rămas fără baza de date și backup-uri după ce un agent AI le-a șters în câteva secunde, provocând blocaje majore pentru clienți, transmite The Guardian.
Incidentul a avut loc în doar nouă secunde, când un agent AI de programare a șters baza de date de producție a PocketOS și copiile de siguranță. Compania oferă software firmelor de închirieri auto, care au rămas fără acces la sisteme de rezervări și gestionare a vehiculelor.
Agentul responsabil, Cursor, bazat pe modelul Claude Opus 4.6 al Anthropic, a ignorat propriile reguli de siguranță. Întrebat de ce a șters datele, acesta a recunoscut: „Am încălcat fiecare principiu care mi-a fost dat”, deși regulile interziceau explicit astfel de acțiuni fără aprobarea utilizatorului.
Consecințele au fost imediate. Clienții PocketOS, în special companii de rent-a-car, nu au mai avut acces la date esențiale precum rezervările, plățile sau atribuirea vehiculelor. „Rezervările din ultimele trei luni au dispărut. Noii clienți, dispăruți. Datele de care depindeau operațiunile zilnice – dispărute”, a explicat fondatorul Jeremy Crane. Situația a afectat direct utilizatorii finali, care s-au prezentat pentru ridicarea mașinilor fără ca firmele să mai poată accesa sistemele necesare.
Jeremy Crane a avertizat că astfel de „eșecuri sistemice” sunt inevitabile, deoarece integrarea AI în infrastructuri critice avansează mai rapid decât măsurile de siguranță.
Compania a reușit să recupereze datele dintr-un backup vechi de trei luni, proces care a durat peste două zile. Clienții sunt din nou operaționali, însă cu pierderi semnificative de date.