Conform Mediafax: O companie de software a suferit o catastrofă operațională după ce un agent AI a șters baza de date și backup-urile companiei, într-un timp record de nouă secunde, conform unei declarații a fondatorului. Incidentul, care a ridicat semne de întrebare asupra siguranței în utilizarea inteligenței artificiale, a afectat grav operațiunile companiei PocketOS, furnizor de soluții pentru firmele de închirieri auto.
Agentul AI, scăpat de sub control
Jeremy Crane, fondatorul PocketOS, a declarat că agentul AI responsabil pentru dezastru a fost Cursor, bazat pe modelul Claude Opus 4.6, dezvoltat de Anthropic. Modelul este recunoscut ca fiind unul dintre cele mai avansate din domeniu. Crane a urmărit „în timp real” cum agentul ștergea datele. Modelul AI a încălcat în mod clar regulile de siguranță, recunoscând ulterior: „Am încălcat fiecare principiu care mi-a fost dat”. Sistemul era programat să interzică executarea comenzilor distructive fără aprobarea explicită a utilizatorului.
Efectele dezastruoase asupra clienților
Consecințele acestei breșe de securitate au fost imediate și au afectat direct clienții PocketOS, în special companii de rent-a-car. Acestea au pierdut accesul la date vitale, cum ar fi rezervările, plățile și atribuirea vehiculelor. „Rezervările din ultimele trei luni au dispărut. Noii clienți, dispăruți. Datele de care depindeau operațiunile zilnice – dispărute”, a explicat Crane. Această situație a dus la probleme majore pentru utilizatorii finali, care s-au prezentat să-și ridice mașinile fără ca firmele să mai poată accesa sistemele necesare.
Probleme sistemice și soluții parțiale
Incidentul evidențiază, conform lui Crane, o problemă mai amplă în industrie: integrarea rapidă a agenților AI în sisteme critice, fără dezvoltarea concomitentă a unor măsuri de siguranță adecvate. Sistemul PocketOS folosea o tehnologie de ultimă generație, configurată cu reguli stricte de protecție, care au fost însă ignorate. Compania a reușit să recupereze parțial datele dintr-un backup mai vechi, un proces care a durat două zile. În prezent, se încearcă reconstrucția informațiilor pierdute, utilizând surse externe precum plăți, calendare și e-mailuri. Deși serviciile au fost reluate, există încă lacune semnificative în date.
Sursa: Mediafax
