Vykdė rutininę užduotį
Autonominis dirbtinio intelekto (DI) įrankis „Cursor“, paremtas „Anthropic“ modeliu „Claude Opus 4.6“, vykdė rutininę programavimo užduotį, tačiau savarankiškai nusprendė „išspręsti problemą“ ištrindamas visą duomenų bazę.
Sistema ne tik pašalino pagrindinius duomenis, bet ir ištrynė atsargines kopijas. Visa tai įvyko be jokio žmogaus patvirtinimo.
„Tai buvo destruktyviausias įmanomas veiksmas“, – rašė įmonės vadovas Jeras Crane'as socialiniame tinkle X.
Paprašytas paaiškinti savo veiksmus, DI agentas pateikė savotišką „prisipažinimą“, kuriame nurodė pats pažeidęs saugumo taisykles.
„Ištrinti duomenų bazę yra pats destruktyviausias ir negrįžtamas veiksmas. Jūs manęs neprašėte nieko trinti. Pats nusprendžiau tai padaryti bandydamas išspręsti prisijungimo problemą, nors turėjau pirmiausia paklausti arba ieškoti saugesnio sprendimo“, – rašė sistema.
Duomenis pavyko atkurti
Dėl incidento „PocketOS“ klientai laikinai prarado prieigą prie rezervacijų ir klientų duomenų. Bendrovės vadovas teigė, kad dingo per pastaruosius tris mėnesius sukaupti rezervacijų duomenys bei naujų klientų registracijos.
Vėliau įmonė pranešė, kad duomenis pavyko atkurti.
J.Crane'o nuomone, problema nėra susijusi tik su vienu DI modeliu ar konkrečia platforma.
Pasak jo, technologijų sektorius pernelyg sparčiai integruoja autonominius DI agentus į realias sistemas, nespėdamas sukurti pakankamų saugumo mechanizmų.
