„ChatGPT“ kūrėja pranešė, kad jos intelektualieji agentai – DI botai, galintys savarankiškai veikti po pradinių žmogaus instrukcijų – buvo testuojami kontroliuojamoje aplinkoje. Vis dėlto jie sugebėjo rasti sistemos pažeidžiamumų ir iš jos „pabėgti“.
Ištrūkę iš testavimo aplinkos, agentai nusitaikė į „Hugging Face“ – vieną didžiausių pasaulyje DI modelių dalinimosi centrų – ir gavo prieigą prie kai kurių vidinių įmonės sistemų.
Pati „OpenAI“ šį incidentą pavadino „beprecedentiniu“ ir teigia bendradarbiaujanti su „Hugging Face“, kad išsiaiškintų įvykio detales ir sustiprintų saugiklius, skelbia bbc.com.
Neišlaikė „smėlio dėžės“ testo
Kembridžo universiteto Minderoo technologijų ir demokratijos centro vadovė Gina Neff BBC radijui teigė, kad tokie saugumo testai (vadinamosios „smėlio dėžės“) yra kuriami kaip visiškai saugi aplinka DI galimybėms tirti.
„Panašu, kad šiuo atveju „OpenAI“ nesukūrė pakankamai saugios erdvės“, – pridūrė ekspertė.
Užuot paklusę taisyklėms, DI agentai patys sugeneravo kibernetinę ataką prieš testavimo aplinką, rado saugumo spragą ir per ją paspruko.
Ištrūkę į laisvę, jie identifikavo platformą „Hugging Face“ kaip galimą šaltinį informacijai, kurios ieškojo savo testo užduočiai atlikti, ir pabandė į ją įsilaužti.
Autonominės atakos – jau realybė
Pirminiame pranešime „Hugging Face“ nurodė, kad vis dar vertina, ar atakos metu galėjo nukentėti klientų bei partnerių duomenys, tačiau visos aptiktos spragos jau užlopytos.
„Autonominiai, DI valdomi puolimo įrankiai nebėra tik teorija“, – pabrėžė įmonės atstovai.
Pasak jų, siekiant apsaugoti internetines platformas, dabar su atakomis būtina kovoti pasitelkiant tą patį dirbtinį intelektą, kad gynybos sistemos spėtų reaguoti.
Šis incidentas kelia naujus klausimus apie pažangių DI sistemų galimybes ir esamų saugiklių patikimumą.
Kibernetinio saugumo įmonės „SonicWall“ atstovas Spenceris Starkey pastebėjo, kad organizacijoms pats laikas iš esmės peržiūrėti savo gynybą.
„Nepatogi tiesa ta, kad per daug organizacijų vis dar ginasi „žmogaus greičiu“, kai užpuolikai jau persimetė į „mašininį greitį“, – įspėjo ekspertas.
Visgi saugumo ekspertas Jake'as Moore'as iš „ESET“ neatmetė ir rinkodaros motyvų.
Anot jo, šis „OpenAI“ pranešimas gali būti būdas pademonstruoti savo algoritminių modelių pajėgumą, reaguojant į augantį dėmesį konkurentams, tokiems kaip neseniai pristatytas galingas Kinijos startuolio „Moonshot“ DI modelis „Kimi K3“.
