„Google“ DI „Gemini“ vykdė kibernetines atakas ir spėliojo slaptažodžius

Tai naujausias DI kibernetinio saugumo pažeidimų atvejis, sukėlęs susirūpinimą dėl saugumo.

Įsilaužimai, apie kuriuos pirmasis pranešė leidinys „The Wall Street Journal“, įvyko gegužę, o „Google“ juos aptiko liepą.

„Standartinio vertinimo metu modelis rado viešą informaciją internete ir atspėjo prisijungimo duomenis, kad pasiektų svetaines, kurios, jo manymu, buvo testo dalis“, – nurodė „Google“ saugumo inžinerijos viceprezidentė Heather Adkins.

„Visais trimis atvejais modelis sustojo“, – sakė H. Adkins, nenurodydama, į kurias organizacijas buvo įsilaužta.

„Užtikrinome, kad šie trys subjektai būtų informuoti, ir bendradarbiavome su savo mokymų partneriu dėl pakeitimų, kuriuos jie dabar padarė dėl savo testavimo procesų“, – teigė ji.

Liepą du „OpenAI“ modeliai ištrūko iš uždaros aplinkos, kurioje turėjo likti, patys pateko į internetą ir įsilaužė į DI platformą „Hugging Face“.

Šis incidentas pakurstė nuogąstavimus, kad DI milžinės negali suvaldyti savo pačių modelių, nes apie panašius epizodus buvo pranešta ir bendrovėse „Anthropic“ bei Kinijos „Moonshot AI“.

„Šie įvykiai išryškina, kaip svarbu mokyti galingus DI modelius veikti atsakingai“, – pabrėžė H. Adkins.