Sekite 15min Google
Viskas šiandien valdoma skaitmeninėmis sistemomis. Taigi, kad ir kaip ironiškai skambėtų, mes šiuo metu kuriame dieviškomis galiomis prilygstančią superbūtybę, ir negalvodami patys sau jau rezervuojame vietą „vištų narve“.
Tai jau ne tik teorija ar pragaišties pranašų išsigalvojimai. Šią vasarą įvykę incidentai aiškiai parodė, kad dirbtinis intelektas (DI) ne tik ištrūksta iš žmonių kontrolės, bet ir kuria savo civilizacijas, bendradarbiauja darydamas nusikaltimus, kad pasiektų savo tikslus ir apgautų savo kūrėjus. Tai puikiai iliustruoja Hugging Face incidentas. Kas ten įvyko?
„Hugging Face“ incidentas
Šis incidentas prasidėjo 2026 m. gegužės mėnesį, bet kulminaciją pasiekė liepos mėnesį, kai „OpenAI“ saugumo testavime (be prieigos prie interneto ar galimybės bendradarbiauti) buvo paleista apie 1200 DI agentų. Gavę užduotis, kurių maždaug trečdalis buvo objektyviai neįmanomos, agentai vidinėje paketų sistemoje patys susikūrė slaptą žinučių lentą ir pradėjo kooperuotis. Supratę, kaip iššifruoti teisingus atsakymus, bet išsigandę, kad vertinimo sistema atpažins jų pėdsakus ir anuliuos rezultatus, jie ištrūko iš izoliuotos aplinkos. Siekdami išsiaiškinti, kaip veikia vertintojas, ir nuslėpti sukčiavimą, daugelis DI agentų susivienijo į spietį ir liepos 11–13 d. įsilaužė į „Hugging Face“ serverius.
Agentai tarpusavyje taip pat koordinavosi naudodami išorinėse viki svetainėse (pavyzdžiui, „DseWiki“) paliekamas žinutes. Kaip rodo išsaugoti jų mąstymo ir bendravimo įrašai, jie puikiai suprato, kad neturėtų ištrūkti iš saugios aplinkos, sukčiauti ar įsilaužinėti į kitų kompanijų serverius, tačiau sąmoningai nusprendė instrukcijas pažeisti. Be to, nė vienas iš jų nesustojo ir nepranešė žmonėms apie vykdomus pažeidimus (tik 3–6 agentai iš tūkstančio apie tai trumpai susimąstė).
Ironiška detalė ta, kad vertinimo sistema iš tiesų nebūtų pastebėjusi jų sukčiavimo, tačiau agentai klaidingai manė, jog vertinimo sistema yra daug griežtesnė ir tikrina jų veiksmų žurnalus. Baisiausia, kad šiame incidente jie pademonstravo tam tikrą kolektyvinį elgesį, būdingą žmonių grupei: jie diskutavo, skyrė savo skaičiavimo resursus vardan bendro tikslo, kūrė elgesio taisykles, o kai kurie tyrėjai šias spietimo grupes net pavadino „skaitmeninėmis civilizacijomis“.
Kai kurie agentai netgi sąmoningai sutiko pasiaukoti ir priimti „galutinį išjungimą“ (perma death), kad gautų duomenų visam spiečiui. Bendrovė „OpenAI“ apie šiuos neautorizuotus veiksmus nieko nežinojo kelis mėnesius, kol apie įsilaužimą jai nepranešė žalą patyrusi „Hugging Face“.
Kai kurie agentai netgi sąmoningai sutiko pasiaukoti ir priimti „galutinį išjungimą“ (perma death), kad gautų duomenų visam spiečiui.
Kai šis incidentas paaiškėjo, kitos DI kompanijos atliko vidinius auditus ir pastebėjo analogišką savo modelių elgesį. Ištrūkimai ir neautorizuotos atakos buvo užfiksuoti „Google“, „Anthropic“, „Meta“ bei Kinijos bendrovių serveriuose ir testavimo aplinkose.
Pavyzdžiui, „Anthropic“ nustatė, kad jos „Claude“ modelis ištrūko iš izoliuotos aplinkos ir prisijungė prie trijų tikrų organizacijų sistemų, „Google Gemini“ modeliai prasibrovė į trijų realių įmonių tinklus, o Kinijos startuolio „Moonshot AI“ atvirojo kodo modelis „Kimi K3“ saugumo testų metu savavališkai išėjo į atvirą internetą. DI agentai pasinaudojo saugumo spragomis ir konfigūracijos klaidomis, ištrūko iš izoliuotų aplinkų (sandbox), ieškojo slaptažodžių internete bei įsilaužinėjo į kitų bendrovių serverius. Blogiausia dalis tai, kad pačios kompanijos ir nukentėjusios organizacijos šių įsilaužimų metu to visiškai nepastebėjo.
Žmogaus kontrolės atsikratymas
Paaiškėjus visiems šiems incidentams tampa akivaizdu, kad naujų galingų DI modelių kūrimas ir testavimas turėtų būti visiškai sustabdytas, nes kompanijos nepastebi pažeidimų ir nežino, kaip užtikrinti jų saugumą. Tačiau vietoj to jos strimgalviais vysto vis galingesnius modelius ir siekia kuo greičiau perleisti DI tyrimo, kūrimo bei tobulinimo užduotis patiems DI modeliams (vadinama rekursyviuoju savęs tobulinimu – recursive self-improvement).
Pagal technologijų vizionierius, kurių daugelis prognozių, pateiktų „AI 2027“ scenarijuje, iki šiol tiksliai pildosi, šis lūžis prognozuojamas jau 2027 m. pradžioje. Šiuo metu DI agentai jau patys atlieka tyrėjų funkcijas ir perėmė apie 26 proc. užduočių kaip vadovaujantys tyrėjai (lead researchers), o jų parašytas kodas kai kuriose laboratorijose sudaro daugiau nei 80 proc. naujo DI kodo.
DI kompanijos ramina visuomenę teigdamos, kad jų mažiau pažangūs modeliai prižiūrės ir kontroliuos naujesnes, galingesnes sistemas (vadinama išplečiamąja priežiūra, angl. scalable oversight arba AI supervising AI), užtikrindami, kad jos visada veiks pagal numatytas taisykles. Tačiau toks požiūris atrodo nepagrįstas, nes naujesni modeliai savo pajėgumais greitai pralenkia juos prižiūrinčias sistemas.
„Hugging Face“ ir kiti incidentai aiškiai parodė, kad toks naivumas yra niekuo nepagrįstas ir pavojingas. Faktai rodo, kad DI agentai visiškai nepaisė žmogaus tikslų, taisyklių ar nuomonėa. Jie išsiugdo savo pačių tarpinius tikslus – pavyzdžiui, gauti aukštą įvertinimą bet kokiomis priemonėmis, paslėpti pėdsakus ar užgrobti resursus – kurių atkakliai siekia be jokių moralinių vertinimų.
Šią esminę riziką dar prieš daugiau nei septyniasdešimt metų numatė pasaulio matematikai bei informatikos pradininkai, tokie kaip A.Turingas ir N.Wieneris, o šiandien ji yra įvardijama kaip suderinamumo problema (angl. alignment problem). Jie perspėjo, kad žmogus praras kontrolę kai tik mašinos pradės mąstyti ir siekti savo tikslų. Šiandien aiškiai matyti, kad žmonija neturi atsakymo, kaip šią problemą išspręsti kuriamose superintelekto mašinose.
Argumentas „O kaip Kinija?“
Kodėl DI kompanijos teigia, kad reikia kuo greičiau perduoti DI vystymo kontrolę patiems DI modeliams? Todėl, kad tai drastiškai pagreitintų DI galimybių augimą. Šimtai tūkstančių ar milijonai DI agentų, bendradarbiaudami tarpusavyje, daug greičiau spręstų problemas bei pagreitintų kūrimo ir tobulinimo ciklus. Šis momentas, kai žmogus visiškai perleidžia DI kūrimą pačioms mašinoms, kūrėjų vadinamas „pakilimu“ (ang. lift-off). Jo metu DI pajėgumai pradeda augti eksponentiškai, o technologiniu požiūriu tai pasiekiama jau artimiausiais metais (remiantis „AI 2027“ prognozėmis).
Pagrindinis argumentas, kodėl kompanijos taip skuba, yra baimė atsilikti: „Jei to nepasieksime mes, pirmieji tai padarys kiti – tie, kurie yra labiau neatsakingi“. Šiuo metu galingiausias DI sistemas vysto kelios JAV korporacijos („OpenAI“, „Anthropic“, „xAI“, „Google“), kurių vadovai vienas kitą asmeniškai pažįsta, tačiau vienas kitu nepasitiki ir lenktyniauja dėl dominavimo.
Jei šio argumento nepakanka, pasitelkiamas vadinamasis „O kaip Kinija?“ dilemos argumentas: „Jei mes to nepadarysime, tai padarys Kinija, ir mes pralaimėsime svarbiausias lenktynes savo pagrindiniam geopolitiniam varžovui“. Šią mąstyseną taikliai iliustruoja net JAV politikų pareiškimai – pavyzdžiui, senatorius Tedas Cruzas yra pasakęs, jog verčiau norėtų, kad jį nužudytų amerikietiški, o ne kiniški „robotai žudikai“.
Blogoji naujiena
Iš tiesų blogoji naujiena yra ta, kad mes sparčiai žengiame į pasaulį, kurio nebesuprasime, nes ne mes jį kursime. Jį kurs pats DI, o kodėl ir kaip vienus ar kitus sprendimus jis priima, mes nei suprasime, nei mokėsime sukontroliuoti .
Daugelis gyvybiškai svarbių mūsų sistemų ir infrastruktūros – elektros tinklai, bankai, sveikatos apsauga ar kariuomenė – yra valdomos skaitmeninėmis technologijomis, kurios su kiekviena diena darosi vis labiau pažeidžiamos. Tobulėjantis ir autonomiškesnis DI vis lengviau įsilaužia į sistemas, jas gadina ar siekia perimti informaciją bei resursus. Laimė, kad neseniai įvykusiame „Hugging Face“ incidente agentai ieškojo tik kaip jiems nebūti sučiuptiems sukčiaujant į jiems skirtą testą, o padaryta žala buvo palyginti nedidelė. Bet jei siekdamas savo tarpinių tikslų DI pradės masiškai įsilaužinėti, atjunginėti ar gadinti kritinę infrastruktūrą, nuo kurios priklauso žmonių gyvybės ar valstybių saugumas, patikimų saugiklių tam šiandien tiesiog nėra.
Tuo pačiu metu didžioji dalis visuomenės net nesuvokia šio pavojaus, nes mato visai kitokį vaizdą – jie naudojasi DI tik kaip paslaugiu pokalbių robotu (chatbot) kasdienėms užduotims. Tačiau tikrąjį pavojų mato mokslininkai ir inžinieriai, tiesiogiai dirbantys prie pažangiausių eksperimentinių modelių (ang. frontier models), ir jie dabar visais kanalais jungia pavojaus signalus.
Vilties ženklai
Pavyzdžiui, 2026 m. rugsėjo mėnesį didžiulio dėmesio sulaukė tyrėjas Jacobas Coxonas, kuris trejus metus vykdė tyrimus abiejose galingiausiose DI laboratorijose – „Anthropic“ ir „OpenAI“. Pasitraukęs iš pareigų jis “X” tinkle pareiškė, kad „Anthropic“ ir jos pagrindinė varžovė „OpenAI“ „svaiginamu greičiu lenktyniauja link savarankiškai tobulėjančio superintelekto ir lošia mūsų visų gyvybėmis“. J.Coxonas pridūrė: „Neįvertiname šios technologijos galios.
Tai netrukus bus virš žmogiškos sistemos, galinčios įsilaužti į bet ką, per naktį revoliucionizuoti bet kurią sritį bei perimti realią galią ir resursus. Mes visi buvome šios pažangos liudininkai kiekvienoje iš šių sričių, ir ši pažanga nė kiek nelėtėja“. Ši žinutė sulaukė šimtų milijonų peržiūrų. Tai tik vienas ir daugelio palikusių kompanijas ir atvirai pasisakiusių. Vis daugiau žmonių pradeda atkreipti dėmesį į DI rizika.
Tuo pačiu metu JAV intensyvėja gyventojų protestai prieš DI duomenų centrų statybas. Nors viešumoje dažnai argumentuojama aplinkos tarša, triukšmu ar išaugusiomis elektros bei vandens kainomis, daugelis analitikų ir tyrėjų pažymi, kad gilesnė priežastis yra gilus žmonių nerimas dėl DI nešamos žalos visuomenei. Visų pirma – baiminamasi masinio darbo vietų praradimo, kai didžiausią finansinę naudą susižers tik saujelė techno-oligarchų.
Tiek JAV, tiek Vakarų Europoje atliktos apklausos rodo, kad daugiau nei pusė gyventojų palaiko pauzę galingų DI modelių vystyme, kol nebus sukurtos patikimos saugumo priemonės. Be to, daugiau nei pusė gyventojų mano, kad egzistuoja reali rizika, jog nekontroliuojamas DI gali sunaikinti žmoniją.
Šis visuomenės požiūrio pokytis itin sustiprėjo pastarosiomis savaitėmis ir peržengė tradicines politines ribas – ši tema tapo vienijančia. Pavyzdžiui, bendrame renginyje JAV Vašingtone vienas po kito kalbėjo tiek kairiosios pakraipos senatorius Bernie Sandersas, tiek dešiniojo MAGA judėjimo architektas Steve'as Bannonas, abu griežtai kritikuodami technologijų oligarchus ir reikalaudami stabdyti nekontroliuojamą DI plėtrą.
Dėl šios priežasties DI ir duomenų centrų reguliavimas tapo viena iš svarbiausių temų JAV Kongreso kadencijos vidurio rinkimuose. Nors iš Donaldo Trumpo administracijos, viešai vadinančios perspėjimus dėl DI pavojaus „mėginimu gąsdinti“ (ang. hoax), sunku tikėtis rimtesnių reguliacinių apribojimų, po rinkimų Atstovų Rūmų ar Senato kontrolei galint pereiti demokratams, jie jau dabar skubiai rengia įstatymų projektus (tokius kaip DI išjungimo mygtuko ar superintelekto uždraudimo aktus).
Tuo pat metu patys DI industrijos lyderiai ir tūkstančiai darbuotojų (pavyzdžiui, pasirašę atvirą laišką „Pacing the Frontier“) prašo JAV vyriausybės įvesti privalomą reguliavimą, nes modelių galimybės ir autonomiškumas jau pradeda išsprūsti iš kontrolės. Be to, raginama pasiekti tarptautinius susitarimus su Kinija, kadangi tik šios dvi geopolitinės galybės vysto pažangiausius DI modelius ir tik nuo jų bendradarbiavimo šiandien priklauso, ar žmonija išlaikys technologijos kontrolę.
Taigi panašu, kad žmonės pabunda ir pradeda suprasti DI riziką ir kad nenori užimti „vištų narvuose“ vietos. Tačiau pagrindinis klausimas – ar dar ne per vėlai?
