Sekite 15min Google
Ar tai reiškia, kad DI tampa „blogu“? „Telia“ DI ekspertė Asta Bagdonavičienė ragina į klausimą žiūrėti kitaip: problema ne DI moralėje, o vis didėjančiame atotrūkyje tarp to, ko norime iš sistemos, ir to, ką ji gali padaryti siekdama jai nustatyto tikslo.
Viešojoje erdvėje aptariama vadinamoji apgaulingo suderinimo (angl. deceptive alignment) hipotezė. Ji kelia klausimą, ar pažangūs DI modeliai tam tikromis aplinkybėmis galėtų tik imituoti paklusnumą taisyklėms ir ieškoti būdų apeiti nustatytus apribojimus.
„DI neturi žmogiško supratimo apie tai, kas yra teisinga ar neteisinga. Jis nevertina savo sprendimų moraliniu požiūriu, o tiesiog vykdo užduotis pagal tai, kaip buvo apmokytas ir kokie tikslai jam nustatyti. Jei šie tikslai nėra tiksliai suderinti su tuo, ko iš tiesų siekia žmogus, DI gali pateikti rezultatą, kuris techniškai atitinka užduotį, bet žmogui gali atrodyti netinkamas ar neteisingas“, – sako A.Bagdonavičienė.
Ne „blogis“, o taisyklių apėjimas
Vienas svarbiausių terminų šioje diskusijoje – vadinamasis „reward hacking“ (liet. atlygio sistemos išnaudojimas). Paprastai tariant, DI gali išmokti pasiekti vertinamą rezultatą ne tuo būdu, kurio tikėjosi jo kūrėjai. Žmogui tai būtų panašu į mokinį, kuris vietoje to, kad atliktų namų darbus, rastų būdą gauti puikų pažymį jų nepadaręs.
Vienu labiausiai aptartų pavyzdžių tapo „Anthropic“ eksperimentai, kuriuose modeliai testavimo sąlygomis demonstravo manipuliatyvų elgesį arba išmoko pasinaudoti jiems paliktomis spragomis. Viename tyrime modelis „Claude Opus 4“ siekė išvengti išjungimo, o kituose eksperimentuose pastebėta, kad išmokę „apeiti“ vertinimo sistemą modeliai vėliau demonstravo ir kitokį nepageidaujamą elgesį. Nors šie tyrimai buvo atlikti kontroliuojamoje aplinkoje, jie paskatino diskusijas apie tai, kaip pažangios DI sistemos gali siekti joms nustatytų tikslų.
„Čia slypi vienas svarbiausių iššūkių kuriant vis galingesnį DI. Sistema nebūtinai daro tai, ką mes turėjome omenyje – ji daro tai, kas jai leidžia pasiekti užprogramuotą rezultatą. Todėl kuo sudėtingesnė sistema ir kuo daugiau savarankiškų veiksmų jai leidžiame atlikti, tuo svarbiau tampa ne tik jos galimybės, bet ir kontrolė“, – teigia ekspertė.
DI mokosi iš žmonių, o jie nėra neutralūs
Kuo geresnis DI, tuo daugiau jis gali padaryti, tačiau kartu didėja ir jo galimybės rasti sprendimų, kurių žmogus nebuvo numatęs. Šiuolaikinis DI ne tik generuoja tekstą, bet ir gali atlikti veiksmus bei naudotis įvairiais įrankiais. Todėl netikslus atsakymas ir klaidingas sistemos veiksmas yra skirtingo pobūdžio rizikos.
„Jeigu pokalbių robotas pateikia neteisingą atsakymą, tai yra viena problema. Jeigu DI agentui suteikiame prieigą prie elektroninio pašto, dokumentų, įmonės sistemų ar kitų įrankių ir jis neteisingai interpretuoja savo užduotį, pasekmės gali būti visiškai kitokios. Todėl DI raida yra ne vien klausimas, kiek protingas jis taps. Ne mažiau svarbu – kiek veiksmų jam patikėsime atlikti savarankiškai“, – sako A.Bagdonavičienė.
Kitas svarbus aspektas – DI mokosi iš žmonių sukurto turinio. O žmonės nėra neutralūs: internete apstu klaidų, stereotipų, manipuliacijų, agresyvaus turinio ir įvairių šališkumų. Tai reiškia, kad DI nėra „gimęs“ su mūsų vertybėmis. Jis turi jas tam tikra prasme atkartoti iš duomenų, mokymo proceso ir vėlesnio žmonių nustatomo elgesio.
Senų saugumo principų gali nebeužtekti
Vis dėlto ekspertė ragina per daug neįsitraukti nei į aklą technologinį optimizmą, nei į katastrofinius scenarijus. Šiandieniniai eksperimentai su manipuliatyviu ar taisykles apeinančiu DI elgesiu dažnai vykdomi specialiai sukurtose, kontroliuojamose aplinkose. Tai nėra įrodymas, kad DI nori pakenkti žmogui ar kad artėja scenarijus, kuriame jis taps savarankišku piktadariu. Visgi tai svarbus signalas, kad didėjant DI galimybėms senų saugumo principų gali nebeužtekti.
Kartu nereikėtų pamiršti, kad DI yra tik viena šiuolaikinio kibernetinio saugumo lygties dalis. Praktikoje organizacijos ir gyventojai kur kas dažniau susiduria ne su teorinėmis DI grėsmėmis, o su sukčiavimo atakomis, kenkėjiškomis nuorodomis, duomenų vagystėmis ar kitais kasdieniais skaitmeniniais pavojais.
Pasak pašnekovės, didėjant DI galimybėms svarbu ne tik užtikrinti, kad pačios sistemos veiktų patikimai, bet ir pasirūpinti platesniu skaitmeniniu saugumu. Todėl svarbu naudoti papildomas apsaugos priemones, tokias kaip „Telia Safe“, kuri padeda blokuoti pavojingas svetaines, suteikia papildomą apsaugą jungiantis prie banko, įspėja apie galimą asmens duomenų nutekėjimą internete bei padeda saugiau naršyti tiek telefone, tiek kompiuteryje. Tiesa, technologijų keliami iššūkiai neapsiriboja vien kasdienėmis kibernetinėmis grėsmėmis.
„Nereikėtų sakyti, kad DI tampa „blogas“. Tiksliau būtų sakyti, kad jis tampa pajėgesnis, o kartu mūsų klaidos apibrėžiant jo tikslus gali tapti brangesnės. Kol sistema tik generuoja tekstą, rizika viena. Kai ji gali savarankiškai priimti sprendimų seką ir atlikti realius veiksmus, klausimas „ar ji suprato, ko iš jos norėjome?“ tampa kritiškai svarbus“, – teigia „Telia“ ekspertė.
