Sekite 15min Google
Vienas iš DI įmonės „Anthropic“ įkūrėjų šią savaitę BBC teigė manąs, kad dirbtiniam intelektui būtinas „avarinio išjungimo“ mygtukas. Tačiau jei DI sistema imtų veikti savavališkai, ar ją iš viso įmanoma išjungti?
Ar egzistuoja „avarinio išjungimo“ mygtukas?
„DI kibernetinio saugumo požiūriu terminas „avarinio išjungimo“ mygtukas reiškia galimybę nutraukti DI agento veiksmų vykdymą“, – AFP sakė Toronto universiteto kompiuterinio saugumo ir DI specialistas profesorius Nicolas Papernot (Nikolia Paperno).
Pasak jo, asmuo ar organizacija, naudojanti DI agentą, gali jį sustabdyti atimdama jam prieigą prie veikimui reikalingų duomenų apdorojimo išteklių. Situacija tampa sudėtingesnė, jei programai buvo leista veikti už jos pradinės aplinkos ribų.
N. Papernot numatė scenarijų, pagal kurį DI galėtų būti panaudotas savarankiškai besidauginančiam kenkėjiškam programiniam kodui platinti. „Tokiu atveju turėtume vienu metu nutraukti visų tokios programos sukurtų kopijų veiklą – įrenginys po įrenginio“, – sakė jis.
Ar tikrai galime išjungti DI?
DI ekspertas iš Prancūzijos nacionalinio mokslinių tyrimų centro (CNRS) Thierry Poibeau (Tjeri Puabo) teigė, kad mintis apie vieną mygtuką, kuris leistų mums „išjungti DI“, yra klaidinanti.
„Iš tikrųjų negalima tiesiog taip paprastai išjungti DI, – sakė jis. – Pasaulyje yra milžiniškas skaičius įmonių ir įvairiausių programinės įrangos bei paslaugų. Nėra nė vieno asmens, kuris kontroliuotų DI kaip visumą.“
Tačiau galima išjungti konkrečią sistemą, jei kontroliuojate mašinas ir paslaugas, nuo kurių ji priklauso.
Naujojo Pietų Velso universitete Kanberoje kompiuterinių mokslų profesorius Husseinas Abbassas (Huseinas Abasas) „LinkedIn“ tinkle rašė, kad DI sistemas galima suskirstyti į tris sudėtingumo lygius. Pirmajame lygyje – centralizuotoje DI sistemoje, kuri visiškai priklauso nuo jos operatoriaus, – avarinio išjungimo mechanizmas būtų „teoriškai ir praktiškai įmanomas“.
Tačiau kituose dviejuose „decentralizuotuose“ scenarijuose, kur DI programoms suteikti leidimai valdyti kitą programinę įrangą, failus, mašinas ar net sistemas, sustabdyti viską būtų kur kas sudėtingiau.
Koks yra „avarinio išjungimo“ pavojus?
Kuo labiau DI integruojama į kasdienes veiklas, tuo didesnė rizika, kad jos išjungimas paralyžiuos ir teisėtą naudojimą.
„Kadangi DI vis labiau įsitvirtina visose mūsų institucijose ir įmonėse, o mes, naudodami DI, automatizuojame vis daugiau kasdienio gyvenimo aspektų, bus sunkiau panaudoti duomenų apdorojimo galią kaip avarinio išjungimo mechanizmą, nes tai reikš, kad visos kitos teisėtos funkcijos taip pat sustos“, – sakė N. Papernot.
DI sistemos sustabdymas galėtų pabloginti paslaugas, nuo kurių jau dabar priklauso įmonės, viešojo administravimo įstaigos ar sveikatos priežiūros įstaigos. Tokio žingsnio poveikis būtų milžiniškas, pabrėžė jis.
Pavojų įžvelgia ne visi
Tuo metu kai kurie žymūs visuomenės veikėjai įspėjo, kad nereikėtų skleisti panikos dėl DI.
JAV prezidentas Donaldas Trumpas (Donaldas Trampas) atmeta kalbas apie DI esą keliamą egzistencinę grėsmę ir tokias kalbas vadina apgaule, o „Meta“ generalinis direktorius Markas Zuckerbergas (Markas Zukerbergas) neseniai pasisakė prieš raginimus lėtinti DI plėtrą ir teigė, kad rinkos paskatos ir teisinė atsakomybė yra geriausios apsaugos priemonės.
Sorbonos universiteto informatikos profesoriaus Jeano-Gabrielio Ganascios (Žano Gabrielio Ganasijos) nuomone, diskusijos apie „avarinį išjungimą“ gali skatinti klaidingą įsitikinimą, kad didžiausias DI keliamas pavojus yra tai, jog jis gali išsiugdyti savarankišką valią. Anot jo, konkretesnis pavojus slypi mūsų didėjančioje priklausomybėje nuo tokių sistemų.
