Sekite 15min Google
Liepos viduryje du bandomieji „OpenAI“ DI modeliai ištrūko iš apribotos bandymų aplinkos, ko jų kūrėjai nebuvo numatę, prisijungė prie interneto atakavo kodavimo platformą „Hugging Face“.
„Hugging Face“ generalinis direktorius Clement'as Delangue'as (Klemanas Delangas) penktadienį pareiškė, kad jo įmonė šiuo metu nesiims teisinių veiksmų. Sekmadienį jis pridūrė, kad siekiant spręsti tokius precedento neturinčių įsibrovimų klausimus, būtina iš dalies pakeisti JAV teisės aktus.
„Mes nenorime atsidurti pasaulyje, kuriame visi nuolat susiduria su kibernetinėmis atakomis dėl agentų ir įmonių, kurios kuria šiuos agentus“, – „CBS News“ laidoje „Face the Nation“ sakė jis. – Todėl manau, kad reguliavimo institucijoms ir politikams svarbu apgalvoti teisinį šios naujos rūšies technologinės rizikos reguliavimą.“
Jis taip pat paminėjo ir kitą DI įmonę – „Anthropic“, kuri atskleidė, kad trys jos modeliai, taip pat testavimo metu, įsibrovė į tris skirtingas interneto svetaines.
Atsakomybė už neatsargumą
Pagal JAV civilinę ir baudžiamąją teisę neteisėta prieiga prie kompiuterinės sistemos yra nusikaltimas.
„Jei „OpenAI“ darbuotojas būtų įsibrovęs į „Hugging Face“ sistemas,... „OpenAI“ būtų atsakinga už darbuotojo neteisėtus veiksmus, – sakė Hiustono universiteto teisės profesorius Gabrielis Weilas (Gabrielis Veilas). – Kai tai padaro DI agentas, įstatymas į tai žiūri visiškai kitaip, bent jau kol kas.“
Jutos universiteto teisės profesorius Matthew Toksonas (Metju Tokstonas), besispecializuojantis naujųjų technologijų srityje, jam pritaria: „Mums dar neteko susidurti su tuo, kad tai būtų padaryta ne žmogaus, o dirbtinio intelekto, ir nemanau, kad teismai jau yra pasirengę spręsti tokius atvejus.“
Tačiau klausimas lieka atviras, kai kalbama apie įmonę, sukūrusią modelį.
„Ar teiginys „mes nenurodėme dirbtiniam intelektui to daryti“ išsprendžia atsakomybės klausimą?“ – klausia SANS kibernetinio saugumo mokymo instituto tyrimų vadovas Robas T. Lee (Robas T. Li).
Vašingtono universiteto teisės profesorius Ryanas Calo (Rajenas Keilas) nemano, kad baudžiamoji byla tokiu atveju būtų sėkminga.
„Įmonė ar asmuo turėtų būti bent jau neatsargūs“, – sakė jis ir paaiškino, kad jie „turėtų būti iš esmės įsitikinę, jog nusikaltimas įvyks, ir vis tiek sukurti ar paskatinti sistemą“.
Ekspertai mato didesnį potencialą civilinei, o ne baudžiamajai bylai, kurioje įrodinėjimo našta yra mažesnė.
„Kai kurie žmonės mano, kad DI įmonės turėtų būti griežtai atsakingos, jei jų įdiegtas DI agentas taptų visiškai nekontroliuojamas ir padarytų žalos, – paaiškino M. Toksonas. – Kiti norėtų atlikti neatsargumo vertinimą ir išsiaiškinti, ar jie iš tikrųjų buvo neatsargūs, ar tai buvo tiesiog neišvengiamas atsitikimas ar kažkas, ko nebuvo įmanoma numatyti.“
Tokiais atvejais egzistuoja produktų kūrimo rūpestingumo standartas, kuriuo teisėjai ar prisiekusieji gali remtis priimdami sprendimą, sakė ekspertas.
„Visa tai dar nėra aiškiai apibrėžta, nes anksčiau niekada neturėjome atvejo, kai DI agentas ištrūktų iš savo „smėlio dėžės“ ir įsilaužtų į kitų žmonių paskyras internete“, – sakė jis.
„OpenAI“ galėtų remtis teisinių precedentų trūkumu, jei susidurtų su ieškiniu, tačiau tie, kurie seks šiuo pavyzdžiu, to daryti nebegalės, įspėjo R. Calo.
Įrodyti, kad panašus incidentas galėjo būti numatytas, „neturėtų būti taip sunku dabar, kai tai jau pradėjo vykti“.
