Sekite 15min Google
„Anthropic“ generalinis direktorius pažadėjo sulėtinti tempą, kai tai būtina siekiant užtikrinti naujų produktų saugumą.
„Šis laikotarpis reikalauja ypatingo atidumo“, – Niujorke įvykusio skubaus 15 narių Tarybos posėdžio metu sakė „OpenAI“ generalinis direktorius Samas Altmanas (Semas Oltmanas).
Jis įspėjo, kad DI sistemoms tampant vis pajėgesnėms ir savarankiškesnėms, jos gali vystytis sparčiau nei institucijos arba sutelkti galią per mažos grupės rankose.
S. Altmanas buvo vienas iš pramonės lyderių, informavusių Tarybą po pastarosiomis savaitėmis visame pasaulyje skambėjusių antraščių apie nevaldomo dirbtinio intelekto keliamą riziką. Nors kilo raginimų sulėtinti plėtrą, tam priešinasi JAV prezidentas Donaldas Trumpas (Donaldas Trampas).
„Pramonė neturi prisiimti pernelyg didelės technologinės rizikos vien todėl, kad nauda yra per didelė ir per svarbi, jog būtų galima sulėtinti procesus“, – JT aukščiausiajai institucijai sakė S. Altmanas.
Jis taip pat paragino vyriausybes bendradarbiauti tarpusavyje ir su pramone priimant sprendimus, formuosiančius šios technologijos ateitį.
„Savo istorijoje esame turėję laikotarpių, kai besivaržančios ir ne visada viena kitą mėgstančios šalys susivienija dėl bendrų interesų bei kolektyvinės gerovės susidūrusios su galinga nauja technologija“, – kalbėjo jis.
„Manome, kad dabar yra būtent toks metas“, – pridūrė S. Altmanas.
Tempo sulėtinimas
Po S. Altmano kalbėjęs „Anthropic“ generalinis direktorius Dario Amodei (Darijus Amodėjus) teigė, jog jo įmonė supranta, kad DI modeliams tampant galingesniems, „bus reikalaujama dar griežtesnių saugumo standartų“.
Jis pabrėžė, kad „Anthropic“ siekia geriau užkirsti kelią piktnaudžiavimui šia technologija.
„Sulėtinsime tempą tiek, kiek reikės, kad būtume tikri, jog kiekviena tolesnė mūsų išleidžiama DI technologija yra iš tikrųjų saugi“, – vaizdo ryšiu sakė D. Amodei.
„Jei DI bus netinkamai valdomas, manau, kad jis gali kelti pavojų visai žmonijai“, – pridūrė D. Amodei.
Posėdyje taip pat dalyvavo „Hugging Face“ vienas iš įkūrėjų Clement'as Delangue (Klemanas Delangė), kurio įmonė neseniai tapo autonominės „OpenAI“ programinės įrangos kibernetinės atakos taikiniu.
Tai buvo pirmasis iš virtinės incidentų, sukėlusių nerimą dėl sparčiai besivystančios DI technologijos.
Rugsėjo pradžioje tyrėjas Jacobas Coxonas (Džeikobas Koksonas), dirbęs tiek „OpenAI“, tiek „Anthropic“, nusprendė palikti šią pramonę ir apkaltino abi bendroves „žaidimu mūsų gyvybėmis“, lenktyniaujant DI modelių, gebančių tobulintis savarankiškai, kūrimo srityje.
„Vidurio kelias“
Vadovų pasisakymai nuskambėjo prieš tai, kai D. Trumpas turi priimti Kinijos lyderį Xi Jinpingą (Si Dzinpingą). Į šio viršūnių susitikimo darbotvarkę įtrauktas ir dirbtinio intelekto klausimas.
Trečiadienį S. Altmanas sakė, kad jo įmonė stengsis laikytis „vidurio kelio“.
„Nenorime patekti į aklo optimizmo spąstus“, – sakė jis, tačiau kartu įspėjo ir dėl „katastrofų pranašavimo“.
Kanados kompiuterių mokslininkas Yoshua Bengio (Jošua Bengijas), laikomas vienu iš DI kūrėjų, Saugumo Tarybai teigė, kad „vis daugiau žmonių pagrįstai nerimauja dėl pastarojo meto pažangos“.
„Turime nukreipti šį susirūpinimą į konstruktyvius veiksmus“, – sakė jis.
„Hugging Face“ vadovas C. Delangue pažymėjo, kad nors jo įmonė nukentėjo nuo DI, ji taip pat naudojo šią technologiją atakoms atremti.
„Pasauliui labiau nei bet kada reikia atvirojo kodo DI, kad galėtų apsiginti“, – teigė jis.
S. Altmanas, D. Amodei ir kiti DI pramonės lyderiai ragina įdiegti pasaulinę technologijos priežiūrą.
„OpenAI“ paragino JAV imtis lyderystės kuriant pasaulinius DI standartus, pažymėdama, kad jų pramonė yra techninės pažangos priešakyje.
Britų ministras pirmininkas Andy Burnhamas (Endis Bernamas) antradienį teigė, kad Jungtinė Karalystė (JK) 2027 metais pirmininkaudama Didžiajam dvidešimtukui (G20) pradės iniciatyvą dėl pasaulinių DI standartų nustatymo.
Prancūzijos užsienio reikalų ministras Jeanas-Noelis Barrot (Žanas Noelis Baro) panašiai ragino imtis bendrų veiksmų JT struktūroje ir kartu su įmonėmis nustatyti taisykles naujai erai.
Tačiau diplomatinės pastangos gali susidurti su JAV pozicija.
Baltųjų rūmų Mokslo ir technologijų politikos biuro direktorius Michaelas Kratsiosas (Maiklas Kraciosas) pareiškė, kad sparti pažanga nėra priežastis pristabdyti DI plėtrą ar varžyti ją naujomis valdymo struktūromis.
Antradienį D. Trumpas atmetė tarptautinį DI reguliavimą, pavadindamas tokius pasiūlymus „globalistų schema“.
