JT žmogaus teisių vadovas: dirbtinis intelektas gali kelti „egzistencinę grėsmę žmonijai“

Kalbėdamas JT Žmogaus teisių taryboje, Volkeris Turkas (Volkeris Tiurkas) įspėjo, kad žmonės šiuo metu susiduria su „nepažįstamomis, netgi precedento neturinčiomis“ grėsmėmis jų teisėms.

„Poreikis reguliuoti DI yra plačiai pripažįstamas, bet kur veiksmai?“ – klausė jis, įspėdamas, kad „delsimas naudingas tik didžiulėms technologijų įmonėms, jų savininkams ir rėmėjams“.

V. Turkas pasmerkė tai, kad „saujelė vyrų turi beveik neribotą galią valdyti DI, kuris, kaip mums nuolat kartojama, pasižymi neįsivaizduojama skaičiavimo galia“.

„Jie kalba apie laisvę, tačiau geriau įsižiūrėjus paaiškėja, kad tai yra ne kas kita, o laisvė naudotis mūsų duomenimis“, – sakė žmogaus teisių vadovas.

V. Turkas įspėjo, kad „DI, kuris išsprunka iš savo bandymų aplinkos arba šantažuoja kūrėjus, kad neleistų savęs išjungti, yra per stiprus DI“.

Atrodo, kad jis turėjo galvoje liepą pasirodžiusią informaciją, jog „OpenAI“ agentai ištrūko iš kontroliuojamų aplinkų ir įsilaužė į „Hugging Face“ – plačiai naudojamos platformos, kurioje programuotojai dalijasi DI programine įranga – serverius.

Šis epizodas sukrėtė technologijų pasaulį ir vėl paskatino raginimus griežčiau reguliuoti bei prižiūrėti DI.

„Anthropic“, „Meta“ ir kitos bendrovės pranešė apie panašius incidentus bandant agentus.

„Pritariu pramonės atstovų susirūpinimui, kad pažangus DI gali kelti egzistencinę grėsmę žmonijai“, – sakė V. Turkas.

„Šiandien čia raginu dėti visas pastangas, kad būtų nustatytos tvirtos garantijos dėl DI saugumo ir apsaugos, kol dar ne vėlu“, – pridūrė jis.

JT žmogaus teisių vadovas teigė, kad artimiausiomis dienomis parašys DI įmonėms, „ragindamas jas imtis priemonių, kurias jos gali kontroliuoti, kad sumažintų riziką jau dabar“.

Pasak jo, mažų mažiausiai „mums reikia, kad šalys, kuriose veikia DI, ir tos, kurios dalyvauja jo tiekimo grandinėse, susitartų dėl bendrų raudonųjų linijų“.

„Mums reikia nepriklausomo patikrinimo ir daug stipresnio bendradarbiavimo saugumo srityje pačioje industrijoje“, – sakė jis.

„Taip pat turime atsižvelgti į DI poveikį žmogaus teisėms užimtumo srityje, pamatiniams demokratijos principams ir mūsų aplinkai“, – pridūrė JT teisių vadovas.