Dabar populiaru
Publikuota: 2014 gruodžio 19d. 10:25

Tikroji grėsmė žmonijai – ne dirbtinis intelektas, o autonominės ginklų sistemos

Ginkluotas robotas
123RF.com iliustr. / Ginkluotas robotas

Fizikas Stephenas Hawkingas mano, kad kompiuteriai gali aplenkti žmones ir užgrobti pasaulį. Dirbtinio intelekto ekspertas Markas Bishopas teigia, kad niekada netapsime silicio vergais

Nedažnai nutinka, kai reikia pasakyti, kad visų mylimas genijus Stephenas Hawkingas klysta, tačiau, pasak Marko Bishopo, dabar yra būtent taip –  esą dėstydamas nerimą keliančią prognozę apie dirbtinį intelektą (DI) ir žmonijos ateitį, jis klydo. Tiksliau pasakius, ir išlaikant panašumą su fizika ir Schrödingerio katinu, jis tuo pat metu ir klysta, ir yra teisus.

S.Hawkingas kartu teisus, kadangi netgi tokios ribotos mašinos gali kelti grėsmę žmonijos ateičiai – pavyzdžiui, autonominiai ginklai.

Paklaustas, kaip toli fizikai pasistūmėjo DI kūrime, S.Hawkingas atsakė: „Kai tik žmonės sukurs dirbtinį intelektą, jis perims vadžias ir perkurs save vis sparčiau. Žmonės, kuriuos riboja lėta biologinė evoliucija, negalėtų varžytis ir būtų nugalėti.“

Anot M.Bishopo, jis klysta, kadangi yra tvirtas pagrindas manyti, jog kompiuteriai niekados neatkurs žmogaus kognityvinių savybių. Tačiau S.Hawkingas kartu teisus, kadangi netgi tokios ribotos mašinos gali kelti grėsmę žmonijos ateičiai – pavyzdžiui, autonominiai ginklai.

Tokios prognozės nėra naujos; kibernetikos profesorius Kevinas Warwickas šį klausimą iškėlė savo 1997 m. knygoje „March of the Machines“. Jis matė sukurtus vabzdžio intelektą turinčius kompiuterius. Jis prognozavo, jog netrukus bus robotai, turintys katės smegenų pajėgumą, kiek vėliau pasirodys protu žmonėms prilygstantys aparatai, uzurpuosiantys ir pajungsiantys mus.

Triguba bėda

Tokios išvados remiasi ideologija, kad tinkamame kompiuteryje veikianti programa galiausiai įgyvendins visus žmogaus mentaliteto aspektus – vadinamasis stiprusis DI. Jei tai įmanoma, tada, žinoma, dėl spartėjančio technologinio proceso galiausiai viskas išslystų iš rankų – tai vyktų dėl DI sistemų naudojimo dar sudėtingesnių DI kūrimui ir Moore'o dėsnio, teigiančio, kad kompiuterių skaičiavimo galia kas porą metų dvigubėja.

Anot M.Bishopo, trys problemos paaiškina, kodėl skaitmeniniam DI vis nepavykdavo atkartoti žmogaus mentaliteto visame jos laukiniame ir elektrocheminiame grožyje, ir kodėl nepavyks ir toliau.

Pirma, kompiuteriai nemoka iš tiesų suprasti. Kinų kambario ginčas yra žymusis JAV filosofo Johno Searle'o mintinis eksperimentas, rodantis, kaip kompiuterio programa gali atrodyti suprantanti kiniškas pasakas (teisingai atsakydama į klausimus apie jas), išties nieko iš to nesuprasdama.

Antra, kompiuteriai neturi sąmonės. Galima pateikti argumentą, kad, jei robotas, sąveikaudamas su aplinka, patiria sąmoningą pojūtį, tada aplink turi būti begalė sąmonių: geriamame arbatos puodelyje, sėdynėje, ant kurios sėdime. Jei atmetame tokį platų požiūrį – vadinamąjį panpsichizmą, – turime atmesti ir mašinų sąmonę.

Ir, galiausiai, kompiuteriai neturi matematinio įžvalgumo. Matematikas fizikas iš Oksfordo universiteto Rogeris Penrose'as savo knygoje „The Emperor's New Mind“, teigia, kad tai, kaip matematikai pateikia daugelį „neklystančių demonstracijų“ savo matematinių prielaidų patikrinimui, iš esmės nėra algoritminiai ir nesuskaičiuojami įrodymai.

Ne OK kompiuteris

Užuot kalbėjus apie robotų valdžią iš Holivudo vaizdinių, būtų geriau susitelkti į labai realų jau egzistuojančio DI vis platesnio panaudojimo keliamą nerimą – autonomines ginklų sistemas.

Drauge šie trys teiginiai iš esmės palaidoja viltis, kad žmogaus smegenys gali būti visiškai atkurtos vien skaičiavimais. Jeigu jie teisingi, tai rodo, kad platesnių žmogaus proto aspektų ateities DI įveikti nesugebės.

Užuot kalbėjus apie robotų valdžią iš Holivudo vaizdinių, būtų geriau susitelkti į labai realų jau egzistuojančio DI vis platesnio panaudojimo keliamą nerimą – autonomines ginklų sistemas.

M.Bishopui, kaip Tarptautinio robotų ginklų kontrolės komiteto DI ekspertui, nerimą itin kelia potencialus robotinių ginklų sistemų, galinčių kariauti be žmogaus įsikišimo, naudojimas. Būtent todėl, kad dabartinis DI neprimena žmogaus intelekto, o netinkamai sukurtos autonominės sistemos, kovodamos vienos prieš kitas, gali greitai eskaluoti pavojingas situacijas iki katastrofiškų padarinių. Tokios sistemos gali parodyti tikrą dirbtinį intelektą.

Įmanoma sutikti, kad DI gali žmonijai kelti egzistencinę grėsmę, bet ne įsivaizduojant, kad jis kada taps protingesnis už mus.

Technologijos.lt

Pranešti klaidą

Sėkmingai išsiųsta

Dėkojame už praneštą klaidą

Naujienos

Verslas

Iš Berlyno grįžęs palangiškis tęsia šeimos tradiciją pasitelkęs kavą

Vardai

Policijos generalinis komisaras L.Pernavas priėmė A.Pauliukevičiaus iššūkį – išbandė galiūnų sportą

Aktualu

Pagrobtas ir nelegaliai sulaikytas: Kremliaus įkalinto ukrainiečio Pavlo Hrybo istorija

Aktualu

Indonezijos Lomboko salą sukrėtė naujas smarkus 6,3 balo žemės drebėjimas

Maistas

Skanūs ir sveikesni naminiai tepami sūreliai: 4 vasariški receptai

Aktualu

Druskininkų rajone iš varžytinių butą įsigijusio vilniečio laukė šiurpus radinys

Aktualu

Ekonominės krizės vis labiau slegiami turkai skundžiasi aukštomis kainomis ir kaltina JAV

Vardai

M.Petruškevičius svarsto paviešinti du prieš žmonas smurtaujančius žinomus vyrus: „Aš šokiruotas“

Pasaulio savaitės įvykiai – įspūdingiausiuose kadruose (2018 rugpjūčio 12–18 d.)

Sportas

Lionelio Messi magija tęsiasi – dublis ir „Barcelona“ pergalė

Verslas

Būstas, kurio stilistika nesilygiuoja į dabartinius dizaino standartus

Aktualu

Orai: Tik viena gaivesnė diena

24sek

Ateities lyderiai? Europos čempionate dominavo Ą.Tubelis ir A.Marčiulionis

Gyvenimas

Supermodelis Elle Macpherson – apie tai, kas padeda puoselėti puikią išvaizdą

24sek

Oscaras Robertsonas už įspūdingą sumą pardavė NBA čempiono žiedą

Vardai

Viktorija Siegel pasibaisėjo degalinės plovyklos paslauga: „Šitas plovimas vertas 17 eurų?!“

Pasaulis kišenėje

Už 8 val. kelio nuo Lietuvos – turistų dar neatrastas miestas lyg iš distopinės knygos

Aktualu

Sostinės degalinėje darbuotojai iš panosės paaugliai pavogė aukų dėžutę

Aktualu

Kaune įšventinamas naujas vyskupas Algirdas Jurevičius

Gyvenimas

Unikali apklausa: koks seksas patinka šiuolaikinėms moterims ir kokius lūkesčius jos turi

Naujienos

Verslas

Čerpių nebereikės: Lietuvos stogus viliasi užkariauti grūdinto stiklo saulės moduliais

Pasaulis kišenėje

5 dalykai, kuriuos reikėtų sužinoti apie kalnų vedlį prieš iškeliaujant

Vardai

Policijos generalinis komisaras L.Pernavas priėmė A.Pauliukevičiaus iššūkį – išbandė galiūnų sportą

Gyvenimas

J.Varanauskienė apie taupymo gudrybes: kaip sutaupyti, kai tai atrodo neįmanoma

Verslas

Iš Berlyno grįžęs palangiškis tęsia šeimos tradiciją pasitelkęs kavą

Aktualu

Pagrobtas ir nelegaliai sulaikytas: Kremliaus įkalinto ukrainiečio Pavlo Hrybo istorija

Vardai

Karklės festivalį vainikavo britų žvaigždės Craigo Davido ir Marijono Mikutavičiaus koncertai

Aktualu

Indonezijos Lomboko salą sukrėtė naujas smarkus 6,3 balo žemės drebėjimas

Pasaulio savaitės įvykiai – įspūdingiausiuose kadruose (2018 rugpjūčio 12–18 d.)

Vardai

M.Petruškevičius svarsto paviešinti du prieš žmonas smurtaujančius žinomus vyrus: „Aš šokiruotas“

Maistas

Skanūs ir sveikesni naminiai tepami sūreliai: 4 vasariški receptai

Aktualu

Druskininkų rajone iš varžytinių butą įsigijusio vilniečio laukė šiurpus radinys

Sportas

Lionelio Messi magija tęsiasi – dublis ir „Barcelona“ pergalė

Verslas

Būstas, kurio stilistika nesilygiuoja į dabartinius dizaino standartus

Aktualu

Orai: Tik viena gaivesnė diena

24sek

Oscaras Robertsonas už įspūdingą sumą pardavė NBA čempiono žiedą

Vardai

Viktorija Siegel pasibaisėjo degalinės plovyklos paslauga: „Šitas plovimas vertas 17 eurų?!“

Aktualu

Ekonominės krizės vis labiau slegiami turkai skundžiasi aukštomis kainomis ir kaltina JAV

Aktualu

Paaugliai Radviliškyje grasino padegti namą ir reikalavo pinigų

Aktualu

Išpuolį Londone įvykdžiusiam vyrui pareikšti kaltinimai pasikėsinimu nužudyti

Vardai

Atgal į mokyklą

Parašykite atsiliepimą apie Mokslas.IT