Nedažnai nutinka, kai reikia pasakyti, kad visų mylimas genijus Stephenas Hawkingas klysta, tačiau, pasak Marko Bishopo, dabar yra būtent taip – esą dėstydamas nerimą keliančią prognozę apie dirbtinį intelektą (DI) ir žmonijos ateitį, jis klydo. Tiksliau pasakius, ir išlaikant panašumą su fizika ir Schrödingerio katinu, jis tuo pat metu ir klysta, ir yra teisus.
S.Hawkingas kartu teisus, kadangi netgi tokios ribotos mašinos gali kelti grėsmę žmonijos ateičiai – pavyzdžiui, autonominiai ginklai.
Paklaustas, kaip toli fizikai pasistūmėjo DI kūrime, S.Hawkingas atsakė: „Kai tik žmonės sukurs dirbtinį intelektą, jis perims vadžias ir perkurs save vis sparčiau. Žmonės, kuriuos riboja lėta biologinė evoliucija, negalėtų varžytis ir būtų nugalėti.“
Anot M.Bishopo, jis klysta, kadangi yra tvirtas pagrindas manyti, jog kompiuteriai niekados neatkurs žmogaus kognityvinių savybių. Tačiau S.Hawkingas kartu teisus, kadangi netgi tokios ribotos mašinos gali kelti grėsmę žmonijos ateičiai – pavyzdžiui, autonominiai ginklai.
Tokios prognozės nėra naujos; kibernetikos profesorius Kevinas Warwickas šį klausimą iškėlė savo 1997 m. knygoje „March of the Machines“. Jis matė sukurtus vabzdžio intelektą turinčius kompiuterius. Jis prognozavo, jog netrukus bus robotai, turintys katės smegenų pajėgumą, kiek vėliau pasirodys protu žmonėms prilygstantys aparatai, uzurpuosiantys ir pajungsiantys mus.
Triguba bėda
Tokios išvados remiasi ideologija, kad tinkamame kompiuteryje veikianti programa galiausiai įgyvendins visus žmogaus mentaliteto aspektus – vadinamasis stiprusis DI. Jei tai įmanoma, tada, žinoma, dėl spartėjančio technologinio proceso galiausiai viskas išslystų iš rankų – tai vyktų dėl DI sistemų naudojimo dar sudėtingesnių DI kūrimui ir Moore'o dėsnio, teigiančio, kad kompiuterių skaičiavimo galia kas porą metų dvigubėja.
Anot M.Bishopo, trys problemos paaiškina, kodėl skaitmeniniam DI vis nepavykdavo atkartoti žmogaus mentaliteto visame jos laukiniame ir elektrocheminiame grožyje, ir kodėl nepavyks ir toliau.
Pirma, kompiuteriai nemoka iš tiesų suprasti. Kinų kambario ginčas yra žymusis JAV filosofo Johno Searle'o mintinis eksperimentas, rodantis, kaip kompiuterio programa gali atrodyti suprantanti kiniškas pasakas (teisingai atsakydama į klausimus apie jas), išties nieko iš to nesuprasdama.
Antra, kompiuteriai neturi sąmonės. Galima pateikti argumentą, kad, jei robotas, sąveikaudamas su aplinka, patiria sąmoningą pojūtį, tada aplink turi būti begalė sąmonių: geriamame arbatos puodelyje, sėdynėje, ant kurios sėdime. Jei atmetame tokį platų požiūrį – vadinamąjį panpsichizmą, – turime atmesti ir mašinų sąmonę.
Ir, galiausiai, kompiuteriai neturi matematinio įžvalgumo. Matematikas fizikas iš Oksfordo universiteto Rogeris Penrose'as savo knygoje „The Emperor's New Mind“, teigia, kad tai, kaip matematikai pateikia daugelį „neklystančių demonstracijų“ savo matematinių prielaidų patikrinimui, iš esmės nėra algoritminiai ir nesuskaičiuojami įrodymai.
Ne OK kompiuteris
Užuot kalbėjus apie robotų valdžią iš Holivudo vaizdinių, būtų geriau susitelkti į labai realų jau egzistuojančio DI vis platesnio panaudojimo keliamą nerimą – autonomines ginklų sistemas.
Drauge šie trys teiginiai iš esmės palaidoja viltis, kad žmogaus smegenys gali būti visiškai atkurtos vien skaičiavimais. Jeigu jie teisingi, tai rodo, kad platesnių žmogaus proto aspektų ateities DI įveikti nesugebės.
Užuot kalbėjus apie robotų valdžią iš Holivudo vaizdinių, būtų geriau susitelkti į labai realų jau egzistuojančio DI vis platesnio panaudojimo keliamą nerimą – autonomines ginklų sistemas.
M.Bishopui, kaip Tarptautinio robotų ginklų kontrolės komiteto DI ekspertui, nerimą itin kelia potencialus robotinių ginklų sistemų, galinčių kariauti be žmogaus įsikišimo, naudojimas. Būtent todėl, kad dabartinis DI neprimena žmogaus intelekto, o netinkamai sukurtos autonominės sistemos, kovodamos vienos prieš kitas, gali greitai eskaluoti pavojingas situacijas iki katastrofiškų padarinių. Tokios sistemos gali parodyti tikrą dirbtinį intelektą.
Įmanoma sutikti, kad DI gali žmonijai kelti egzistencinę grėsmę, bet ne įsivaizduojant, kad jis kada taps protingesnis už mus.
