Dabar populiaru
Publikuota: 2019 rugpjūčio 31d. 17:00

Du studentai atkūrė pavojingą tekstų generavimo programą

Dirbtinis intelektas
123rf nuotr. / Dirbtinis intelektas

Vasarį Elono Musko kartu su kitais įkurtos dirbtinio intelekto tyrimų laboratorijos „Open AI“ inžinieriai pranešė sukūrę tokį pažangų automatinį tekstų generatorių, kurio sukurtų tekstų neįmanoma atskirti nuo žmonių autorių parašytųjų. Neseniai du JAV universiteto studentai paskelbė atkartoję šį algoritmą ir jį publikavo viešai, rašoma svetainėje „Wired.com“.

Vasarį „OpenAI“ tyrėjai nuogąstavo, kad jų algoritmas gali būti panaudotas piktavalių, pavyzdžiui, kurti „melagienas“ (angl. fake news), internete apsimetinėti kitais asmenimis ar platinti suklastotą turinį socialiniuose tinkluose. Todėl oficialiai buvo nuspręsta šio algoritmo niekur oficialiai neskelbti.

Deja, vieną kartą atvėrus Pandoros skrynią, jos neuždarysi. Neseniai du Rod Ailendo valstijos Brauno universiteto studentai Aaronas Gokaslanas bei Vanya Cohenas viešai publikavo, jų teigimu, atkurtą „OpenAI“ tekstų generatorių, kurį internetu bet kas gali parsisiųsti bei pasinaudoti.

Nors tiek „OpenAI“ generatorius, tiek studentų sukurta alternatyva gali kurti gan rišlius tekstus iš tų frazių, kurias ji surenka internete, programa dažnai suklumpa ir tekste atsiranda nelogiškumų ar tiesiog kalbinių „įtrūkimų“.

Studentai teigia netikintys, kad tokia programinė įranga kelia kažkokią riziką visuomenei, o savo veiksmais jie norėjo pademonstruoti, kad nebūtina turėti elitinės laboratorijos su būriu daktaro laipsnį turinčių mokslininkų, kad sukurtum tokį algoritmą. Dar daugiau, jaunieji tyrėjai mano, kad tokie algoritmai kaip tik turėtų pasiekti kuo platesnį ratą specialistų, kad šie galėtų ištirti galimas grėsmes ir joms pasiruošti.

Panašiai, kaip ir „OpenAI“ algoritmas, taip ir Brauno universiteto studentų sukurta programa naudoja mašininio mokymosi metodą – algoritmas nuskaito tekstus iš milijonų internetinių svetainių. Visa ši informacija leidžia algoritmui perprasti kalbines struktūras naudojamas tekste ir jas vėliau naudoti, kuriant naujus tekstus ar vertimus.

Nors tiek „OpenAI“ generatorius, tiek studentų sukurta alternatyva gali kurti gan rišlius tekstus iš tų frazių, kurias ji surenka internete, programa dažnai suklumpa ir tekste atsiranda nelogiškumų ar tiesiog kalbinių „įtrūkimų“, nes iš tiesų abu algoritmai nesugeba suprasti savo „skaitomo“ bei generuojamo teksto prasmės. Todėl po metų pradžioje paskelbto „OpenAI“ pranešimo apie savo „pavojingąjį“ algoritmą, nemažai ekspertų buvo skeptiški.

Neseniai pati „OpenAI“ laboratorija paskelbė pranešimą spaudai, kuriame teigia turinti žinių, kad mažiausiai dar penkios tyrėjų komandos sugebėjo pilnai atkurti šią tekstų generavimo programą. „OpenAI“ atstovas Milesas Brundage negalėjo pasakyti, kiek pavojingas yra alternatyvus studentų sukurtas tekstų generatorius, tačiau spėja, kad jis yra ne toks galingas. M.Brundage pripažįsta, kad šis įvykis tik dar kartą įrodo, kad tobulėjančios debesų kompiuterijos paslaugos bei prieiga prie didelių skaičiavimo resursų leidžia gabiems programuotojams kurti vis sudėtingesnius algoritmus.

Nors dirbtinio intelekto algoritmų kūrėjai vis dažniau kalba apie būtinybę nagrinėti jų kūrinius etiniais ir filosofiniais aspektais, visgi išlieka klausimas, ar „OpenAI“ tekstų generatorius išties toks pavojingas, ar tai tebuvo tik gudrus rinkodaros triukas. M.Brundage teigia, kad laboratorija svarsto galimybę artimiausiu metu paskelbti pilną savo generatoriaus versiją, tuo tarpu šiandien bet kas norintis gali išbandyti kiek apkarpytą variantą šioje svetainėje.

Komentarai

Pranešti klaidą

Sėkmingai išsiųsta

Dėkojame už praneštą klaidą

Vardai

Praktiški patarimai

Skanumėlis
Gerumu dalintis gera

Video

23:56
01:17
01:11

Dabar tu gali

Parašykite atsiliepimą apie Mokslas.IT