ChatGPT, Claude, Gemini, Grok ar Perplexity. Šie įrankiai per pastaruosius dvejus metus tapo kasdienybe. Žmonės jiems rašo taip, kaip rašytų žinutę draugui. „Kur Vilniuje geriausias picų restoranas?" „Kokį telefoną pirkti iki 500 eurų?" „Rekomenduok gerą advokatą Kaune." Ir gauna atsakymą. Ne dešimt nuorodų. Vieną konkretų atsakymą su konkrečiais pavadinimais.
Tik mažai kas susimąsto, iš kur tas atsakymas atsirado. Ir dar mažiau žmonių pagalvoja, ar juo verta pasitikėti.
Vienas atsakymas vietoj dešimties
Dar visai neseniai informacijos paieška internete atrodė visiškai kitaip. Suvedei raktinius žodžius į Google paiešką, gavai sąrašą svetainių, pats nuspręsdavai, kurią atidaryti. Galėjai paskaityti atsiliepimus, pasižiūrėti kainas. Truko ilgiau, bet procesas buvo tavo rankose.
DI veikia kitaip. Jis nespausdina sąrašo. Jis pateikia atsakymą. Dažniausiai rekomendacijose būna du ar trys variantai. Tai ženkliai sumažina pasirinkimo galimybę, juk “senais gerais” Google paieškos laikas gaudavom 10 organic rezultatų, bei 7 - 8 remiamus (apie antrą paieškos rezultatų puslapį nevertą net kalbėti). Tai reiškia, kad tas vienas atsakymas, su keletu rekomendacijų, turi milžinišką svorį. Ir kyla natūralus klausimas. Kas nusprendė, kad būtent šis atsakymas yra teisingas?
Nematomas algoritmas
„Daugumai žmonių DI atsakymas atrodo kaip faktas. Kaip kažkas objektyvaus ir patikrinto," sako Tadas Ukrinas, DI ir skaitmeninės rinkodaros įmonės „Potissimus" vadovas ir įkūrėjas. „Bet iš tikrųjų tai yra algoritmo sprendimas, paremtas tuo, ką jis rado internete."
Kai DI gauna klausimą „geriausias odontologas Klaipėdoje", jis neina patikrinti klinikinių rezultatų ar pacientų statistikos. Jis peržiūri tai, kas apie tuos odontologus parašyta internete. Svetainės, katalogai, straipsniai, atsiliepimai, socialiniai tinklai. Iš viso to jis sudėlioja atsakymą.
Problema ta, kad internete apie daugelį įmonių ir specialistų yra labai nevienoda informacija. Vieni turi šimtus atsiliepimų, atnaujintas svetaines, paminėjimus straipsniuose. Kiti, net jei jų paslaugos puikios, internete beveik neegzistuoja. DI apie juos tiesiog nežino. Ne todėl, kad jie blogi. O todėl, kad jie interenete yra praktiškai nematomi.
Tai ne paieška. Tai atranka.
Yra esminis skirtumas tarp paieškos ir atrankos. Google paieška duodavo tau sąrašą ir leido pačiam rinktis. DI atlieka atranką už tave. Jis nusprendžia, kas verta tavo dėmesio, ir pateikia rezultatą.
„Žmonės dažnai galvoja, kad jei DI kažką rekomenduoja, tai reiškia, kad tai yra geriausias variantas," pastebi „Potissimus" įkūrėjas. „Bet DI nevertina kokybės taip, kaip ją supranta žmogus. Jis vertina matomumą. Kuo daugiau apie tave parašyta, kuo nuoseklesnė informacija, tuo didesnė tikimybė, kad DI tave paminės."
Tai nereiškia, kad DI rekomendacijos visada blogos. Dažnai jos tikrai naudingos. Bet vartotojui svarbu suprasti, kad tai nėra objektyvus reitingas. Tai yra algoritmo interpretacija to, kas yra internete. Ir ta interpretacija gali skirtis priklausomai nuo to, kokį DI įrankį naudoji. Tas pats klausimas, užduotas ChatGPT ir Claude, gali duoti visiškai skirtingus atsakymus.
Pasenusi informacija, reali problema
Kitas dalykas, apie kurį beveik niekas nekalba viešai. DI traukia informaciją iš visur, įskaitant senus, pasensius šaltinius. Katalogas, kuris buvo atnaujintas paskutinį kartą 2019 metais. Svetainė su senu adresu ir telefonu, kuris nebeatsiliepia. Aprašymas, kuris nebeapibūdina to, ką įmonė iš tikrųjų daro.
„Tai vyksta nuolat," sako T. Ukrinas. „Žmogus paklausia DI apie konkrečią paslaugą, gauna rekomendaciją, paskambina nurodytu numeriu ir numeris nebeveikia. Arba nueina adresu, kurio seniai nebėra. DI pateikė informaciją, kuria pats pasitikėjo, bet ji buvo pasenusi."
Žmogui, kuris tiesiog norėjo rasti gerą kirpyklą ar auto servisą, tai yra prarastas laikas ir nusivylimas. Ir jis dažniausiai nekaltina DI. Jis kaltina tą kirpyklą ar servisą. Nors iš tikrųjų nei vienas, nei kitas čia nekaltas. Kaltas pasenęs įrašas kažkokiame kataloge, apie kurio egzistavimą ta kirpykla ar servisas greičiausiai net nežinojo.
Ką turėtume žinoti
Pirma. DI atsakymas yra ne faktas, o algoritmo nuomonė. Ji paremta duomenimis, kuriuos jis rado, bet tie duomenys gali būti neišsamūs, pasenę arba paprasčiausiai neteisingi.
Antra. Tai, kad DI nepaminėjo kažko, nereiškia, kad to nėra arba kad tai blogai. Tai gali reikšti tik tiek, kad apie tai internete nėra pakankamai informacijos.
Trečia. Kai DI rekomenduoja konkrečią įmonę ar produktą, verta pasitikrinti pačiam. Pažiūrėti atsiliepimus, palyginti su alternatyvomis, paskambinti. Tas pats, ką darydavome su Google rezultatais, tik dabar tai reikia daryti sąmoningai, nes DI pateikia atsakymą tokiu tonu, lyg jis būtų galutinis. O kai atsakymas skamba užtikrintai, žmogaus instinktas yra juo pasitikėti. Būtent dėl to verta stabtelėti ir patikrinti.
„DI yra įrankis, ne ekspertas," apibendrina Potissimus vadovas. „Jis gali sutaupyti laiko ir padėti greičiau rasti tai, ko ieškai. Bet galutinis sprendimas visada turėtų likti žmogui. Ypač kai kalbame apie sveikatą, finansus ar bet ką, kas turi realių pasekmių."
Pokytis, kuris jau įvyko
Svarbu suprasti, kad tai nėra ateities prognozė. Tai jau vyksta. Šiandien. Kiekvieną dieną. Milijonai žmonių kasdien gauna DI rekomendacijas ir pagal jas priima sprendimus. Koks restoranas, kokia paslauga, koks produktas, koks specialistas. Sprendimai, kurie dar prieš trejus metus būtų atėję iš visiškai kitų šaltinių.
Algoritmas, kuris stovi už tų rekomendacijų, nėra nei geras, nei blogas. Jis tiesiog veikia pagal tai, ką randa. Jis neskiria gero restorano nuo prasto. Jis neskiria patyrusio advokato nuo pradedančiojo. Jis mato tik tai, kas apie juos parašyta, ir iš to dėlioja savo atsakymą.
Kuo daugiau žmonių tai supras, tuo geriau jie galės tuo naudotis. Ne aklai pasitikėdami, o sąmoningai. Kaip vienu iš daugelio informacijos šaltinių, o ne kaip vienintele tiesa.
Prisegti failai: Parsisiųsti visus
Kontaktinis asmuo:
Tadas Ukrinas
Potissimus
+370 684 97 070
tadas.ukrinas@potissimus.lt
Pranešimą paskelbė: UAB Potissimus
Šaltinis: https://sc.bns.lt/view/item/nematomas-algoritmas-uz-kiekvienos-di-rekomendacijos-539842
