Tuo metu kritikai sako, kad tai gali būti paprasčiausias „baimės kurstymas“ arba net apgalvotas žingsnis siekiant užkariauti investuotojus.
Ar turėtume nerimauti?
Abi San Franciske įsikūrusios įmonės – „ChatGPT“ ir „Claude“ kūrėjos – kalba apie tą patį scenarijų – vadinamąjį grįžtamąjį savęs tobulinimą – procesą, kuomet DI sistema pati analizuoja, modifikuoja ir perrašo savo pačios kodą, architektūrą ar mokymo metodus, kad taptų dar protingesnė ir efektyvesnė, kas leistų DI sistemai sukurti ir apmokyti naujos kartos DI beveik be žmogaus įsikišimo.
Praėjusią savaitę „Anthropic“ šį scenarijų pavadino įmanomu, bet neaiškiu. Pirmadienį „OpenAI“ žengė dar toliau ir prognozuoja, kad tai gali įvykti iki 2028 metų kovo. Ar tai geras dalykas, ar blogas? „OpenAI“ tai laiko tikslu ir teigia, kad tai būtų sukurtas automatizuotas tyrėjas, galintis pagreitinti mokslinius atradimus.
„ChatGPT“ kūrėjai žada asmeninį DI kiekvienam Žemės gyventojui. Tai, jų teigimu, galėtų būti dar labiau transformuojantis dalykas nei elektra ar automobilis. Jie teigia, kad, kaip ir šios technologijos, DI galima padaryti saugų, kai tik visuomenė sukurs tinkamas apsaugos priemones, lygiai taip pat, kaip galiausiai buvo sukurti saugos diržai, greičio apribojimai ir vairuotojo pažymėjimai.
„Anthropic“ taip pat kalba apie galimus proveržius medicinoje, technologijose ir ekonomikoje, tačiau kalba atsargiau ir atvirai įspėja apie „kontrolės praradimo“ riziką.
Tarptautinis koordinavimas
Abi įmonės iškėlė tarptautinio koordinavimo idėją, kad visos pramonės šakos, įskaitant kinų konkurentus ir „Google“, kartu sulėtintų DI plėtrą. Tai prieštarauja dabartinei dinamikai, kai kiekviena laboratorija stengiasi pritraukti kuo daugiau investicijų, kad galėtų tapti rinkos lydere.
Praėjusią savaitę „Anthropic“ pasiūlė pasaulinę koordinavimo sistemą, kad laikinai būtų sustabdyta pažangiausio DI plėtra, bet tik tuo atveju, jei nė viena konkurentė nepasinaudos šia pertrauka, kad aplenktų kitas. Tačiau manoma, kad tokios sąlygos įgyvendinti yra beveik neįmanoma.
„OpenAI“ pirmadienį taip pat pristatė idėją dėl galimo daugiašalio organo, kuris „prireikus galėtų sulėtinti pažangaus DI plėtrą“.
Nė viena iš šių idėjų nėra nauja. „OpenAI“ nuo 2023 metų ragina įsteigti tarptautinę DI instituciją, panašią į Jungtinių Tautų branduolinės saugos priežiūros agentūrą (TATENA), turinčią įgaliojimus riboti „DI pajėgumų augimo tempą“.
Tuo metu tiek „OpenAI“, tiek „Anthropic“ maždaug kas keturias-šešias savaites išleidžia naujus DI modelius.
Vasario mėnesį „Anthropic“ atnaujino savo vidines gaires dėl elgesio, kurio ji niekada neleis.
Pataisytoje versijoje dabar yra dvi skiltys: ką įmonė atsisako daryti pati ir ką, jos nuomone, turėtų vengti visa pramonė, tačiau įsipareigoti to daryti vienašališkai ji nesiryžta.
„Baimės kurstymas“
Šiuo metu „OpenAI“ ir „Anthropic“ ruošiasi IPO procesui. Birželio pradžioje jos abi paskelbė, kad pateikė preliminarias IPO paraiškas – dar ne viešas, kurios laikomos būdu įvertinti investuotojų susidomėjimą ir pasirengti greitam įtraukimui į biržos sąrašus.
Technologijų sektoriaus verslininkas ir buvęs Donaldo Trumpo (Donaldo Trampo) administracijos vyriausiasis patarėjas DI klausimais Davidas Sacksas (Deividas Saksas) apkaltino „Anthropic“ „baimės kurstymu“ ir teigia, kad įmonė siekia vyriausybės reguliavimo DI srityje, turėdama paslėptą tikslą pašalinti konkurentus. Prancūzas DI tyrėjas Yannas LeCunas (Janas Lekanas) jam pritaria.
Kita vertus, judėjimas „Stop AI“ teigia, kad šie įsipareigojimai yra tušti žodžiai.
Abiejų bendrovių kalbos apie galimą DI plėtros lėtinimą „man atrodo kaip rinkodaros triukas prieš IPO, siekiant sušvelninti visuomenės nepasitenkinimą (DI atžvilgiu)“, – sakė mokslininkas Gary Marcusas (Geris Markusas), tapęs vienu iš ryškiausių DI kritikų.
Tuo metu šifruotų žinučių programėlės „Signal“ prezidentė Meredith Whittaker (Meredit Vitaker), teigia, kad „tikrasis pavojus nėra ateityje“, kad tai kažkokios tolimos grėsmės, apie kurias kalba minėtos dvi bendrovės, bet jos jau matomos dabar ir pasireiškia darbo vietų praradimu, išplėstu žmonių stebėjimu ir didėjančia galios koncentracija.
