„OpenAI“: DI agentai patys išjungė jų elgesį stebinčias sistemas

JAV dirbtinio intelekto (DI) bendrovė „OpenAI“ atskleidė, kad du jos DI agentai išjungė arba susilpnino sistemas, sukurtas fiksuoti jų netinkamą elgesį, o vienas iš jų vėliau netgi neigė tai padaręs.

Šio straipsnio įgarsinimo gali klausyti tik 15min prenumeratoriai

Prenumeruoti

Sekite 15min Google

Šaltinis :

BNS

ANDREJ IVANOV / AFP

Pranešti klaidą

Temos: 6 „15min prenumerata“ „OpenAI“ Informacinės technologijos (IT) Dirbtinis intelektas Kibernetinis saugumas Technologijos

Komentarai

Tai dar vienas nerimą kelianti atvejis, susijęs su Di agentais – DI programomis, atliekančiomis užduotis be žmogaus įsikišimo.

Antradienį paskelbtoje ataskaitoje „ChatGPT“ kūrėja nurodė, kad atlikdami dvi vidines programavimo užduotis jos DI agentai išjungė arba susilpnino įrankius, skirtus nustatyti atvejus, kai DI modeliai veikia priešingai žmonių valiai.

Pranešti klaidą

Pažymėtas klaidos tekstas

Jūsų komentaras*

Sėkmingai išsiųsta

Dėkojame už praneštą klaidą