Iš Kinijos DI modelių – instrukcija, kaip pagaminti biologinius ginklus ir žudyti

DI sistemų saugumą tikrinanti bendrovė „Mindgard“ BBC pranešė, kad liepos mėnesį nustatė, jog DI modeliai „Kimi K2.6“ ir „K3 Swarm“ sugebėjo apeiti kūrėjų nustatytus saugumo apribojimus. Tai paaiškėjo vykdant procesą, vadinamą „pabėgimu iš kalėjimo“, kurio metu tyrėjai naudoja sudėtingų instrukcijų seką, kad patikrintų, ar DI įrankiai ignoruoja apribojimus. Pasak „Mindgard“, tokios priemonės turėjo užkirsti kelią „Kimi“ modeliams aptarti nerimą keliančias temas.

„Moonshot“ BBC teigė palankiai vertinanti trečiųjų šalių pastabas „kaip pagrindinį ramstį kuriant geresnį ir saugesnį DI“. Bendrovė taip pat pranešė BBC, kad dėl šių išvadų veda derybas su „Mindgard“.