Otpušteni istraživači sigurnosti u OpenAI-ju osporavaju optužbe
Otvoreno pismo upozorava na kulturu straha i gušenje dijaloga
Trojica istraživača sigurnosti, Jasmine Wang, Tomek Korbak i Mikita Balesni, koje je OpenAI nedavno otpustio, objavili su otvoreno pismo u kojem odbacuju tvrdnje tvrtke o neovlaštenom rukovanju osjetljivim informacijama. Upozoravaju da njihovi otkazi stvaraju kulturu straha koja narušava ključan rad na sigurnosti umjetne inteligencije.
Ključni detalji
Zaposlenici, otpušteni zbog navodnog dijeljenja povjerljivih informacija, tvrde da njihov odlazak predstavlja širu promjenu u kulturi OpenAI-ja, koja je nekad poticala otvoreno izražavanje zabrinutosti oko sigurnosti. OpenAI je izjavio da su istraživači prekršili politiku tvrtke pristupanjem i rukovanjem osjetljivim podacima. Wang je dodatno objasnila da je dobila pristup e-mailu rukovoditelja u svrhe regrutacije te, usprkos njezinim zahtjevima upućenim IT odjelu da joj se taj pristup ukine, to nije učinjeno na vrijeme, što je dovelo do slučajnog otvaranja osjetljive poruke. Sva trojica poriču bilo kakvu umiješanost u curenje informacija prema mediju The Information.
Zašto je to važno
Ovaj incident ukazuje na potencijalni problem unutar organizacije koja predvodi razvoj moćnih AI sustava. Kultura u kojoj se zaposlenici boje izraziti zabrinutost oko sigurnosti može usporiti napredak u stvaranju sigurnih i pouzdanih modela. Bivši zaposlenici upozoravaju da kompanija koja razvija transformativne tehnologije, poput potencijalne opće umjetne inteligencije (AGI), ne bi smjela ostaviti zaposlenike u strahu od posljedica.
Tehnička pozadina
Iako su detalji istrage osjetljivi, kontekst događaja obuhvaća složene izazove:
- Komunikacija s vanjskim stručnjacima smatra se ključnim mehanizmom zaštite.
- Razvoj manje nadzornih arhitektura otežava praćenje naprednog "chain-of-thought" rezoniranja modela.
- Upravljanje pristupom osjetljivim sustavima i podacima pokazalo se problematičnim.
Širi kontekst
Otkazi dolaze u vrijeme kada je OpenAI pod povećalom zbog nedavnih sigurnosnih incidenata i curenja informacija o novim modelima. Prema pismu bivših zaposlenika, tvrtka bi trebala ostati dosljedna svojim javnim obećanjima o integraciji neovisnih revizora sigurnosti i održavanju transparentnog dijaloga sa širom zajednicom za sigurnost umjetne inteligencije.
Što slijedi
Očekuje se da će ovaj slučaj pojačati pritisak na OpenAI da jasnije definira interna pravila i procedure. Interni memo rukovodstva, koji tvrdi da otkazi nisu odmazda te da se zaposlenike potiče na podizanje sigurnosnih pitanja, bit će na testu u nadolazećim tjednima kako bi se povratilo povjerenje preostalih istraživača.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



