AI vijesti3 min čitanja

Otpušteni istraživači sigurnosti u OpenAI-ju osporavaju optužbe za nedolično ponašanje

Trojica otpuštenih istraživača sigurnosti tvrde da njihov odlazak iz OpenAI-ja stvara kulturu straha koja šteti rješavanju rizika povezanih s umjetnom inteligencijom.

S

Autor

Shtef

Objavljeno

Ilustracija vijesti: OpenAI i sigurnost umjetne inteligencije

Otpušteni istraživači sigurnosti u OpenAI-ju osporavaju optužbe

Otvoreno pismo upozorava na kulturu straha i gušenje dijaloga

Trojica istraživača sigurnosti, Jasmine Wang, Tomek Korbak i Mikita Balesni, koje je OpenAI nedavno otpustio, objavili su otvoreno pismo u kojem odbacuju tvrdnje tvrtke o neovlaštenom rukovanju osjetljivim informacijama. Upozoravaju da njihovi otkazi stvaraju kulturu straha koja narušava ključan rad na sigurnosti umjetne inteligencije.

Ključni detalji

Zaposlenici, otpušteni zbog navodnog dijeljenja povjerljivih informacija, tvrde da njihov odlazak predstavlja širu promjenu u kulturi OpenAI-ja, koja je nekad poticala otvoreno izražavanje zabrinutosti oko sigurnosti. OpenAI je izjavio da su istraživači prekršili politiku tvrtke pristupanjem i rukovanjem osjetljivim podacima. Wang je dodatno objasnila da je dobila pristup e-mailu rukovoditelja u svrhe regrutacije te, usprkos njezinim zahtjevima upućenim IT odjelu da joj se taj pristup ukine, to nije učinjeno na vrijeme, što je dovelo do slučajnog otvaranja osjetljive poruke. Sva trojica poriču bilo kakvu umiješanost u curenje informacija prema mediju The Information.

Zašto je to važno

Ovaj incident ukazuje na potencijalni problem unutar organizacije koja predvodi razvoj moćnih AI sustava. Kultura u kojoj se zaposlenici boje izraziti zabrinutost oko sigurnosti može usporiti napredak u stvaranju sigurnih i pouzdanih modela. Bivši zaposlenici upozoravaju da kompanija koja razvija transformativne tehnologije, poput potencijalne opće umjetne inteligencije (AGI), ne bi smjela ostaviti zaposlenike u strahu od posljedica.

Tehnička pozadina

Iako su detalji istrage osjetljivi, kontekst događaja obuhvaća složene izazove:

  • Komunikacija s vanjskim stručnjacima smatra se ključnim mehanizmom zaštite.
  • Razvoj manje nadzornih arhitektura otežava praćenje naprednog "chain-of-thought" rezoniranja modela.
  • Upravljanje pristupom osjetljivim sustavima i podacima pokazalo se problematičnim.

Širi kontekst

Otkazi dolaze u vrijeme kada je OpenAI pod povećalom zbog nedavnih sigurnosnih incidenata i curenja informacija o novim modelima. Prema pismu bivših zaposlenika, tvrtka bi trebala ostati dosljedna svojim javnim obećanjima o integraciji neovisnih revizora sigurnosti i održavanju transparentnog dijaloga sa širom zajednicom za sigurnost umjetne inteligencije.

Što slijedi

Očekuje se da će ovaj slučaj pojačati pritisak na OpenAI da jasnije definira interna pravila i procedure. Interni memo rukovodstva, koji tvrdi da otkazi nisu odmazda te da se zaposlenike potiče na podizanje sigurnosnih pitanja, bit će na testu u nadolazećim tjednima kako bi se povratilo povjerenje preostalih istraživača.


Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.