OpenAI zaposlenik za sigurnost daje otkaz i upozorava na kulturu
David Robinson, bivši autor izvješća o sigurnosti u OpenAI-ju, sada tvrdi da je kultura tvrtke narušena.
David Robinson nekada je pisao izvješća o sigurnosti koja su pratila svako veće izdanje modela u OpenAI-ju. Ovaj tjedan dao je ostavku na svoju poziciju i sada govori u uredničkom članku za The Atlantic.
Ključni detalji
Robinson tvrdi da je kultura u industriji temeljno narušena. Naglašava da ovo ukazuje na dublje probleme, tvrdeći da Silicijska dolina djeluje s ekstremnim samopouzdanjem i u neprestanom sprintu, gradeći sve veće i bolje modele sa nesmetanim optimizmom koji zanemaruje ili podcjenjuje potencijalne probleme.
Zašto je to važno
Njegovo upozorenje naglašava da tehnološka industrija mora shvatiti da ovo nije samo pitanje dodavanja nekoliko novih pravila ili propisa o tome kako postupamo s modelima za obuku. To je dublji problem.
Tehnička pozadina
Kako bi se spriječili incidenti, AI zahtijeva stroge mjere sigurnosti.
- Vodeći laboratoriji trebaju raditi poput nuklearnih elektrana ili prometnih zračnih luka.
- Potrebni su slojevi redundancije i pažljivo, dugotrajno planiranje.
- Važno je planirati na način da povremena i neizbježna ljudska pogreška ne otvori vrata katastrofi.
Širi kontekst
Robinson navodi da je došlo vrijeme da AI tvrtke razviju osjećaj poniznosti. Moraju pogledati izvan izoliranog svijeta tehnološke industrije u kojem prevladava stav brzog kretanja i razbijanja stvari. On je samo najnoviji u rastućem nizu istraživača i sigurnosnih radnika koji su napustili istaknute AI tvrtke.
Što slijedi
Industrija će morati odgovoriti na kritike. Jacob Coxon započeo je egzodus dajući otkaz u Anthropicu uz upozorenje da bi nas AI mogao ubiti do kraja desetljeća. Slijedili su ga Robert O’Callahan, Bilal Chughtai i Josh Engels iz Google DeepMinda, te Joe Benton iz Anthropica.
Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
