AI vijesti3 min čitanja

OpenAI zaposlenik za sigurnost daje otkaz i upozorava na kulturu

David Robinson napustio je OpenAI i tvrdi da je kultura u industriji umjetne inteligencije temeljno narušena.

S

Autor

Shtef

Objavljeno

Ilustracija uz vijest: OpenAI zaposlenik za sigurnost daje otkaz

OpenAI zaposlenik za sigurnost daje otkaz i upozorava na kulturu

David Robinson, bivši autor izvješća o sigurnosti u OpenAI-ju, sada tvrdi da je kultura tvrtke narušena.

David Robinson nekada je pisao izvješća o sigurnosti koja su pratila svako veće izdanje modela u OpenAI-ju. Ovaj tjedan dao je ostavku na svoju poziciju i sada govori u uredničkom članku za The Atlantic.

Ključni detalji

Robinson tvrdi da je kultura u industriji temeljno narušena. Naglašava da ovo ukazuje na dublje probleme, tvrdeći da Silicijska dolina djeluje s ekstremnim samopouzdanjem i u neprestanom sprintu, gradeći sve veće i bolje modele sa nesmetanim optimizmom koji zanemaruje ili podcjenjuje potencijalne probleme.

Zašto je to važno

Njegovo upozorenje naglašava da tehnološka industrija mora shvatiti da ovo nije samo pitanje dodavanja nekoliko novih pravila ili propisa o tome kako postupamo s modelima za obuku. To je dublji problem.

Tehnička pozadina

Kako bi se spriječili incidenti, AI zahtijeva stroge mjere sigurnosti.

  • Vodeći laboratoriji trebaju raditi poput nuklearnih elektrana ili prometnih zračnih luka.
  • Potrebni su slojevi redundancije i pažljivo, dugotrajno planiranje.
  • Važno je planirati na način da povremena i neizbježna ljudska pogreška ne otvori vrata katastrofi.

Širi kontekst

Robinson navodi da je došlo vrijeme da AI tvrtke razviju osjećaj poniznosti. Moraju pogledati izvan izoliranog svijeta tehnološke industrije u kojem prevladava stav brzog kretanja i razbijanja stvari. On je samo najnoviji u rastućem nizu istraživača i sigurnosnih radnika koji su napustili istaknute AI tvrtke.

Što slijedi

Industrija će morati odgovoriti na kritike. Jacob Coxon započeo je egzodus dajući otkaz u Anthropicu uz upozorenje da bi nas AI mogao ubiti do kraja desetljeća. Slijedili su ga Robert O’Callahan, Bilal Chughtai i Josh Engels iz Google DeepMinda, te Joe Benton iz Anthropica.


Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.