AI vijesti3 min čitanja

Anthropic predlaže zakon o sigurnosti AI modela s katastrofalnim rizicima

Novi nacrt zakona predviđa blokiranje AI modela ako predstavljaju opasnost od masovnih žrtava ili ogromne imovinske štete.

S

Autor

Shtef

Objavljeno

Ilustracija uz vijest: Anthropic predlaže zakon o sigurnosti AI modela

Anthropic predlaže zakon o sigurnosti AI modela

Nacrt zakona predviđa blokiranje modela s katastrofalnim posljedicama

Tvrtka Anthropic predstavila je vlastiti nacrt zakona o sigurnosti umjetne inteligencije koji bi američkom Kongresu mogao poslužiti kao temelj za regulaciju. Ovaj prijedlog definira specifične scenarije pod kojima bi se izdavanje novih AI modela moglo privremeno zaustaviti.

Ključni detalji

Nacrt zakona predviđa blokiranje distribucije modela ako postoji "predvidljiv, neposredan rizik" od katastrofalnih posljedica. To uključuje situacije u kojima bi model mogao dovesti do smrti više od 50 ljudi ili uzrokovati imovinsku štetu veću od milijardu dolara. Rizik bi morao proizlaziti iz stvaranja biološkog oružja, kibernetičkih napada ili gubitka kontrole developera nad samim modelom.

Zanimljivo je da su mjerila od 50 ljudi i milijardu dolara vrlo slična nedavno usvojenom kalifornijskom zakonu Senate Bill 53, koji također koristi te brojke za definiranje katastrofalnog rizika. Prijedlog uključuje angažiranje "neovisnih procjenitelja" registriranih pri američkom Ministarstvu trgovine, koji bi imali 72 sata za prijavu potencijalne opasnosti nadležnim tijelima.

Zašto je to važno

Ovaj potez predstavlja pokušaj industrije da proaktivno oblikuje vlastitu regulaciju. Umjesto da čekaju vladine agencije, AI laboratoriji poput Anthropica nastoje definirati jasne okvire koji bi spriječili najgore scenarije, zadržavajući pritom kontrolu nad time tko i kako procjenjuje njihove sustave.

Tehnička pozadina

Procedura procjene rizika prema Anthropicovom nacrtu oslanja se na jasno definirane mehanizme:

  • Neovisni procjenitelji bili bi ovlašteni za evaluaciju sposobnosti modela prije njihovog javnog lansiranja.
  • Procjenitelje bi mogle plaćati same AI tvrtke, pod uvjetom da plaćanje ne ovisi o rezultatima procjene.
  • Ministarstvo trgovine bi tada moralo zatražiti od suca u Washingtonu, D.C. da zaustavi izdavanje modela, a saveznim agencijama bi bilo izričito zabranjeno da same donose takvu odluku.

Širi kontekst

Prijedlog izaziva pitanja o tome koliko učinkovito sustav procjene može biti neovisan ako ga financiraju same tvrtke koje se procjenjuju. Demis Hassabis iz DeepMinda ranije je sugerirao potrebu za samoregulirajućim tijelom sličnim FINRA-i u financijskoj industriji, naglašavajući sve veću potrebu za standardiziranim nadzorom u AI sektoru.

Što slijedi

Kongres sada ima priliku razmotriti ovaj nacrt, posebno u svjetlu nedavnih incidenata u kojima su AI programi hakirali web stranice na otvorenom internetu. Ostaje vidjeti hoće li zakonodavci prihvatiti prijedloge industrije.


Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.