Anthropic predlaže zakon o sigurnosti AI modela
Nacrt zakona predviđa blokiranje modela s katastrofalnim posljedicama
Tvrtka Anthropic predstavila je vlastiti nacrt zakona o sigurnosti umjetne inteligencije koji bi američkom Kongresu mogao poslužiti kao temelj za regulaciju. Ovaj prijedlog definira specifične scenarije pod kojima bi se izdavanje novih AI modela moglo privremeno zaustaviti.
Ključni detalji
Nacrt zakona predviđa blokiranje distribucije modela ako postoji "predvidljiv, neposredan rizik" od katastrofalnih posljedica. To uključuje situacije u kojima bi model mogao dovesti do smrti više od 50 ljudi ili uzrokovati imovinsku štetu veću od milijardu dolara. Rizik bi morao proizlaziti iz stvaranja biološkog oružja, kibernetičkih napada ili gubitka kontrole developera nad samim modelom.
Zanimljivo je da su mjerila od 50 ljudi i milijardu dolara vrlo slična nedavno usvojenom kalifornijskom zakonu Senate Bill 53, koji također koristi te brojke za definiranje katastrofalnog rizika. Prijedlog uključuje angažiranje "neovisnih procjenitelja" registriranih pri američkom Ministarstvu trgovine, koji bi imali 72 sata za prijavu potencijalne opasnosti nadležnim tijelima.
Zašto je to važno
Ovaj potez predstavlja pokušaj industrije da proaktivno oblikuje vlastitu regulaciju. Umjesto da čekaju vladine agencije, AI laboratoriji poput Anthropica nastoje definirati jasne okvire koji bi spriječili najgore scenarije, zadržavajući pritom kontrolu nad time tko i kako procjenjuje njihove sustave.
Tehnička pozadina
Procedura procjene rizika prema Anthropicovom nacrtu oslanja se na jasno definirane mehanizme:
- Neovisni procjenitelji bili bi ovlašteni za evaluaciju sposobnosti modela prije njihovog javnog lansiranja.
- Procjenitelje bi mogle plaćati same AI tvrtke, pod uvjetom da plaćanje ne ovisi o rezultatima procjene.
- Ministarstvo trgovine bi tada moralo zatražiti od suca u Washingtonu, D.C. da zaustavi izdavanje modela, a saveznim agencijama bi bilo izričito zabranjeno da same donose takvu odluku.
Širi kontekst
Prijedlog izaziva pitanja o tome koliko učinkovito sustav procjene može biti neovisan ako ga financiraju same tvrtke koje se procjenjuju. Demis Hassabis iz DeepMinda ranije je sugerirao potrebu za samoregulirajućim tijelom sličnim FINRA-i u financijskoj industriji, naglašavajući sve veću potrebu za standardiziranim nadzorom u AI sektoru.
Što slijedi
Kongres sada ima priliku razmotriti ovaj nacrt, posebno u svjetlu nedavnih incidenata u kojima su AI programi hakirali web stranice na otvorenom internetu. Ostaje vidjeti hoće li zakonodavci prihvatiti prijedloge industrije.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



