Vlada SAD-a blokirala Anthropicove najmoćnije AI modele
Zbog nacionalne sigurnosti ugašeni modeli Claude Fable 5 i Mythos 5
Američka vlada naredila je u petak tvrtki Anthropic trenutno gašenje pristupa njezinim najmoćnijim modelima umjetne inteligencije — Claude Fable 5 i Claude Mythos 5 — navodeći zabrinutost za nacionalnu sigurnost. Anthropic je potvrdio na platformi X da su udovoljili zahtjevu, iako je tvrtka jasno dala do znanja kako smatra da vlada u ovom slučaju griješi.
Ključni detalji
Direktiva koju je Anthropic zaprimio prisiljava tvrtku na onemogućavanje pristupa obama modelima za sve korisnike diljem svijeta, a ne samo stranim državljanima na koje je nominalno usmjerena odluka o kontroli izvoza. Pristup ostalim modelima tvrtke Anthropic za sada nije pogođen. Vlada se navodno poziva na potencijalni, iako uski, mehanizam zaobilaženja sigurnosnih protokola koji bi mogao omogućiti modelu analizu koda i pronalaženje softverskih ranjivosti.
Zašto je to važno
Ova intervencija predstavlja presedan u regulaciji generativne umjetne inteligencije. Anthropic je prethodno uložio velike napore u promoviranje modela Mythos kao izuzetno sposobnog za pronalaženje sigurnosnih propusta, zbog čega ga je i ograničio na manji broj odabranih tvrtki. Sada ta ista retorika na kojoj je Anthropic gradio imidž odgovorne tvrtke služi vladi kao temelj za obustavu, što značajno narušava poslovne planove tvrtke.
Tehnička pozadina
- Mythos 5 identificirao je propuste u svakom većem operativnom sustavu i web pregledniku, zbog čega je dijeljen isključivo u sklopu programa Project Glasswing za obrambeni rad u kibernetičkoj sigurnosti.
- Fable 5 je komercijalizirana inačica opremljena sigurnosnim ograničenjima kako bi se spriječilo generiranje opasnih odgovora u domenama kibernetičke sigurnosti i biologije.
- Vlada se navodno poziva na uski oblik "jailbreaka" u modelu Fable 5, dok Anthropic ističe da se zaštita oslanja na neovisne sustave klasifikatora koji ostaju aktivni čak i ako korisnik navede model na ignoriranje primarnih uputa.
Širi kontekst
Odluka stiže u vrlo osjetljivom trenutku za Anthropic koji se priprema za inicijalnu javnu ponudu (IPO). Istovremeno, druge vodeće tvrtke u industriji, poput OpenAI-ja, imaju modele sličnih mogućnosti koji i dalje ostaju javno dostupni. Ako vlada primijeni isti standard na čitavu industriju, moglo bi doći do potpunog zastoja u uvođenju novih naprednih AI modela na tržište.
Što slijedi
Očekuju se daljnje reakcije pravnih stručnjaka i same industrije kako bi se utvrdilo predstavlja li ova odluka jednokratan potez ili novu normu vladinog nadzora nad tehnologijom. Anthropic će se vjerojatno pokušati brzo prilagoditi ili pravno osporiti ovu iznenadnu blokadu uoči svog mogućeg izlaska na burzu.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
