Anthropic ukida pristup modelima Fable i Mythos zbog vlade SAD-a
Sigurnosni nalog prekida pristup modelima u cijelom svijetu
Američka vlada donijela je direktivu o kontroli izvoza zbog zabrinutosti za nacionalnu sigurnost, čime je naložila tvrtki Anthropic prekid pristupa naprednim AI modelima Fable 5 i Mythos 5. Odluka je stupila na snagu u petak navečer te zabranjuje korištenje spomenutih modela svim stranim državljanima.
Ključni detalji
Anthropic je potvrdio da postupa u skladu s nalogom te je obustavio pristup modelima Fable 5 i Mythos 5 za sve korisnike širom svijeta, uključujući i SAD. Zanimljivo je da mjera obuhvaća i same zaposlenike tvrtke. Vlada u svom nalogu nije navela konkretne detalje, već je usmeno upozorila na potencijalne rizike vezane za mogućnosti "jailbreaka".
Zašto je to važno
Ovaj potez predstavlja jedan od najagresivnijih koraka američke administracije u reguliranju najmodernijih modela umjetne inteligencije do sada. Prekid pristupa za međunarodne korisnike pokazuje sve veću osjetljivost vlade na to tko ima mogućnost razvoja i korištenja naprednih AI alata, koje vide kao tehnologiju presudnu za nacionalnu i globalnu sigurnost.
Tehnička pozadina
Tvrtka Anthropic smatra da su dosadašnja otkrića o ranjivostima bila manjeg značaja. Ističu da otkriveni potencijalni načini zaobilaženja pravila (jailbreak) ne daju specifičnu prednost ovim modelima.
- Mnoge spomenute ranjivosti navodno već postoje u konkurentskim modelima, poput GPT-a 5.5.
- Vlada nije predočila dokaze o "non-universal" ranjivostima koje bi dovele do ozbiljnijih incidenata.
- Anthropic usko surađuje s vladama SAD-a i Ujedinjenog Kraljevstva na unapređenju sigurnosti.
Širi kontekst
Kao odgovor na situaciju, Anthropic je izmijenio svoju politiku zadržavanja podataka kako bi bolje pratio i spriječio pokušaje zloupotrebe svojih modela. Iako tvrtka surađuje s vlastima, njihova izjava otkriva jasnu frustraciju zbog nedostatka konkretnih dokaza o specifičnim prijetnjama. Ostali akteri u industriji vjerojatno će pažljivo promatrati ovaj slučaj, jer slična ograničenja mogla bi pogoditi i druge proizvođače najmodernijih modela u budućnosti.
Što slijedi
Očekuje se da će Anthropic nastaviti pregovore sa sigurnosnim agencijama kako bi razjasnio uvjete pod kojima bi se Fable 5 i Mythos 5 mogli vratiti u upotrebu. U međuvremenu, korisnici širom svijeta morat će potražiti alternative za svoje projekte dok se ne razjasni nova regulatorna klima u Sjedinjenim Američkim Državama.
Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
