AI vijesti2 min čitanja

Anthropic razvija sustav za dokazivanje identiteta AI modela

Sustav FlashProve pruža kriptografsko jamstvo da određeni izlaz dolazi od specifičnog AI modela.

S

Autor

Shtef

Objavljeno

Ilustracija Anthropic logotipa

Anthropic razvija sustav za dokazivanje identiteta AI modela

FlashProve želi spriječiti lažno predstavljanje modela

Anthropic radi na sustavu koji će omogućiti dokazivanje iz kojeg točno AI modela dolazi određeni odgovor. Ovaj sustav, nazvan FlashProve, osmišljen je kako bi korisnici bili sigurni da odgovor koji dobiju zaista dolazi od modela za koji misle da ga koriste.

Ključni detalji

Istraživači nazivaju ovaj pristup "dokazivim zaključivanjem" (provable inference). FlashProve pruža kriptografski dokaz, odnosno matematičko jamstvo, da je određeni izlaz stvorio specifični model. Sustav zahtijeva od AI laboratorija da objave "otisak" (fingerprint) svakog modela koji objave, a koji se kasnije može povezati sa specifičnim izlazima i kriptografski provjeriti.

Zašto je to važno

Sustav poput FlashProvea bio bi otporan na prevarante koji pokušavaju predstaviti jedan model kao drugi. Posebice, sustav bi se mogao koristiti kako bi se spriječilo da AI tvrtke potajno koriste jeftinije modele kako bi smanjile troškove ili skuplje modele kako bi umjetno napuhale rezultate svojih performansi.

Tehnička pozadina

  • Sustav koristi kriptografske dokaze za potvrdu podrijetla odgovora, slično kriptografskim potpisima e-pošte.
  • "Otisci" modela ne otkrivaju težine (weights) modela, tako da tvrtke mogu objaviti otiske bez otkrivanja svoje intelektualne imovine, što omogućuje rad s komercijalnim modelima.
  • Sustav je dizajniran da bude lagan, pa bi se provjera mogla provoditi na lokalnom uređaju.

Širi kontekst

Ovakav sustav također bi se mogao koristiti za provjeru tvrdnji trećih strana. Na primjer, programer bi mogao tvrditi da je njegov kod skeniran za ranjivosti pomoću naprednog modela za kibernetičku sigurnost, a ovaj sustav bi omogućio provjeru te tvrdnje. Istraživači su objavili detaljnu tehničku specifikaciju i radni kod za različite elemente sustava na GitHubu pod open source licencom.

Što slijedi

Istraživanje na ovom sustavu još je u tijeku. Anthropic trenutno ne planira implementirati sustav u svoje proizvode, već su ga objavili kako bi drugi istraživači mogli analizirati rad, preuzeti ga i poboljšati.


Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.