OpenAI predstavlja tehnologiju za privatnost korisnika
Novi sustav nadzora ne zadržava korisničke podatke
OpenAI je najavio novi pristup sigurnosnom nadzoru koji u središte stavlja privatnost poslovnih korisnika. Tvrtka odabranim korisnicima nudi pregled nove usluge pod nazivom "Private Safety Processing", automatiziranog sustava koji prati potencijalnu zloupotrebu bez zadržavanja korisničkih podataka.
Ključne značajke
Sustav "Private Safety Processing" predstavlja tehnologiju koja proširuje postojeću politiku nulte stope zadržavanja podataka (Zero Data Retention). Za razliku od dosadašnjeg praćenja na razini pojedinačne sesije, nova tehnologija omogućuje dugoročniji sigurnosni nadzor koji procjenjuje unose i odgovore tijekom više različitih razgovora.
Nadzor provodi AI agent koji, ako je aktiviran, prepoznaje interakcije i analizira ih kroz više sesija u potrazi za znakovima zloupotrebe. Sustav je osmišljen kako bi zaustavio zlonamjerne aktere koji, na primjer, pokušavaju stvoriti štetni softver raspoređujući svoje zahtjeve na više razgovora kako bi izbjegli detekciju.
Kada sustav prepozna prijetnju, šalje usko definirani signal OpenAI-ju koji upozorava na specifičnu vrstu aktivnosti, a odluka o podjeli dodatnih podataka ostaje u diskreciji samog korisnika.
Zašto je to važno
Ovaj potez jasno se suprotstavlja nedavno objavljenoj politici zadržavanja podataka rivala Anthropica. Anthropicova politika omogućuje laboratoriju zadržavanje svih korisničkih sesija i razgovora na razdoblje od 30 dana za "obuhvaćene modele" kao što je Mythos, što je izazvalo zabrinutost među tvrtkama koje obrađuju velike količine osjetljivih podataka.
OpenAI ovime nastoji pridobiti povjerenje poslovnih korisnika, nudeći snažan sigurnosni nadzor bez kompromitiranja njihove privatnosti, čime izravno izaziva konkurenta.
Tehnička pozadina
Nova tehnologija se oslanja na automatizirane agente koji analiziraju ponašanje korisnika:
- Zlonamjerne namjere detektiraju se povezivanjem obrazaca kroz više odvojenih sesija razgovora.
- Pregled sumnjivih obrazaca obavlja isključivo AI, bez sudjelovanja čovjeka u čitanju korisničkih razgovora.
- OpenAI dobiva upozorenje bez uvida u stvarne razgovore osim ako tvrtka klijent na to ne pristane.
Širi kontekst
Nadmetanje između OpenAI-ja i Anthropica postalo je vrlo napeto, pri čemu obje tvrtke traže prednost na tržištu. Nedavna izvješća pokazuju da su godišnji prihodi Anthropica narasli na 65 milijardi dolara, uz moguću valuaciju na burzi od 2 bilijuna dolara. U isto vrijeme, OpenAI također priprema svoju prvu javnu ponudu dionica (IPO), stoga je povjerenje velikih korporativnih klijenata ključno za obje kompanije.
Što slijedi
Možemo očekivati daljnji razvoj sigurnosnih mehanizama kod svih većih AI igrača jer pritisak poslovnih klijenata za očuvanjem privatnosti podataka raste. Pratit ćemo kako će Anthropic odgovoriti na ovu inovaciju pod pritiskom konkurencije.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
