OpenAI predstavlja Lockdown Mode za ChatGPT
Dodatna zaštita za osjetljive podatke
OpenAI je najavio novu značajku pod nazivom Lockdown Mode. Njezin je cilj pružiti korisnicima dodatnu zaštitu od napada koji pokušavaju umetnuti zlonamjerne naredbe.
Ključni detalji
Nova funkcionalnost ograničit će određene mogućnosti sustava kako bi se spriječilo neovlašteno izvlačenje podataka. Kada je Lockdown Mode uključen, ChatGPT neće moći koristiti pretraživanje weba uživo, preuzimati i prikazivati slike s interneta, provoditi dubinsko istraživanje niti raditi u agentskom načinu rada. Korisnici će i dalje moći generirati slike, ali će biti ograničeni na pregledavanje već predmemoriranog sadržaja umjesto interneta uživo.
Zašto je to važno
Sigurnost podataka jedan je od najvećih izazova u primjeni umjetne inteligencije u poslovnom svijetu. Ovaj potez pokazuje da OpenAI ozbiljno shvaća rizike poput "prompt injection" napada, gdje se skrivene upute u web stranicama mogu iskoristiti za manipulaciju ponašanjem jezičnih modela. Iako nova mjera ne eliminira rizik u potpunosti, znatno smanjuje mogućnost krađe osjetljivih podataka.
Tehnička pozadina
Napad putem umetanja naredbi ("prompt injection") događa se kada model procesuira vanjske podatke koji sadrže skrivene instrukcije.
- Model može nesvjesno izvršiti te instrukcije.
- Napadači mogu pokušati preusmjeriti osjetljive podatke.
- Isključivanjem pretraživanja uživo i agentskih mogućnosti, smanjuje se površina za napad.
Širi kontekst
Ova značajka nije namijenjena svim korisnicima, već onima koji barataju vrlo osjetljivim informacijama. OpenAI prvo uvodi Lockdown Mode za poslovne korisnike s vlastitim upravljanjem te za odabrane osobne račune. To je dio šireg trenda u industriji umjetne inteligencije gdje sigurnost i kontrola postaju jednako važni kao i same mogućnosti modela.
Što slijedi
Za očekivati je da će i druge tvrtke koje razvijaju jezične modele uvesti slične sigurnosne mehanizme. Organizacije će morati pažljivo vagati između pune funkcionalnosti AI sustava i razine sigurnosti koja im je potrebna.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
