AI vijesti3 min čitanja

OpenAI predstavlja Lockdown Mode za ChatGPT

Nova sigurnosna značajka štiti osjetljive podatke od napada putem umetanja naredbi.

S

Autor

Shtef

Objavljeno

Katanac i štit kao simbol sigurnosti u digitalnom svijetu

OpenAI predstavlja Lockdown Mode za ChatGPT

Dodatna zaštita za osjetljive podatke

OpenAI je najavio novu značajku pod nazivom Lockdown Mode. Njezin je cilj pružiti korisnicima dodatnu zaštitu od napada koji pokušavaju umetnuti zlonamjerne naredbe.

Ključni detalji

Nova funkcionalnost ograničit će određene mogućnosti sustava kako bi se spriječilo neovlašteno izvlačenje podataka. Kada je Lockdown Mode uključen, ChatGPT neće moći koristiti pretraživanje weba uživo, preuzimati i prikazivati slike s interneta, provoditi dubinsko istraživanje niti raditi u agentskom načinu rada. Korisnici će i dalje moći generirati slike, ali će biti ograničeni na pregledavanje već predmemoriranog sadržaja umjesto interneta uživo.

Zašto je to važno

Sigurnost podataka jedan je od najvećih izazova u primjeni umjetne inteligencije u poslovnom svijetu. Ovaj potez pokazuje da OpenAI ozbiljno shvaća rizike poput "prompt injection" napada, gdje se skrivene upute u web stranicama mogu iskoristiti za manipulaciju ponašanjem jezičnih modela. Iako nova mjera ne eliminira rizik u potpunosti, znatno smanjuje mogućnost krađe osjetljivih podataka.

Tehnička pozadina

Napad putem umetanja naredbi ("prompt injection") događa se kada model procesuira vanjske podatke koji sadrže skrivene instrukcije.

  • Model može nesvjesno izvršiti te instrukcije.
  • Napadači mogu pokušati preusmjeriti osjetljive podatke.
  • Isključivanjem pretraživanja uživo i agentskih mogućnosti, smanjuje se površina za napad.

Širi kontekst

Ova značajka nije namijenjena svim korisnicima, već onima koji barataju vrlo osjetljivim informacijama. OpenAI prvo uvodi Lockdown Mode za poslovne korisnike s vlastitim upravljanjem te za odabrane osobne račune. To je dio šireg trenda u industriji umjetne inteligencije gdje sigurnost i kontrola postaju jednako važni kao i same mogućnosti modela.

Što slijedi

Za očekivati je da će i druge tvrtke koje razvijaju jezične modele uvesti slične sigurnosne mehanizme. Organizacije će morati pažljivo vagati između pune funkcionalnosti AI sustava i razine sigurnosti koja im je potrebna.


Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.