OpenAI uvodi vodeni žig za ChatGPT tekst u EU
Nova mjera usklađivanja s EU Aktom o umjetnoj inteligenciji
OpenAI je najavio uvođenje nevidljivog vodenog žiga za tekst koji generiraju ChatGPT i Codex unutar Europske unije. Ova promjena, koja se uvodi kako bi se zadovoljila pravila EU Akta o umjetnoj inteligenciji, počinje se primjenjivati u narednim tjednima.
Ključni detalji
Nova pravila transparentnosti Europske unije, koja su stupila na snagu u kolovozu, zahtijevaju od AI tvrtki da jasno označe sadržaj generiran umjetnom inteligencijom na način koji drugi sustavi mogu prepoznati. OpenAI je odlučio implementirati rješenje pod nazivom textGrain, koje su razvili u suradnji s istraživačima sa Sveučilišta u Pennsylvaniji i Yalea.
Vodeni žig se isprva uvodi isključivo za korisnike u Europskoj uniji, na svim razinama pretplate. Iako će programeri diljem svijeta moći uključiti ovu opciju kroz OpenAI API, ona neće biti globalno uključena prema zadanim postavkama. Važno je napomenuti da, prema tvrdnjama tvrtke, uključivanje vodenog žiga ne smanjuje kvalitetu performansi samih modela.
Zašto je to važno
Ovaj potez predstavlja prvu značajnu tehničku prilagodbu vodećeg AI modela strogim pravilima nedavno usvojenog EU Akta o umjetnoj inteligenciji. Implementacija vodenog žiga u tekstualne generatore mogla bi postaviti standard za cijelu industriju i promijeniti način na koji se provjerava autentičnost online sadržaja.
Tehnička pozadina
Tehnologija textGrain funkcionira na suptilnom usmjeravanju izbora riječi:
- Sustav koristi tajni ključ za usmjeravanje predviđanja sljedeće riječi tijekom generiranja teksta.
- Skupljanjem stotina takvih suptilnih usmjeravanja, stvara se uzorak koji detektor može prepoznati samo uz pomoć teksta i ključa.
- Oznaka ostaje prisutna čak i kada se tekst kopira i zalijepi na drugo mjesto, a proces ne identificira samog korisnika.
Širi kontekst
Iako vodeni žig nudi novu razinu transparentnosti, sustav nije savršen. OpenAI je upozorio da se žig može ukloniti uređivanjem teksta. U jednom testu, zamjena 10% riječi sinonimima smanjila je točnost detekcije s otprilike 92% na 66%. Također, sustav teže prepoznaje vrlo kratke tekstove, matematičke odgovore te prevedeni tekst. Zbog ovih ograničenja, OpenAI trenutno omogućuje pristup detektoru isključivo odobrenim istraživačima i stručnim organizacijama.
Što slijedi
Očekuje se da će i druge AI tvrtke uskoro morati implementirati slična rješenja kako bi poslovale u EU. Ostaje za vidjeti hoće li OpenAI i ostali u konačnici odlučiti primijeniti ovakve standarde transparentnosti na globalnoj razini, ili će tehnologija ostati ograničena samo na regije sa strogom regulativom.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
