AI vijesti3 min čitanja

Anthropic uvodi vodene žigove za tekst i slike generirane Claudeom

Odgovor na europska pravila o transparentnosti umjetne inteligencije i AI Act.

S

Autor

Shtef

Objavljeno

Ilustracija označavanja i prepoznavanja teksta kojeg je generirala umjetna inteligencija

Anthropic uvodi vodene žigove za tekst i slike generirane Claudeom

Prilagodba europskim pravilima o transparentnosti AI sustava

Tvrtka Anthropic najavila je implementaciju strojnih vodenih žigova za tekst i slike koje generiraju njezini Claude modeli. Ovaj potez uslijedio je kao odgovor na nova europska pravila o transparentnosti umjetne inteligencije (AI Act).

Ključni detalji

Novi zakon EU-a (AI Act) stupio je na snagu 2. kolovoza, uz poček od četiri mjeseca za postojeće AI proizvode. Anthropic planira integrirati nevidljive oznake na razini samih modela, tako da će one biti prisutne bez obzira koristi li se Claude preko API-ja, glavne aplikacije ili partnerskih usluga poput AWS-a, Google Clouda i Microsoft Foundryja.

Zašto je to važno

Ovo je važan korak prema prepoznavanju sintetičkog sadržaja na internetu, olakšavajući platformama i korisnicima identifikaciju materijala generiranog umjetnom inteligencijom, što je ključno za suzbijanje dezinformacija.

Tehnička pozadina

  • Za slike će se koristiti C2PA standard, koji već podržavaju tvrtke poput Adobea, OpenAI-ja i Googlea.
  • Tekstualni vodeni žigovi bit će utkani u same odgovore Claude modela na način koji je neprimjetan ljudskom oku i neće utjecati na kvalitetu.
  • Oznake će ostati u tekstu čak i pri kopiranju, te bi trebale preživjeti manje uredničke intervencije.

Širi kontekst

Iako su tehnologije za vodene žigove u razvoju, stručnjaci upozoravaju da C2PA metapodaci često mogu biti izbrisani, ponekad čak i slučajno prilikom učitavanja na online platforme. Pouzdanost označavanja teksta također ostaje pod upitnikom, a i sam Anthropic priznaje da sustavi nisu nepogrešivi.

Što slijedi

Anthropic najavljuje kako će uskoro objaviti tehničku dokumentaciju i alate pomoću kojih će korisnici i treće strane moći samostalno detektirati vodene žigove i metapodatke. Bit će zanimljivo pratiti koliko će sustav biti otporan na namjerne pokušaje uklanjanja oznaka.


Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.