Anthropic uvodi vodene žigove za tekst i slike generirane Claudeom
Prilagodba europskim pravilima o transparentnosti AI sustava
Tvrtka Anthropic najavila je implementaciju strojnih vodenih žigova za tekst i slike koje generiraju njezini Claude modeli. Ovaj potez uslijedio je kao odgovor na nova europska pravila o transparentnosti umjetne inteligencije (AI Act).
Ključni detalji
Novi zakon EU-a (AI Act) stupio je na snagu 2. kolovoza, uz poček od četiri mjeseca za postojeće AI proizvode. Anthropic planira integrirati nevidljive oznake na razini samih modela, tako da će one biti prisutne bez obzira koristi li se Claude preko API-ja, glavne aplikacije ili partnerskih usluga poput AWS-a, Google Clouda i Microsoft Foundryja.
Zašto je to važno
Ovo je važan korak prema prepoznavanju sintetičkog sadržaja na internetu, olakšavajući platformama i korisnicima identifikaciju materijala generiranog umjetnom inteligencijom, što je ključno za suzbijanje dezinformacija.
Tehnička pozadina
- Za slike će se koristiti C2PA standard, koji već podržavaju tvrtke poput Adobea, OpenAI-ja i Googlea.
- Tekstualni vodeni žigovi bit će utkani u same odgovore Claude modela na način koji je neprimjetan ljudskom oku i neće utjecati na kvalitetu.
- Oznake će ostati u tekstu čak i pri kopiranju, te bi trebale preživjeti manje uredničke intervencije.
Širi kontekst
Iako su tehnologije za vodene žigove u razvoju, stručnjaci upozoravaju da C2PA metapodaci često mogu biti izbrisani, ponekad čak i slučajno prilikom učitavanja na online platforme. Pouzdanost označavanja teksta također ostaje pod upitnikom, a i sam Anthropic priznaje da sustavi nisu nepogrešivi.
Što slijedi
Anthropic najavljuje kako će uskoro objaviti tehničku dokumentaciju i alate pomoću kojih će korisnici i treće strane moći samostalno detektirati vodene žigove i metapodatke. Bit će zanimljivo pratiti koliko će sustav biti otporan na namjerne pokušaje uklanjanja oznaka.
Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
