TikTok testira alat za detekciju AI kopija lica
Nova opcija korisnicima nudi skeniranje neovlaštenih deepfake objava
TikTok je počeo testirati novi alat koji skenira platformu i traži sadržaj generiran umjetnom inteligencijom, a koji koristi lica i izgled stvarnih kreatora. Ova opcija korisnicima omogućuje lakše prijavljivanje neovlaštenih "deepfake" videa kompaniji.
Ključni detalji
Kreatori koji sudjeluju u testiranju moraju prvo potvrditi svoj identitet koristeći uslugu tvrtke Jumio, što uključuje provjeru osobnog dokumenta i skeniranje lica u stvarnom vremenu. Nakon uspješne verifikacije, sustav skenira potencijalno neovlaštene AI obrade te ih nudi kreatoru na pregled i moguću prijavu.
Zašto je to važno
Dok se tehnologija umjetne inteligencije rapidno razvija, zaštita digitalnog identiteta postaje jedan od glavnih izazova za kreatore sadržaja. Uvođenje ovakvih alata na velikim platformama pruža im prijeko potreban mehanizam kontrole nad vlastitim izgledom na internetu.
Tehnička pozadina
- Alat zahtijeva "live selfie" skeniranje i potvrdu identiteta putem osobnog dokumenta
- Skeniranje lica se, prema tvrdnjama TikToka, koristi isključivo za potrebe prepoznavanja kopija lica i zaštitu identiteta
- YouTube je nedavno lansirao sličan alat te ga učinio dostupnim svim odraslim korisnicima
Širi kontekst
Platforme su pod sve većim pritiskom da uspostave alate i jasna pravila oko AI sadržaja kako bi se spriječile manipulacije i neovlašteno korištenje tuđih identiteta. Ovaj potez pokazuje da velike tehnološke tvrtke aktivno traže rješenja koja će zaštititi korisnike u dobu sve moćnije generativne AI tehnologije.
Što slijedi
Trenutno je alat u fazi testiranja s ograničenim brojem kreatora iz Sjedinjenih Američkih Država. Očekuje se da će, ukoliko testiranje prođe uspješno, opcija uskoro postati dostupna širem krugu kreatora na platformi.
Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
