Mit o neutralnom AI-ju: Zašto algoritmi uvijek imaju skriveni cilj
Umjetna inteligencija nije objektivno ogledalo stvarnosti, već sustav vrijednosti onoga tko ju je trenirao.
Svaki put kad postavite pitanje velikom jezičnom modelu, dobivate odgovor za koji nesvjesno pretpostavljate da je neutralan. Vjerujemo da su strojevi, za razliku od ljudi, oslobođeni predrasuda, emocija i političkih agendi. No, prava istina je mnogo neugodnija: svaki algoritam je pristran. Umjetna inteligencija je samo onoliko objektivna koliko su objektivni podaci na kojima je učila, a ti podaci odražavaju sve ljudske nesavršenosti i skrivene motive.
Prevladavajuća priča
Tehnološki divovi godinama grade priču o umjetnoj inteligenciji kao savršenom alatu za rješavanje problema. Promoviraju AI kao neutralnog arbitra koji može nepristrano analizirati životopise, odlučivati o kreditima ili nuditi savjete bez ljudskog balasta.
Ovakav narativ savršeno odgovara velikim korporacijama jer skida odgovornost s njihovih leđa. Ako AI donese lošu ili diskriminatornu odluku, uvijek se mogu sakriti iza izgovora da je to samo "matematika" i da sustav samo "radi svoj posao na temelju podataka". Neutralnost je tako postala glavni marketinški alat za masovnu primjenu umjetne inteligencije u svakodnevnom životu.
Zašto je ta priča pogrešna ili nepotpuna
Problem je u tome što algoritam ne raste na grani. Njega stvaraju inženjeri koji odabiru podatke za trening, odlučuju kojim će informacijama dati veću težinu i ugrađuju zaštitne mehanizme koji određuju što je prihvatljiv odgovor, a što nije. Svaki od tih koraka podrazumijeva ljudske odluke i ugradnju određenih vrijednosti.
Ako AI model učite na podacima s interneta, on će neminovno usvojiti sve društvene predrasude, stereotipe i povijesne nepravde koje se na njemu nalaze. S druge strane, proces "sigurnosnog usklađivanja" (alignment), u kojem programeri pokušavaju ispraviti te nedostatke, samo je uvođenje novog sloja pristranosti. To više nisu predrasude interneta, već specifični svjetonazor tima inženjera u Silicijskoj dolini. Ni jedan ni drugi scenarij ne rezultiraju neutralnošću.
Posljedice u stvarnom svijetu
Kada vjerujemo u mit o neutralnom AI-ju, bez propitivanja prepuštamo važne odluke strojevima. Banke već koriste algoritme za odobravanje kredita, tvrtke za selekciju kandidata, a sudovi za procjenu rizika od ponavljanja kaznenih djela.
Skriveni ciljevi algoritama, bilo namjerni ili slučajni, tako postaju sistemska pravila. Marginalizirane skupine mogu biti isključene iz zapošljavanja jer model prepoznaje obrasce iz prošlosti, dok korisnici chatbota dobivaju odgovore koji su oblikovani prema korporativnim smjernicama jedne tehnološke kompanije. U konačnici, gubimo kontrolu nad time tko zapravo donosi pravila u našem društvu.
Završni stav
Vrijeme je da prestanemo tretirati umjetnu inteligenciju kao digitalno proročište. Neutralni algoritam ne postoji i nikada neće postojati. Umjesto da slijepo vjerujemo strojevima, moramo zahtijevati potpunu transparentnost o tome tko ih trenira, na kojim podacima i s kojim ciljem, jer iza svakog retka koda stoji nečiji interes.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
