Iluzija personalizacije: Kako nas umjetna inteligencija zapravo ukalupljuje
Algoritmi obećavaju sadržaj po našoj mjeri, ali nas pretvaraju u predvidljive potrošače
Svi smo to doživjeli. Otvorite omiljenu aplikaciju, društvenu mrežu ili platformu za streaming, i dočeka vas naizgled savršen niz objava, članaka, videozapisa ili proizvoda za koje niste ni znali da ih želite. Tehnološke kompanije to već godinama nazivaju vrhunskom personalizacijom, ultimativnim trijumfom umjetne inteligencije koji nas konačno razumije bolje nego što mi razumijemo sami sebe. Obećanje je zvučalo oslobađajuće: kraj ere masovnih medija u kojoj svi konzumiraju isto, i početak doba u kojem svatko ima svoj vlastiti, savršeno krojeni digitalni svemir. No, ispod te blještave površine krije se mnogo mračnija i prozaičnija stvarnost. Mi danas ne dobivamo ono što doista želimo ili što nas obogaćuje, već isključivo ono što je algoritmu najlakše optimizirati za maksimalno zadržavanje naše pažnje.
Prevladavajuća priča
Narativ koji nam se prodaje iz Silicijske doline zvuči besprijekorno i duboko laskavo. Umjetna inteligencija, oslanjajući se na goleme, nepojmljive količine podataka o našem ponašanju, stvara jedinstveno iskustvo prilagođeno isključivo nama. Prema toj priči, više ne moramo gubiti dragocjeno vrijeme tražeći relevantne informacije, selektirajući vijesti ili pretražujući beskrajne kataloge glazbe i filmova. Pametni sustavi, pogonjeni složenim neuronskim mrežama, neprestano uče iz svakog našeg klika, pauze ili prelaska prstom po ekranu, kako bi nam poslužili točno ono što odgovara našem jedinstvenom i neponovljivom ukusu.
Personalizacija se u tom kontekstu slavi kao vrhunac tehnološkog napretka koji napokon slavi našu individualnost. Stvara se dojam da stroj služi nama, uklanjajući trenje iz naših života i omogućujući nam da se fokusiramo samo na ono što nas istinski zanima. Gotovo svaka nova aplikacija danas se hvali svojim naprednim AI motorom za preporuke, predstavljajući ga kao vašeg osobnog digitalnog sobara koji nepogrešivo pogađa vaše želje prije nego što ih uopće stignete formulirati.
Zašto je ta priča pogrešna ili nepotpuna
Glavni problem leži u fundamentalnom nerazumijevanju onoga što ti sustavi zapravo mjere i nagrađuju. Ovi sustavi ne nagrađuju autentičnost, ljudsku znatiželju ili želju za učenjem; oni isključivo i nemilosrdno nagrađuju metriku angažmana. Algoritam ne mari za širinu vaših interesa, vašu potrebu za osobnim rastom ili kvalitetu sadržaja koji konzumirate. On traži isključivo najkraći, najučinkovitiji put do vaše kontinuirane pažnje.
Kada umjetna inteligencija prepozna određeni obrazac koji vas uspješno zadržava na ekranu, bez obzira na to radi li se o senzacionalizmu, izazivanju bijesa ili pukoj trivijalnosti, ona taj obrazac počinje nemilosrdno pojačavati. Umjesto da nam proširuju obzore i upoznaju nas s novim idejama, algoritmi preporuka stvaraju zatvorene povratne petlje u kojima nam se iznova i iznova servira ista, reciklirana vrsta sadržaja.
Ako danas pokažete makar i blagi, prolazni interes za određenu specifičnu temu, sustav će vas u narednim danima doslovno zatrpati njome. Algoritam lijeno pretpostavlja da je to sada vaš jedini i najvažniji interes. Rezultat tog procesa nije dubinska personalizacija koja odražava predivnu složenost vas kao ljudskog bića, već plošna karikatura vaših najosnovnijih impulsa. Na taj način, umjetna inteligencija zapravo ne otkriva tko smo mi uistinu. Ona nas aktivno trenira i dresira da postanemo jednostavniji, plošniji i nadasve predvidljiviji. Algoritam ne služi našem ukusu; on ga oblikuje prema vlastitim ograničenjima.
Posljedice u stvarnom svijetu
Ova raširena iluzija izbora ima vrlo stvarne i opipljive posljedice na naše društvo. Kulturalno gledano, svjedočimo masovnoj homogenizaciji ukusa i mišljenja. Umjesto stalnog otkrivanja nepoznatih autora, neobičnih umjetničkih ideja, ili izazovnih drugačijih perspektiva koje bi nas natjerale na razmišljanje, svi smo nevidljivim zidovima zatvoreni u svoje male, udobne eho-komore. U tim komorama, jedino što čujemo su odjeci naših vlastitih uvjerenja, koji nam neprestano šapuću da smo uvijek u pravu i da je svijet točno onakav kakvim ga mi zamišljamo.
Gubitnici u ovom distopijskom scenariju su svi oni kreativci, novinari, umjetnici i mislioci koji stvaraju sadržaj koji se ne uklapa savršeno u jasno definirane algoritamske kalupe. Ako vaš rad, vaše mišljenje ili vaš proizvod umjetna inteligencija ne može lako i bez razmišljanja kategorizirati u postojeće ladice, vi za sustav postajete nevidljivi. Kvaliteta prestaje biti presudna; jedino što je bitno jest koliko se dobro uklapate u strojno naučene obrasce potrošnje.
S druge strane, apsolutni pobjednici su isključivo velike platforme čiji je jedini i isključivi cilj zadržati vaše oči zalijepljene za ekran što je duže moguće, kako bi tu istu pažnju mogli skuplje prodati oglašivačima. Prava cijena ove komercijalne, lažne personalizacije nije samo naše izgubljeno vrijeme. Cijena je gubitak istinske ljudske znatiželje, gubitak tolerancije prema nepoznatom i nestanak onih dragocjenih slučajnih otkrića (serendipity) koja stvarni život izvan ekrana čine toliko bogatim i zanimljivim.
Završni stav
Krajnje je vrijeme da prestanemo slaviti algoritamsku predvidljivost kao nekakav ultimativni osobni luksuz. Umjetna inteligencija u sustavima preporuka, unatoč svim grandioznim obećanjima tehnološke industrije, nije alat za oslobađanje našeg individualnog ukusa. Ona je sofisticirana, visokooptimizirana tvornička traka koja nas metodično pakira u uredne demografske ladice radi lakše monetizacije. Ako želimo sačuvati vlastitu autentičnost i intelektualnu slobodu, morat ćemo početi pružati otpor. Morat ćemo svjesno, namjerno i redovito birati izvan onoga što nam stroj ljubazno nudi na pladnju.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
