Iluzija razmišljanja: Zašto jezični modeli zapravo ne misle
Unatoč impresivnim rezultatima, LLM-ovi samo predviđaju sljedeću riječ, bez stvarnog razumijevanja.
Sposobnost velikih jezičnih modela poput ChatGPT-a ili Claudea da generiraju tečan tekst dovela je mnoge do potpuno pogrešnog zaključka. Ljudi često vjeruju da ovi sustavi razmišljaju, razumiju kontekst problema ili posjeduju oblik rane opće inteligencije (AGI). Kada dobijete savršeno strukturiran odgovor na iznimno složeno pitanje, vrlo je lako povjerovati da s druge strane postoji um koji logički slaže teze i donosi zaključke. No, istina se oslanja prvenstveno na naprednu matematiku, a nimalo na kognitivne sposobnosti. Svjedočimo situacijama u kojima se složeni ljudski procesi svode na optimizaciju i predviđanje tokena, stvarajući privid pravog razumijevanja.
Prevladavajuća priča
U javnom prostoru, gotovo svakodnevno slušamo kako umjetna inteligencija "rješava probleme" ili "shvaća koncepte". Kada modelu postavite pitanje iz fizike i on odgovori u djeliću sekunde s uvjerljivim objašnjenjem, lako je upasti u zamku antropomorfizacije. Ljudski mozak predodređen je da prepoznaje obrasce i pripisuje namjere svemu što komunicira na sličan način. Takvo je razmišljanje pojačano načinom na koji se ove platforme dizajniraju, koristeći zamjenice prvog lica, što dodatno stvara iluziju osobnosti.
Mediji i tehnološka industrija često potiču ovu priču. Naglašava se kako modeli ponekad "haluciniraju", izraz koji asocira na ljudski um umjesto da se prizna kako ovi sustavi zapravo samo generiraju najvjerojatniji niz riječi bez činjeničnog utemeljenja. Takav narativ stvara iluziju o mislećim strojevima i zamagljuje granicu između softvera i entiteta sposobnog za spoznaju. Očekivanja javnosti postaju nerealno visoka, a svaki podbačaj modela tretira se kao nedostatak inteligencije umjesto kao statistička pogreška.
Zašto je ta priča pogrešna ili nepotpuna
Glavni razlog zašto je priča pogrešna leži u arhitekturi neuralnih mreža. Veliki jezični modeli nemaju koherentni model stvarnog svijeta. Oni ne znaju što su "jabuka" ili "gravitacija". Za njih, to su samo nizovi tokena i vektori u višedimenzionalnom prostoru. Njihov mehanizam temelji se isključivo na predviđanju sljedećeg tokena na temelju količine tekstualnih podataka. Znanje kojim raspolažu je kompresija distribucije vjerojatnosti tekstova koje je čovječanstvo digitaliziralo.
Oni samo izračunavaju u kojem se kontekstu određene riječi najčešće pojavljuju. Kada model riješi zadatak, on to ne čini primjenom logičkog rasuđivanja, već prepoznavanjem obrazaca iz tisuća sličnih zadataka koje je "pročitao". Zato često mogu briljirati u teškim zadacima, a istovremeno podbace u elementarnim logičkim zagonetkama koje zahtijevaju minimum dječjeg zdravog razuma. Oni naprosto spajaju riječi za koje matematika kaže da bi trebale ići zajedno, bez razumijevanja kauzalnosti u stvarnom svijetu.
Posljedice u stvarnom svijetu
Ovakvo nerazumijevanje načina na koji jezični modeli funkcioniraju nosi ozbiljne posljedice. Kada organizacije i državne institucije integriraju ovakve modele u kritične sustave - poput korisničke podrške ili pravnog savjetovanja - pod pretpostavkom da sustav "razumije" što radi, izlažu se ogromnom riziku. Rizik nije samo tehnički, već nosi moralnu i pravnu težinu u situacijama kada stvari krenu po zlu, a nitko ne može objasniti zašto je model donio neku odluku.
Ako slijepo vjerujemo u nepogrešivost modela, prenosimo odgovornost na sustav koji nema mehanizam za preuzimanje odgovornosti. U takvoj konstelaciji, najveću korist izvlače korporacije koje prodaju ova rješenja, obećavajući revoluciju u produktivnosti. S druge strane, gube krajnji korisnici, zaposlenici i građani koji postaju žrtve pogrešnih informacija i loših poslovnih odluka utemeljenih na pukoj statističkoj vjerojatnosti, a ne na stvarnom razmatranju jedinstvenog konteksta svake situacije.
Završni stav
Krajnje je vrijeme da kolektivno demistificiramo tehnologiju velikih jezičnih modela i počnemo o njoj razgovarati objektivno. Ovi sustavi su nedvojbeno izvanredni alati, neprocjenjivi za brzu obradu jezika i sažimanje tekstova. Ali oni definitivno nisu misleći entiteti, nemaju svijest niti imaju ikakvu stvarnu sposobnost samostalnog prosuđivanja i istinskog razumijevanja svijeta.
Prepoznavanje njihovih stvarnih ograničenja nije korak unazad za razvoj i implementaciju umjetne inteligencije. Naprotiv, to je najvažniji preduvjet za njeno sigurno, učinkovito i odgovorno korištenje. Samo ako jasno razumijemo mehanizme ove tehnologije, možemo je iskoristiti za ono u čemu je najbolja, a pritom izbjeći fatalne greške koje proizlaze iz slijepe vjere u iluziju računalnog uma.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
