Mit o brzom dolasku AGI-ja: Zašto smo još daleko od cilja
Tehnološka industrija prodaje priču o superinteligenciji iza ugla, ali stvarnost razvoja modela ukazuje na fundamentalne prepreke.
U posljednjih nekoliko godina, svjedočimo neviđenom entuzijazmu oko razvoja umjetne inteligencije. Izvršni direktori najvećih tehnoloških kompanija gotovo se natječu tko će najaviti raniji dolazak opće umjetne inteligencije (AGI). Slušajući njihove izjave, stječe se dojam da je sustav koji može nadmašiti ljudsku inteligenciju u gotovo svakom ekonomski vrijednom zadatku udaljen samo nekoliko godina, ili čak mjeseci. Međutim, pažljiviji pogled na tehničku stvarnost i fundamentalna ograničenja trenutnih pristupa otkriva bitno drugačiju, znatno trezveniju sliku. Brzi dolazak AGI-ja nije tehnička izvjesnost, već pažljivo konstruiran mit.
Ovaj tekst analizira zašto su tvrdnje o skorom dolasku superinteligencije preuranjene. Pokazat ćemo da trenutni jezični modeli, unatoč svojoj impresivnosti, udaraju u ozbiljne prepreke koje se ne mogu riješiti jednostavnim dodavanjem više računalne snage ili podataka. Umjesto da slijepo vjerujemo u neizbježnost skore tehnološke singularnosti, potrebno je razumjeti stvarna ograničenja sustava koje danas gradimo. To ne znači da umjetna inteligencija nije korisna, već da je priroda njezinog napretka bitno drugačija od narativa koji nam se svakodnevno servira.
Prevladavajuća priča
Prevladavajuća priča, koju agresivno guraju vodeći laboratoriji za umjetnu inteligenciju i njihovi investitori, iznimno je jednostavna i primamljiva. Ona se temelji na ekstrapolaciji dosadašnjeg uspjeha. Budući da smo vidjeli brz napredak u sposobnostima velikih jezičnih modela skaliranjem broja parametara i količine podataka za treniranje, pretpostavka je da će se taj eksponencijalni rast jednostavno nastaviti. Prema tom narativu, dovoljno je izgraditi još veće podatkovne centre, uložiti još desetke milijardi dolara u grafičke procesore i prikupiti sve preostale tekstove s interneta, te će se iz te ogromne računalne moći spontano izdići opća inteligencija.
Ova vizija budućnosti postala je gotovo religijska dogma u određenim krugovima Silicijske doline. Ona opravdava astronomske valuacije kompanija i masovna otpuštanja pod izlikom pripreme za automatiziranu budućnost. Također, stvara osjećaj hitnosti i straha od propuštanja (FOMO) kod tvrtki i vlada diljem svijeta, tjerajući ih na brzopleto usvajanje tehnologija čije implikacije još uvijek u potpunosti ne razumiju. Javnosti se prodaje ideja da je rješavanje svih ljudskih problema, od bolesti do klimatskih promjena, samo pitanje vremena i računalne snage.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom pričom je što ignorira fundamentalna tehnička ograničenja arhitekture na kojoj se trenutno temelji većina sustava umjetne inteligencije. Veliki jezični modeli izvrsni su u prepoznavanju i repliciranju obrazaca u podacima, ali im nedostaje sposobnost pravog rezoniranja, razumijevanja uzročno-posljedičnih veza i pouzdanog planiranja dugoročnih zadataka. Oni nemaju unutarnji model svijeta, već samo statistički model jezika. Kada se suoče sa situacijama koje bitno odstupaju od njihovih podataka za treniranje, često "haluciniraju" i proizvode samouvjerene, ali potpuno netočne odgovore.
Nadalje, paradigma pukog povećavanja razmjera udarila je u ozbiljne prepreke. Kvalitetni tekstualni podaci za treniranje na internetu gotovo su iscrpljeni. Korištenje sintetičkih podataka, odnosno podataka koje generira sama umjetna inteligencija, dovodi do urušavanja kvalitete modela. Također, energetski i hardverski zahtjevi za treniranje novih generacija modela rastu eksponencijalno, dok poboljšanja u performansama postaju sve marginalnija. Skaliranje nam je dalo iznimno sposobne jezične kalkulatore, ali nema dokaza da je taj isti pristup put do opće inteligencije koja može samostalno otkrivati nove znanstvene spoznaje ili rješavati probleme koje čovječanstvo nikada prije nije riješilo.
Umjesto ravne linije prema AGI-ju, suočavamo se sa S-krivuljom, gdje se brzi napredak polako počinje usporavati kako dosežemo granice trenutnih tehnika. Potrebna su temeljna, nova arhitektonska rješenja, a ne samo dodavanje hardvera na postojeće probleme.
Posljedice u stvarnom svijetu
Posljedice vjerovanja u mit o brzom dolasku AGI-ja su dalekosežne i vrlo stvarne. Prvenstveno, on dovodi do pogrešne alokacije resursa. Umjesto da se fokusiramo na razvoj pouzdanih, specifičnih alata koji rješavaju konkretne probleme u medicini, obrazovanju ili industriji, ogroman se kapital slijeva u projekte čiji je jedini cilj "izgraditi boga". To usporava stvarne inovacije i primjenu umjetne inteligencije tamo gdje bi već danas mogla donijeti mjerljivu korist.
Druga ozbiljna posljedica je stvaranje nerealnih očekivanja kod poslovnih lidera. Pod pritiskom da ne zaostanu, mnoge tvrtke pokušavaju implementirati generativnu umjetnu inteligenciju u procese za koje ona nije spremna, što rezultira frustracijama korisnika i financijskim gubicima. Narativ o skoroj superinteligenciji također se koristi za odvlačenje pažnje od stvarnih, neposrednih rizika trenutnih sustava, poput pristranosti, kršenja autorskih prava, širenja dezinformacija i ogromne potrošnje energije. Dok raspravljamo o egzistencijalnim rizicima apstraktnog AGI-ja, stvarni problemi današnjice ostaju neriješeni.
Na kraju, ovaj mit stvara nepotreban strah i tjeskobu među radnicima. Iako će umjetna inteligencija sigurno promijeniti prirodu mnogih poslova, ideja o skoroj i potpunoj zamjeni ljudskog rada je pretjerana. Većina ekonomski vrijednih zadataka zahtijeva snalaženje u fizičkom svijetu, razumijevanje složenih društvenih konteksta i donošenje moralnih prosudbi – područja u kojima trenutni sustavi potpuno zakazuju.
Završni stav
Priča o neizbježnom i brzom dolasku opće umjetne inteligencije briljantan je marketinški potez tehnološke industrije, ali nije vjeran odraz tehničke stvarnosti. Trenutni modeli, iako izvanredno korisni, su u osnovi napredni statistički sustavi koji se približavaju granicama svojih arhitektonskih mogućnosti. Umjesto da dopustimo da nas zaslijepi obećanje skore superinteligencije, trebali bismo se fokusirati na razvoj pouzdanih, sigurnih i korisnih sustava koji rješavaju stvarne probleme današnjice. Pravi napredak neće doći kroz hype, već kroz strpljivo i odgovorno inženjerstvo.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
