Kraj institucionalnog znanja: Kako nas AI čini dugoročno nesposobnima
Kratkoročna produktivnost donosi dugoročnu ovisnost i gubitak dubokog razumijevanja sustava.
Kada je tehnološka industrija prihvatila umjetnu inteligenciju kao ultimativni alat za ubrzanje razvoja, obećanje je bilo jednostavno: brže pisanje koda, manje vremena potrošenog na rutinske zadatke i neviđen skok u produktivnosti inženjerskih timova. Međutim, ispod površine blistavih metrika i brzih isporuka skriva se tihi i opasni trend. Žrtvujemo najvažniji kapital svake uspješne organizacije – duboko institucionalno znanje – na oltaru trenutačne brzine i iluzije neograničene produktivnosti.
Prevladavajuća priča
Prevladavajuća priča u današnjem tehnološkom svijetu je gotovo utopijska. Alati poput GitHub Copilota, ChatGPT-a i raznih drugih asistenata temeljenih na velikim jezičnim modelima predstavljaju se kao neizostavni partneri svakog modernog programera. Navodno smo ušli u eru "10x inženjera", gdje umjetna inteligencija preuzima dosadan i repetitivan posao, dok ljudima ostavlja prostor za kreativnost, visoku razinu arhitekture i strateško razmišljanje.
Nadalje, narativ sugerira da se barijera ulaska u svijet programiranja drastično spušta. Svatko s osnovnim razumijevanjem logike i sposobnošću pisanja dobrih uputa (promptova) može stvoriti funkcionalan softver. Prema ovoj viziji, brzina isporuke novih značajki trebala bi neprestano rasti, dok troškovi razvoja padaju, što bi u konačnici dovelo do neviđenog tehnološkog procvata. Menadžment je oduševljen brojem isporučenih linija koda, a investitori slave navodnu optimizaciju resursa i smanjenje ovisnosti o skupim stručnjacima.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom pričom je što potpuno pogrešno izjednačava generiranje teksta, pa makar taj tekst bio programski kod, sa stvarnim inženjerskim radom i razumijevanjem sustava. Pisanje koda zapravo je samo jedan, i to često najlakši, dio procesa razvoja softvera. Pravi inženjering podrazumijeva duboko razumijevanje zašto je određeni sustav izgrađen na točno određen način, poznavanje kompromisa koji su napravljeni u prošlosti te razumijevanje suptilnih interakcija između različitih komponenti koje čine jedan složeni sustav.
Kada se programeri pretjerano oslanjaju na umjetnu inteligenciju za generiranje koda, oni zapravo preskaču ključni kognitivni proces borbe s problemom. Upravo ta borba, to mentalno natezanje s dokumentacijom, greškama i neobičnim ponašanjem sustava, stvara duboko znanje i intuiciju. AI asistenti danas nude brza rješenja u obliku gotovih blokova koda, pretvarajući inženjere u svojevrsne integratore "crnih kutija".
Dugoročno, to dovodi do degradacije temeljnog znanja. Kada se suoče s kompleksnim problemom u produkciji, neočekivanim rušenjem sustava na najnižoj razini ili potrebom za refaktoriranjem višegodišnjeg takozvanog legacy koda, brzina AI asistenata prestaje biti prednost. Ako inženjer nije samostalno izgradio mentalni model sustava, već se oslanjao na jezične modele da misle umjesto njega, on postaje nesposoban dijagnosticirati i riješiti duboke strukturalne probleme. Umjesto da stvaramo arhitekte sposobne sagledati cijelu sliku, odgajamo generaciju operatera alata koji su izgubljeni onog trenutka kada alat ponudi halucinaciju ili netočno rješenje.
Posljedice u stvarnom svijetu
Posljedice ove promjene u načinu rada već se polako počinju osjećati u mnogim tehnološkim tvrtkama, iako se o njima rijetko javno govori. Prvi i najočitiji gubitnik u ovoj situaciji je samo institucionalno znanje. Kada iskusni inženjeri napuste tvrtku, znanje o arhitekturi i povijesti sustava sve teže prelazi na mlađe kolege, jer su ti mlađi kolege svoj razvojni put proveli komunicirajući s AI asistentima umjesto da su duboko analizirali postojeću bazu koda.
S druge strane, kratkoročno gledano, menadžment i voditelji projekata mogu djelovati kao dobitnici. Metrike brzine isporuke na prvi pogled izgledaju impresivno, a prividna učinkovitost opravdava ulaganja u nove alate. No, ta je pobjeda samo Pirova pobjeda. Tvrtke ubrzano gomilaju golemi, nevidljivi tehnički dug. Kod koji generiraju umjetno inteligentni sustavi često je preopširan, ponekad nepotrebno složen, a gotovo uvijek lišen specifičnog konteksta koji je jedinstven za pojedinu domenu poslovanja.
Kada dođe vrijeme za održavanje tog koda, troškovi će eksponencijalno rasti. Umjesto da se bave pravim inovacijama, iskusni programeri sve više vremena provode kao dežurni revizori i vatrogasci, pokušavajući shvatiti zašto se stotine linija AI generiranog koda ponašaju nepredvidljivo. Situacija postaje još gora u trenucima incidenata, gdje vrijeme rješavanja drastično raste jer nitko u timu nema cjelovitu sliku kako sustav doista funkcionira ispod haube generiranih abstrakcija.
Završni stav
Umjetna inteligencija neupitno je moćan alat koji ima svoje zasluženo mjesto u modernom razvoju softvera. Međutim, moramo se prestati zavaravati da je generiranje koda isto što i inženjering. Prava vrijednost inženjera nije u brzini tipkanja, već u dubokom, teško stečenom razumijevanju arhitekture, rubnih slučajeva i kompromisa. Ako nastavimo žrtvovati to temeljno institucionalno znanje radi iluzije ubrzane produktivnosti, tehnološka će industrija stvoriti sustave koje više nitko neće znati niti moći održavati. Vrijeme je da prestanemo tretirati AI kao zamjenu za stručnost i počnemo ga ponovno promatrati samo kao ono što jest – pomoćni alat koji zahtijeva ljudskog majstora s dubokim znanjem zanata.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
