Mit o autonomnom programiranju: Stvarnost iza AI alata
Marketing obećava čaroliju, ali inženjeri znaju pravu istinu o razvoju softvera.
Alati temeljeni na velikim jezičnim modelima obećavaju revoluciju u načinu na koji pišemo kod. Gledajući reklamne kampanje, netko tko nije u industriji mogao bi pomisliti da programeri danas samo pritisnu tipku, a umjetna inteligencija sama izgradi cijelu aplikaciju od temelja pa sve do produkcije. No, svatko tko je zapravo pokušao izgraditi složen sustav koristeći ove alate zna da je stvarnost daleko od te romantične vizije. Generativni modeli su izvrsni, ali oni su i dalje samo alati, a ne samostalni arhitekti koji mogu shvatiti poslovni kontekst, prepoznati loše zahtjeve ili razumjeti zašto određeni komad koda uzrokuje probleme u specifičnom okruženju. Pravi rad inženjera nikada se nije svodio samo na tipkanje koda, a upravo je to ono što marketing tehnoloških divova često previđa.
Prevladavajuća priča
Glavni narativ koji se danas neprestano gura u tehnološkim medijima jest da će alati za generiranje koda ubrzo u potpunosti zamijeniti potrebu za ljudskim inženjerima, od onih na početničkim pozicijama pa sve do iskusnih seniora. Priča ide otprilike ovako: ako umjetna inteligencija može u sekundi napisati Python skriptu ili React komponentu, vrlo uskoro će moći samostalno dizajnirati kompleksnu arhitekturu baze podataka, rješavati složene probleme s performansama na distribuiranim sustavima i održavati ogromne mikroservisne arhitekture bez ikakve ljudske intervencije.
Programiranje se, u očima investitora i šire javnosti, sve više predstavlja kao puko prevođenje nejasnih ljudskih želja u jednostavan tekstualni prompt. Vjeruje se da je dovoljno reći sustavu "napravi mi aplikaciju sličnu onoj najpopularnijoj društvenoj mreži", i da će alat samostalno isporučiti skalabilan, siguran i optimiziran proizvod. Taj optimizam potiče ulaganja, ali istovremeno stvara opasna očekivanja među menadžerima koji počinju vjerovati da mogu prepoloviti svoje inženjerske timove bez ikakvih posljedica za kvalitetu softvera.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom vizijom je temeljno nerazumijevanje onoga što razvoj softvera zapravo jest. Pisanje sintaktički točnog koda je, iskreno rečeno, najlakši dio inženjerskog posla. Ono što je doista teško jest duboko razumijevanje često nejasnih i kontradiktornih poslovnih zahtjeva, dizajniranje sustava koji su sigurni, otporni na greške i skalabilni, te pažljivo rješavanje rubnih slučajeva u vrlo specifičnim, nišnim poslovnim domenama koje nemaju milijune primjera otvorenog koda na internetu.
Kada generativni alati kreiraju kod, oni zapravo recikliraju i kombiniraju obrasce iz postojećih otvorenih baza koda na kojima su trenirani. Oni nemaju sposobnost kritičkog promišljanja niti razumiju duboki kontekst vašeg specifičnog sustava. Ako zatražite od modela da napiše jednostavnu funkciju za sortiranje liste ili da generira standardnu formu za prijavu, on će to učiniti briljantno i brzo. Ali ako tražite da pažljivo refaktorira deset godina staru, zastarjelu arhitekturu dok istovremeno pazi na specifične sigurnosne propise vaše tvrtke o zaštiti podataka, alat će se vrlo brzo izgubiti u halucinacijama.
Umjesto da vas oslobodi posla, često će stvoriti kod koji na prvi pogled izgleda uvjerljivo i točno, ali je zapravo prepun suptilnih, teško uočljivih grešaka. Takav kod zahtijeva sate pažljivog pregledavanja i ispravljanja (debugging). Paradoksalno, što više generiranog koda bez razumijevanja unesete u svoj sustav, to taj sustav postaje krhkiji i teži za dugoročno održavanje. Inženjer se tako pretvara u lektora loše napisanog teksta, što je često frustrirajuće i dugotrajnije od samostalnog pisanja koda.
Posljedice u stvarnom svijetu
Ako industrija nastavi slijepo vjerovati u mit o potpunoj autonomiji ovih alata, suočit ćemo se sa ozbiljnim problemima u kvaliteti modernog softvera. Tehnički dug će eksponencijalno rasti jer će razvojni timovi, pod pritiskom kratkih rokova, nekritički prihvaćati ogromne količine generiranog koda bez rigorozne provjere i razumijevanja njegovih posljedica. Sustavi će postajati sve složeniji, nestabilniji i podložniji sigurnosnim propustima.
Osim toga, postoji velika opasnost za razvoj mladih talenata. Junior inženjeri mogli bi propustiti ključnu fazu temeljnog učenja jer će se previše oslanjati na alate koji rješavaju probleme umjesto njih. Rješavanje teških grešaka u kodu i razumijevanje dubljih arhitektonskih principa gradi inženjersku intuiciju koja je presudna za napredovanje. Ako tu fazu preskoče, industrija bi se mogla suočiti s nedostatkom sposobnih senior inženjera u budućnosti.
S druge strane, tvrtke koje razumiju stvarna ograničenja ovih alata i znaju ih pravilno primijeniti, ostvarit će veliku prednost. Oni će koristiti umjetnu inteligenciju kao moćnog asistenta za ubrzavanje dosadnih, rutinskih zadataka, pisanje testova i automatizaciju dokumentacije, ostavljajući tako svojim inženjerima više vremena za kreativno rješavanje problema, optimizaciju performansi i strateško arhitektonsko razmišljanje.
Završni stav
Umjetna inteligencija apsolutno neće uništiti softversko inženjerstvo; ona će ga, po tko zna koji put u povijesti tehnologije, samo transformirati na višu razinu. Baš kao što su viši programski jezici davno apstrahirali surovu složenost strojnog koda i asemblera, moderni generativni alati danas apstrahiraju rutinsko tipkanje osnovnih programskih struktura.
Ali donošenje teških odluka o arhitekturi, duboko razumijevanje sigurnosnih rizika i prevođenje nejasnih ljudskih potreba u jasnu logiku sustava ostaju isključivo i neosporno ljudska domena. Pravi inženjeri neće izgubiti svoj posao zbog umjetne inteligencije; oni će jednostavno dobiti znatno bolje i brže alate. No s tim moćnijim alatima dolazi i znatno veća odgovornost da strogo kontroliraju i dubinski razumiju svaku liniju koda koju ti alati proizvedu.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
