Analiza4 min čitanja

Mit o AI programerima: Brže pisanje lošeg koda

Umjetna inteligencija u programiranju ne zamjenjuje inženjere, već samo ubrzava stvaranje tehničkog duga ako se koristi bez dubokog domenskog znanja.

S

Autor

Shtef

Objavljeno

Ilustracija uz komentar: Mit o AI programerima: Brže pisanje lošeg koda

Mit o AI programerima: Brže pisanje lošeg koda

Alati poput Copilota ne zamjenjuju inženjere, samo ubrzavaju tehnički dug.

Sveprisutno obećanje generativne umjetne inteligencije u razvoju softvera svodi se na jedno: neviđenu brzinu isporuke. Demonstracije nam svakodnevno pokazuju kako jezgrovite upute u prirodnom jeziku stvaraju stotine linija koda u sekundi. Odjednom se čini da svatko tko može napisati jednostavnu rečenicu može postati vrhunski programer. No, prava istina koju iskusni inženjeri već jako dobro znaju jest da generiranje koda nije isto što i pravo softversko inženjerstvo. Ako niste iznimno pažljivi, umjetna inteligencija vas sigurno neće učiniti deset puta boljim programerom; naprotiv, učinit će vas samo deset puta bržim u stvaranju složenog, nečitljivog tehničkog duga.

Danas, više nego ikad prije, duboko razumijevanje temeljnih informatičkih koncepata, arhitekture sustava i specifičnog domenskog znanja predstavlja razliku između dugoročno uspješnog proizvoda i nepremostivog tehničkog kaosa koji će zahtijevati mjesece, ako ne i godine, bolnog refaktoriranja. Utrka za brzinom isporuke novih funkcionalnosti često u potpunosti zasljepljuje i razvojne timove i menadžment. Oni zaboravljaju ključnu činjenicu da kod nije samo mrtvi tekst koji se izvršava na poslužitelju, već živi organizam i sustav koji treba svakodnevno održavati, testirati, nadograđivati i štititi od sigurnosnih prijetnji.

Razvojni ciklusi su se drastično skratili, ali nažalost, očekivanja vezana uz robusnost sustava su ostala jednako visoka, ili su čak porasla. Umjetna inteligencija savršeno odgovara na taj prvi izazov brzine, međutim potpuno pada na drugom izazovu osiguravanja kvalitete. Ono što gubimo u ovoj novoj paradigmi opsjednutoj brzinom je promišljenost, pažljivo dizajniranje i razmatranje rubnih slučajeva. Pisanje koda pretvorilo se u neprestano sklapanje gotovih blokova bez razumijevanja kako ti blokovi zapravo funkcioniraju ispod površine.

Prevladavajuća priča

Industrijski narativ je nevjerojatno primamljiv i iznimno agresivno promoviran kroz sve moguće kanale, od društvenih mreža do ozbiljnih tehnoloških konferencija. Velike tehnološke kompanije, agilni startupi i razni konzultanti slažu se u jednoj viziji budućnosti: umjetna inteligencija će konačno demokratizirati programiranje i sniziti barijeru ulaska u industriju na povijesni minimum. Prema toj popularnoj priči, veliki jezični modeli postaju toliko napredni da će potreba za tradicionalnim, dubokim znanjem o sintaksi, kompleksnim strukturama podataka i optimizaciji algoritama gotovo u potpunosti nestati u narednih nekoliko godina.

Tvrdi se da će juniori postati seniori praktički preko noći, a menadžeri će moći sami razvijati interne alate bez potrebe za angažiranjem skupih i sporih razvojnih timova. Naglasak je gotovo isključivo stavljen na produktivnost koja se pogrešno mjeri sirovim brojem napisanih linija koda i brzinom isporuke svake pojedine funkcionalnosti na tjednoj bazi. U tom naivnom kontekstu, AI asistenti poput GitHub Copilota, Cursor-a i sličnih naprednih alata predstavljaju se javnosti kao pravi čarobni štapići koji automatski rješavaju sve probleme u razvoju modernog softvera.

Tržištu se obećava drastično smanjenje troškova razvoja, nevjerojatno ubrzan izlazak novih proizvoda na tržište i potpuna eliminacija svih dosadnih, repetitivnih zadataka, ostavljajući ljudskim inženjerima samo čistu, nepatvorenu kreativnost. Takav diskurs također često implicira da je učenje osnovnih koncepata postalo gubljenje vremena te da je jedino bitno znati kako napisati dobar prompt. Mnoge organizacije su počele slijepo vjerovati u tu utopiju, prilagođavajući svoje procese zapošljavanja i budžete na temelju nerealnih pretpostavki o tome što AI zapravo može isporučiti bez ozbiljnog ljudskog nadzora.

Zašto je ta priča pogrešna ili nepotpuna

Glavni problem s ovom zavodljivom pričom leži u potpunom i opasnom nerazumijevanju onoga što moderni softverski inženjeri zapravo rade svaki dan. Pisanje samog koda je u stvarnosti često najlakši i vremenski najmanje zahtjevan dio inženjerskog posla. Ono što je zaista teško je razumijevanje kontradiktornih poslovnih zahtjeva, dizajniranje stabilne i robusne arhitekture, rješavanje nebrojenih rubnih slučajeva te osiguravanje sigurnosti, privatnosti podataka i skalabilnosti sustava. Sve su to zadaci koji zahtijevaju suptilno ljudsko razumijevanje, širi kontekst i sposobnost apstraktnog razmišljanja koje umjetna inteligencija trenutno jednostavno ne posjeduje.

Umjetna inteligencija trenutačno izvrsno rješava vrlo uske i izolirane probleme: ona može doista savršeno napisati funkciju za sortiranje liste, generirati osnovni predložak za web komponentu ili napisati standardni SQL upit za izvlačenje podataka. Međutim, ona apsolutno nema stvarni kontekst vašeg cjelokupnog poslovnog sustava, vaše specifične baze podataka, vaših mrežnih ograničenja ili vaših internih sigurnosnih politika. Kada neiskusni programeri, koji ne razumiju ove dublje principe, počnu intenzivno koristiti ove alate, oni zapravo samo spajaju nasumične blokove tuđeg koda koji naizgled rade kada se pokrenu prvi put. Oni apsolutno ne znaju zašto taj kod radi, koje su njegove stvarne performanse pod ekstremnim opterećenjem, niti koje točno potencijalne sigurnosne ranjivosti on dugoročno unosi u kritični sustav.

No, ispod haube takvog naizgled funkcionalnog rješenja kriju se ozbiljni i opasni arhitektonski nedostaci. Rezultat je moderni "špageti kod" na steroidima, prepun redundantnih poziva, neefikasnih petlji i skrivenih ovisnosti koje nitko zapravo ne kontrolira. Ono što je umjetna inteligencija zaista revolucionarno omogućila jest masovna hiper-produkcija koda osrednje i vrlo loše kvalitete nevjerojatnom brzinom koja je do sada bila potpuno nezamisliva i tehnološki neizvediva u takvim ekstremnim razmjerima. Taj masovno generirani kod iznimno često prolazi sve osnovne automatske testove i na prvi pogled izgleda apsolutno ispravno te navodno potpuno spremno za brzu produkcijsku upotrebu. Međutim, on dokazano dugoročno postaje apsolutna noćna mora za bilo kakvo ozbiljno održavanje, sustavno rješavanje problema ili složeniju nadogradnju.

Tehnički dug nastaje točno onda kada mi svjesno ili posve nesvjesno biramo vrlo brza i prividno laka rješenja umjesto onih tehnički pravilnih i arhitektonski robusnih, a moderni AI alati su se nažalost pokazali kao onaj ultimativni, nezaustavljivi industrijski stroj za upravo takva opasno brza rješenja. Umjesto da provedu svoje radno vrijeme stvarno i duboko razumijevajući stvarni korijen problema i onda pažljivo dizajnirajući dugoročno optimalno rješenje, moderni developeri pod stalnim i nemilosrdnim pritiskom kratkih rokova jednostavno i slijepo prepuštaju ključno rješenje jezičnom modelu. Oni potpuno nekritički prihvaćaju i onda izravno ugrađuju kod koji zapravo uopće ne razumiju u potpunosti u iznimno kritične i osjetljive poslovne sustave, svjesno tako stvarajući ogromnu tempiranu bombu koja će neizbježno kad-tad spektakularno eksplodirati pred samim korisnicima.

Posljedice u stvarnom svijetu

Najveći gubitnici u ovoj novoj paradigmi razvoja softvera su upravo one kompanije koje će za samo nekoliko godina biti prisiljene platiti ogromne i potpuno neplanirane financijske iznose za potpuno i bolno refaktoriranje sustava koji su ranije izgrađeni prebrzo, bez ikakvog ozbiljnog arhitektonskog plana i bez pravog, stručnog tehničkog nadzora. Vidjet ćemo ogroman i dramatičan porast vrlo ozbiljnih sigurnosnih incidenata uzrokovanih nepreglednim, strojno i automatski generiranim kodom koji je potpuno prepun skrivenih ranjivosti koje doslovno nitko nikada nije temeljito i stručno pregledao. Održavanje takvih kaotičnih sustava s vremenom postat će eksponencijalno teže, neusporedivo skuplje i neizmjerno frustrirajuće za sve uključene. S druge strane, oni naivni inženjeri koji se sada previše oslanjaju isključivo na ove moderne alate i zbog toga potpuno prestanu sami kritički razmišljati o onim temeljnim inženjerskim problemima, neminovno će izgubiti svoju ključnu i najvrjedniju sposobnost dubokog, analitičkog rješavanja tehničkih problema. Oni će nažalost s vremenom postati tek puki "prompteri" čije dragocjene tehničke vještine iznimno brzo i nepovratno zastarijevaju čim na tržište izađe neka sasvim nova verzija njihovog omiljenog alata ili čim se iznenada promijeni glavna i dominantna tehnologija na tržištu rada.

Pravi dobitnici bit će isključivo oni najiskusniji inženjeri koji modernu umjetnu inteligenciju prvenstveno koriste samo kao iznimno moćan alat za brzu automatizaciju onih monotonih i repetitivnih zadataka, ali pritom i dalje čvrsto zadržavaju visoku rigoroznost i potpunu nepopustljivost u temeljitoj arhitekturi i dizajnu cjelokupnog sustava. Oni inženjeri koji zaista i duboko shvaćaju da napredni AI samo piše onaj prvi, iznimno grubi nacrt, ali da zaista stručan i iskusan čovjek na kraju uvijek mora biti onaj glavni i strogi urednik koji donosi sve konačne tehničke odluke, postat će bez ikakve sumnje uvjerljivo najvrjedniji i najtraženiji stručnjaci na modernom tehnološkom tržištu. Kompanije koje na vrijeme i vrlo pametno postave svoje stroge procese revizije koda te uvedu visoke i nepopustljive standarde kvalitete, stalno i uporno inzistirajući na potpunom ljudskom razumijevanju cjelokupnog koda bez obzira na to tko ili što ga je točno napisalo, jedine će dugoročno i stvarno osigurati stabilnost, pouzdanu skalabilnost i sigurnu održivost svih svojih složenih softverskih proizvoda u ovoj iznimno kompetitivnoj i pomalo kaotičnoj novoj eri.

Završni stav

Umjetna inteligencija u modernom programiranju nikada u povijesti nije bila i nikada u budućnosti neće biti neka magična i svemoguća zamjena za onu pravu i duboku ljudsku stručnost, neprocjenjivu inženjersku intuiciju i godine teškog, praktičnog radnog iskustva. Ona je danas tek jedan iznimno snažan i koristan tehnološki pojačivač svih naših postojećih ljudskih sposobnosti, kako onih neosporno dobrih, tako i onih nevjerojatno loših. Odličan, temeljit i vrlo pažljiv iskusni inženjer koji je adekvatno opremljen modernim AI alatom postat će nevjerojatno produktivan, vrhunski efikasan i zaista sposoban rješavati neusporedivo složenije probleme neusporedivo brže nego ikad prije. S druge strane, onaj loš, naivan, neiskusan ili vrlo brzoplet inženjer s naizgled moćnim AI alatom u rukama samo će puno brže, efikasnije i znatno spektakularnije do temelja uništiti cijeli svoj projekt. Prava, stvarna i dugoročna vrijednost nikada nije bila, niti će ikada biti, u pukoj sirovoj količini koda koju mi danas možemo brzo generirati u samo jednom jedinom radnom danu, već isključivo u samoj neospornoj kvaliteti, iznimnoj robusnosti i čistoj eleganciji sustava koje možemo vrlo pažljivo razviti, u potpunosti i dubinski razumjeti i zatim sigurno i pouzdano održavati godinama i desetljećima koje nam tek dolaze.


Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.