Od impresivne prezentacije do noćne more u produkciji
Razlika između savršenih demo prikaza AI-ja i kaosa stvarnog okruženja
Svi smo vidjeli te impresivne demonstracije: umjetna inteligencija u nekoliko sekundi generira cijelu aplikaciju, ispisuje besprijekoran kod, dizajnira korisničko sučelje i rješava složene logičke probleme. Publika plješće, investitori su oduševljeni, a na društvenim mrežama se odmah proglašava kraj softverskog inženjerstva kakvog poznajemo. No, kada se taj isti sustav pokuša integrirati u stvarni, živi produkcijski sustav, iluzija se brzo raspline. Ono što na pozornici izgleda kao magija, u produkciji često postaje nepredvidljiva noćna mora. Razlika između kontroliranog demo okruženja i složenosti stvarnog svijeta ključni je problem koji tehnološka industrija trenutno odbija priznati.
Prevladavajuća priča
Glavni narativ koji danas dominira tehnološkim sektorom jest onaj o potpunoj automatizaciji i neizbježnoj zamjeni ljudskog rada naprednim AI agentima. Tehnološki giganti i ambiciozni startupi svakodnevno nas uvjeravaju da su njihovi modeli spremni preuzeti ključne uloge u razvoju softvera.
Prema toj priči, softverski inženjeri uskoro će postati puki nadzornici, a pisanje koda bit će prepušteno jezičnim modelima koji nikada ne spavaju, ne traže povišicu i ne rade greške iz nepažnje. Ovaj narativ snažno je poduprt impresivnim video demonstracijama gdje korisnik jednostavno upiše "napravi mi klon Twittera", a sustav za minutu isporuči gotovu aplikaciju. Investitori obožavaju ovu priču jer obećava drastično smanjenje troškova razvoja i eksponencijalno povećanje produktivnosti, dok menadžeri sanjaju o smanjenju ovisnosti o skupim inženjerima.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom vizijom je što potpuno ignorira stvarnu prirodu softverskog inženjerstva. Pisanje novog, izoliranog koda — ono što AI modeli najbolje rade — samo je manji dio posla. Prava kompleksnost leži u razumijevanju poslovnog konteksta, rješavanju nejasnih zahtjeva klijenata i, najvažnije, održavanju i nadogradnji postojećih sustava.
Demo prikazi uvijek se odvijaju u savršenom, sterilnom okruženju. Nema naslijeđenog koda (legacy code) napisanog prije deset godina s nepokrivenim rubnim slučajevima. Nema nekompatibilnih verzija biblioteka, nema ovisnosti o nestabilnim vanjskim API-jima i nema specifične poslovne logike koja nije nigdje dokumentirana. U stvarnosti, softver je kaotičan. Kada AI agentu date zadatak da promijeni komponentu u sustavu s milijunima linija koda, on često nema širi kontekst. Model može generirati kod koji sintaktički izgleda savršeno, ali koji suptilno kvari logiku u nekom drugom, naizgled nepovezanom dijelu aplikacije. Dodatno, modeli su skloni "halucinacijama" — samouvjerenom generiranju nepostojećih funkcija ili korištenju pogrešnih paradigmi koje izgledaju uvjerljivo, ali padaju na prvom stvarnom testu opterećenja.
Ono što industrija ne želi priznati jest da generirani kod nije besplatan. On dolazi s ogromnim skrivenim troškom: vremenom potrebnim da iskusni inženjer pregleda, testira i ispravi taj kod. Umjesto da AI preuzme posao, on često pretvara senior inženjere u lektore osrednjeg koda koji stalno moraju ispravljati iste logičke greške.
Posljedice u stvarnom svijetu
Ako nastavimo forsirati ovu iluziju, posljedice će biti opipljive i skupe. Prvi na udaru bit će junior inženjeri. Tvrtke već sada smanjuju zapošljavanje početnika vjerujući da ih AI alati mogu zamijeniti. Time stvaraju rupu u vlastitom ekosustavu, jer juniori kroz rješavanje jednostavnih problema danas postaju seniori koji će rješavati arhitektonske probleme sutra.
Druga velika posljedica je eksplozija tehničkog duga. Alati za generiranje koda omogućuju nevjerojatno brzu proizvodnju novih značajki, ali taj kod je često neoptimiziran, ponavljajući i težak za održavanje. Tvrtke će kratkoročno slaviti brze isporuke, ali će se za godinu ili dvije naći zatrpane u nepreglednoj šumi generiranog koda koji nitko u timu u potpunosti ne razumije. Održavanje ovakvih sustava postat će izuzetno skupo, a svaki pokušaj refaktoriranja bit će minsko polje.
Na kraju, gubitnici će biti i krajnji korisnici. Aplikacije će postati sporije, sigurnosni propusti bit će češći zbog koda koji je kopiran bez pravog razumijevanja, a inovativna rješenja ustupit će mjesto prosječnim pristupima koje modeli najčešće sugeriraju na temelju svojih podataka za obuku. S druge strane, profitirat će samo prodavači AI alata koji svoje pretplate naplaćuju na temelju iluzije savršene autonomije.
Završni stav
Umjetna inteligencija je fantastičan alat, ali je užasan arhitekt. Moramo prestati tretirati AI modele kao jeftinu zamjenu za ljudsko razumijevanje i početi ih koristiti kao ono što doista jesu: napredne pomoćnike koji mogu ubrzati rutinske zadatke, ali zahtijevaju stalan stručni nadzor. Inženjerstvo je puno više od pukog tipkanja koda; to je disciplina rješavanja problema u složenom, nesavršenom svijetu — nečemu za što nijedan demo nije spreman.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
