Umjetna inteligencija nikada neće razumjeti poslovni kontekst
AI generira impresivan kod, ali ne zna zašto ga uopće pišemo.
Svi smo vidjeli te impresivne demonstracije. Napišete nekoliko rečenica i za par sekundi, umjetna inteligencija isporuči stotine linija koda, cjelovitu komponentu ili čak temelj za novu aplikaciju. Na prvi pogled, izgleda kao magija koja će zauvijek promijeniti način na koji razvijamo softver. Međutim, kada taj isti kod pokušate primijeniti u stvarnom sustavu, brzo shvatite jednu bolnu istinu: programiranje je puno više od pukog pisanja sintakse.
Prevladavajuća priča
Tehnološka industrija trenutno nam prodaje priču o neizbježnoj automatizaciji razvoja softvera. Prema toj narativi, alati poput Copilota, Claudea ili ChatGPT-a već su sposobni zamijeniti juniore, a uskoro će preuzeti i velik dio posla senior inženjera. Zastupa se ideja da je pisanje koda usko grlo u razvoju proizvoda te da će eksponencijalno brže generiranje linija koda dovesti do eksponencijalno bržeg stvaranja vrijednosti za korisnike.
Investitori i menadžeri obožavaju ovu priču. Zvuči nevjerojatno privlačno – više značajki, brža isporuka, manji troškovi. U takvom okruženju, brzina tipkanja i poznavanje dokumentacije napamet postaju manje važni, a AI alati se predstavljaju kao savršeni radnici koji nikada ne spavaju i ne traže povišice.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom pričom je u tome što potpuno pogrešno shvaća prirodu razvoja softvera. Pisanje koda je najlakši dio našeg posla. Pravi izazov je razumijevanje poslovnog konteksta.
Softverski sustavi ne postoje u vakuumu. Oni su preslika kompleksnih poslovnih procesa, regulativa, specifičnih zahtjeva korisnika i povijesnih odluka (tehničkog duga). Umjetna inteligencija može savršeno implementirati algoritam za sortiranje ili složiti React komponentu, ali ona ne zna zašto taj gumb mora biti tu. Ne zna da vaš najveći klijent zahtijeva specifičan format izvještaja jer njihov prastari ERP sustav ne prima ništa drugo. Ne zna da ste prije dvije godine namjerno odabrali sporiju bazu podataka jer vam je pouzdanost bila kritičnija od performansi.
Kada AI alatu date zadatak da riješi bug ili doda novu značajku, on rješava izolirani tehnički problem na temelju svog općeg znanja i ograničenog konteksta koji ste mu dali. On ne može pročitati misli vaših korisnika, ne može shvatiti nijanse vašeg poslovnog modela i, što je najvažnije, ne može samostalno odlučiti kada tehnički ispravno rješenje zapravo stvara poslovni problem. Inženjeri provode sate u razgovorima s produkt menadžerima, dizajnerima i klijentima upravo zato da bi uhvatili taj nedokučivi kontekst koji se ne može svesti na jedan jednostavan "prompt".
Posljedice u stvarnom svijetu
U stvarnom svijetu, oslanjanje na AI za rješavanje složenih problema dovodi do opasne iluzije produktivnosti. Brzo dobivamo naizgled funkcionalan kod, ali dugoročno stvaramo sustave koji su krhki i nepovezani sa stvarnim potrebama organizacije.
Inženjeri se sve više pretvaraju u lektore i recenzente tuđeg koda, a sve manje dizajniraju robusne sustave. Gubimo duboko razumijevanje arhitekture jer brzopleto prihvaćamo gotova rješenja. Tvrtke koje misle da mogu uštedjeti zamjenom ljudi s AI alatima uskoro će se naći zatrpane složenim, nerazumljivim kodom koji nitko u timu ne zna sigurno modificirati. Umjesto da AI ubrza isporuku vrijednosti, on ubrzava stvaranje tehničkog duga, jer generirani kod rijetko uzima u obzir cjelokupnu sliku sustava i dugoročno održavanje.
Dobitnici u ovom scenariju bit će oni timovi i pojedinci koji koriste AI kao alat za oslobađanje vremena od rutinskih zadataka, kako bi se mogli još više posvetiti razumijevanju domene i poslovnih problema. Gubitnici će biti oni koji misle da je kodiranje samo prijevod engleskog jezika u JavaScript.
Završni stav
Umjetna inteligencija je fantastičan asistent koji može dramatično ubrzati mehaniku pisanja koda. Ali kod je samo alat kojim rješavamo ljudske, poslovne probleme. Sve dok umjetna inteligencija ne bude mogla sjediti na sastanku, razumjeti neizrečene strahove klijenta i prepoznati proturječnosti u poslovnim zahtjevima, inženjeri koji posjeduju domensko znanje ostat će nezamjenjivi. Razumijevanje poslovnog konteksta nije nešto što se može riješiti s više računalne snage – to je vještina koja zahtijeva ljudsku prisutnost.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
