Zabluda o čarobnom generiranju koda: Zašto AI alati stvaraju tehnički dug
Generativni modeli pišu kod nevjerojatnom brzinom, ali prava cijena tog koda tek dolazi na naplatu.
Alati za generiranje koda obećavaju pravu revoluciju u razvoju softvera, barem ako je vjerovati agresivnim marketinškim kampanjama velikih tehnoloških tvrtki. Prema tim narativima, dovoljno je napisati nekoliko jednostavnih rečenica, opisati što želimo, i sustav će nam isporučiti gotovu, funkcionalnu aplikaciju. No, svatko tko je ikada u praksi pokušao održavati kod koji nije sam napisao, vrlo dobro zna da to nije i ne može biti cijela priča. Umjetna inteligencija danas doista može napisati na stotine, pa i tisuće linija koda u svega nekoliko sekundi, što izgleda iznimno impresivno tijekom kratkih demonstracija. Problem je u tome što puka brzina tipkanja nikada nije bila glavno usko grlo u razvoju ozbiljnog softvera. Pravo usko grlo je uvijek bilo duboko razumijevanje problema, pažljivo dizajniranje arhitekture i održavanje sustava u godinama koje dolaze. Kada zaboravimo tu činjenicu, ulazimo u opasnu zonu stvaranja sustava koje nitko ne može kontrolirati.
Prevladavajuća priča
Prevladavajuća priča u industriji kaže da će alati poput Copilota, ChatGPT-a i autonomnih agenata dramatično ubrzati razvoj softvera, omogućujući gotovo svakome da postane programer. Prema ovom iznimno popularnom narativu, juniori će zahvaljujući umjetnoj inteligenciji preko noći postati seniori, dok će pravi seniori postati deseterostruko produktivniji jer više neće gubiti vrijeme na detalje.
Uprave tvrtki vide priliku da brže izbacuju nove značajke, nadajući se da će troškovi razvoja drastično pasti. Kodiranje se u ovim prezentacijama prikazuje kao prevođenje zahtjeva u sintaksu programskog jezika, što je zadatak koji veliki jezični modeli navodno mogu obaviti umjesto nas. Sve što vam navodno treba jest dobar "prompt" i vaša je ideja stvarnost. Razvoj softvera tako se svodi na jednostavan razgovor sa strojem.
Zašto je ta priča pogrešna ili nepotpuna
Ovakav optimističan pogled promašuje bit onoga što programiranje i softversko inženjerstvo jesu. Pisanje potpuno novog koda čini vrlo mali postotak svakodnevnog posla softverskog inženjera. Većina vremena provodi se u čitanju starog i tuđeg koda, otkrivanju uzroka grešaka u sustavu, prilagođavanju arhitekture novim zahtjevima te osiguravanju da su rubni slučajevi pokriveni prije nego što softver dođe do korisnika.
Kada prepustimo umjetnoj inteligenciji da nekontrolirano generira komade koda, mi u našu bazu unosimo kod koji nitko u timu ne razumije u potpunosti. AI alati generiraju rješenja temeljena na obrascima iz prošlosti, što uključuje korištenje zastarjelih biblioteka, loših praksi ili nesigurnih obrazaca koji su se našli u skupovima podataka za treniranje. Ono što je još opasnije jest da taj umjetno stvoren kod u većini slučajeva izgleda uvjerljivo na prvi pogled. Sintaksa je ispravna, imena varijabli su smislena, ali ispod te površine često se skrivaju suptilne greške koje prolaze neopaženo dok ne sruše sustav u produkciji.
Umjesto da rješavaju prave probleme, programeri se pretvaraju u lektore koda koji moraju trošiti sate na dešifriranje onoga što je matematički model mislio kada je generirao funkciju. Takav pristup stvara tehnički dug. Kratkoročna brzina u početnoj fazi razvoja plaća se skupo u kasnijoj fazi održavanja, kada promjena zahtijeva proučavanje nečitljivog generiranog špageti koda. Oslanjanje na generirani kod opasno sprječava mlađe programere da kroz borbu s teškim problemima izgrade razumijevanje sustava.
Posljedice u stvarnom svijetu
Posljedice ovakvog površnog pristupa počinju se primjećivati u stvarnoj praksi. Tvrtke koje nekritički i agresivno prihvate korištenje AI alata za generiranje koda kako bi uštedjele, suočit će se s bazama koda koje brzo postaju neupravljive. Kratkoročni dobitak u produktivnosti i brzini izlaska na tržište brzo će se pretvoriti u noćnu moru zbog dugoročnih problema s održavanjem, skrivenim propustima i nemogućnošću brzog prilagođavanja sustava novim zahtjevima klijenata.
Iskusni seniori bit će pod strahovitim pritiskom jer će provoditi većinu radnog vremena pregledavajući ogromne količine osrednjeg koda koji su alati izbacili u rukama nedovoljno iskusnih kolega. S druge strane, juniori dugoročno gube najviše. Oni propuštaju priliku naučiti osnovne principe softverskog inženjerstva jer konstantno preskaču stvarni proces razmišljanja, oslanjajući se na magična rješenja iz crne kutije. U konačnici, kvaliteta softvera u svijetu opada, a vitalni sustavi na koje se oslanjamo postaju krhkiji i nestabilniji. U ovoj priči pobjeđuju jedino prodavači AI alata koji svoj uspjeh agresivno mjere u broju besmisleno generiranih linija koda, a ne u stvarnoj kvaliteti i dugoročnoj održivosti.
Završni stav
Umjetna inteligencija je neupitno fantastičan alat za automatsko dopunjavanje teksta, pronalaženje izgubljene dokumentacije i automatizaciju najdosadnijih zadataka. Međutim, moramo se prestati zavaravati. Pravo programiranje nikada nije bilo samo besmisleno tipkanje i pisanje koda; to je duboki intelektualni proces rješavanja iznimno kompleksnih problema i pažljive izgradnje robusnih, skalabilnih sustava. Brže generiranje koda koji nitko u sobi ne razumije nije znak tehnološkog napretka, već siguran put u neupravljivi kaos. Prava, nezamjenjiva vrijednost svakog kvalitetnog softverskog inženjera leži isključivo u onome što se događa u glavi puno prije i znatno poslije samog čina pisanja koda. To je ljudska vještina promišljanja koju nam nijedan statistički model, bez obzira na to koliko parametara imao, još dugo vremena neće moći oduzeti.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



