Prava istina o razvoju softvera s umjetnom inteligencijom
Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.
Kada slušamo prezentacije velikih tehnoloških tvrtki, čini se da je razvoj softvera uz pomoć umjetne inteligencije postao nevjerojatno jednostavan. Dovoljno je navodno samo opisati problem na prirodnom jeziku, a sustav će samostalno napisati, testirati i implementirati savršen kod. Ova slika stvara nerealna očekivanja među investitorima i menadžerima koji očekuju rezanje troškova, ali i među programerima koji vjeruju da više nikada neće morati ručno otklanjati greške. Međutim, svatko tko je zapravo pokušao integrirati velike jezične modele u stvarni, produkcijski sustav, shvati da postoji ogromna razlika između impresivnih demonstracija i svakodnevne inženjerske stvarnosti. Rad s umjetnom inteligencijom donosi potpuno novu razinu nepredvidljivosti u proces koji tradicionalno zahtijeva potpunu kontrolu nad svakom linijom koda. U stvarnosti, mi ne delegiramo posao nepogrešivom entitetu. Dobivamo novog, brzog, ali nepredvidljivog i neopreznog suradnika koji zahtijeva neprestani nadzor, pažljivo usmjeravanje i stalno ispravljanje grešaka.
Prevladavajuća priča
Glavni narativ koji dominira tehnološkom industrijom svodi se na tezu da će umjetna inteligencija u potpunosti zamijeniti potrebu za klasičnim programiranjem. Prema toj priči, alati koji generiraju kod iz teksta postaju toliko napredni da će duboko razumijevanje arhitekture uskoro postati suvišno. Marketing nas uvjerava da umjetna inteligencija već sada savršeno razumije kontekst projekta te da su halucinacije i logičke greške stvar prošlosti. Menadžment često usvaja ovaj narativ, očekujući da će se produktivnost timova udvostručiti. Priča se svodi na jednostavnu jednadžbu: kupite pretplatu na najnoviji AI alat, smanjite broj senior inženjera, zaposlite jeftiniji kadar i prepustite umjetnoj inteligenciji da odradi najteži dio posla. U takvom okruženju, svaki skepticizam tehničkog osoblja često se pogrešno tumači kao strah od promjene i gubitka posla.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom pričom leži u dubokom nerazumijevanju onoga što razvoj softvera zapravo jest. Pisanje samih linija koda je samo jedan, a često i najlakši, dio cjelokupnog procesa. Pravi izazovi leže u razumijevanju poslovnih zahtjeva korisnika i rješavanju stalnih nejasnoća. Umjetna inteligencija danas izvrsno piše standardizirane funkcije i uspješno generira predloške, ali redovito pada na ispitu kada se suoči s kompleksnim domenama koje nemaju tisuće sličnih primjera dostupnih na internetu za učenje.
Štoviše, postoji veći problem: kod koji AI generira često izgleda potpuno ispravno, ali često sadrži suptilne logičke greške ili ozbiljne sigurnosne propuste koje je teže uočiti nego kada pišete vlastiti kod. Umjesto da manje razmišljamo, mi sada moramo uložiti znatno više mentalnog napora u detaljno čitanje i provjeravanje strojno generiranog koda. Zbog toga se vrijeme koje je naizgled ušteđeno na mehaničkom tipkanju koda redovito gubi na dugotrajno i mukotrpno otklanjanje grešaka. Stvarnost je drugačija: programeri nisu postali suvišni, već su se transformirali u recenzente koda koji neprestano ispravljaju greške.
Posljedice u stvarnom svijetu
Ako industrija nastavi ignorirati ovu stvarnost i voditi se isključivo marketinškim obećanjima, posljedice će biti opipljive, dugoročne i skupe. Prva i najveća žrtva ovakvog pristupa bit će kvaliteta i dugoročno održavanje softvera. Zbog pritiska da se funkcionalnosti isporuče brzo uz pomoć umjetne inteligencije, mnoge tvrtke već sada nekontrolirano gomilaju ogromne količine strojno generiranog koda, bez da itko u timu ima duboko razumijevanje kako on točno funkcionira. Kada takvi krhki sustavi zakažu u produkciji, otklanjanje problema postat će noćna mora.
S druge strane, tvrtke i pojedinci koji razumiju ograničenja ovih moćnih alata ostvarit će dugoročnu prednost na tržištu. Oni će koristiti AI isključivo kao pomoćno sredstvo za brzu automatizaciju ponavljajućih zadataka, dok će rješavanje kompleksnih problema zadržati u rukama iskusnih stručnjaka. Kratkoročno, mnogi menadžeri bit će razočarani jer očekivano povećanje brzine naprosto neće doći. Dugoročno gledano, cijela će se softverska industrija morati suočiti s novom krizom održavanja, gdje će cijeli timovi inženjera biti zaduženi za popravljanje koda koje nitko nije dizajnirao. Pravi pobjednici bit će oni inženjeri koji na vrijeme nauče kako kombinirati brzinu AI generiranja sa strogom inženjerskom disciplinom, rigoroznim testiranjem i dubokim razumijevanjem temeljnih tehnologija.
Završni stav
Umjetna inteligencija nipošto nije čarobni štapić koji će preko noći izbrisati svu kompleksnost i izazove iz razvoja softvera. Ona je prije svega kompleksan, koristan, ali i opasan alat koji zahtijeva stručno rukovanje. Što se više oslanjamo na nju za svakodnevno pisanje koda, to nam više trebaju vrhunski inženjeri koji znaju procijeniti što taj kod zapravo radi i kako se on sigurno uklapa u širu, složenu sliku sustava. Krajnje je vrijeme da prestanemo slijepo vjerovati u savršene, utopijske prezentacije s pozornica i hrabro se suočimo sa stvarnošću: razvoj softvera je danas možda postao nešto brži u nekim segmentima, ali je istovremeno postao i znatno složeniji proces, koji ne oprašta greške i koji zahtijeva daleko više opreza, provjere i pravog tehničkog znanja nego ikada prije.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



