Hype i stvarnost: Zašto AI alati podbacuju u praksi
Od velikih obećanja do svakodnevnih inženjerskih frustracija
Kada slušamo prezentacije tehnoloških divova, stječe se dojam da smo na korak do svijeta u kojem će umjetna inteligencija sama pisati savršen softver, upravljati složenim sustavima i riješiti sve inženjerske probleme. Od obećanja o potpunoj automatizaciji do tvrdnji da će svatko tko zna napisati rečenicu postati programer, tržište je preplavljeno očekivanjima koja trenutni alati jednostavno ne mogu ispuniti. Svakodnevno svjedočimo lansiranju novih modela s impresivnim demonstracijama, no ispod te površine krije se mnogo kompleksnija i često frustrirajuća stvarnost inženjerskog rada.
Prevladavajuća priča
Tržišni narativ je jednostavan, zavodljiv i izuzetno profitabilan za proizvođače AI alata. On sugerira da će umjetna inteligencija ubrzo moći raditi apsolutno sve što rade iskusni stručnjaci, ali neusporedivo brže, jeftinije i bez potrebe za odmorom. Prema ovoj viziji, tvrtke samo trebaju kupiti nekoliko licenci za najnovije AI modele, smanjiti broj zaposlenih i opušteno gledati kako se produktivnost eksponencijalno povećava.
U toj idealiziranoj slici, AI alati su besprijekorni asistenti. Oni navodno trenutačno razumiju svaku našu namjeru, pišu optimalan kod bez grešaka i samostalno navigiraju kroz složene arhitekture postojećih sustava. Ta priča privlači investitore, oduševljava menadžere i stvara pritisak na inženjere da što prije usvoje te alate kako ne bi "zaostali".
Zašto je ta priča pogrešna ili nepotpuna
Stvarnost rada s AI alatima znatno je drugačija i mnogo prizemnija. Da budemo jasni, ti alati nisu beskorisni. Oni su iznimno korisni u generiranju predložaka, obavljanju dosadnih rutinskih zadataka, pisanju osnovnih testova i sažimanju informacija iz dokumentacije. No, tu uglavnom prestaje njihova magija.
Kada se ovi sustavi suoče sa složenim poslovnim logikama, specifičnim arhitektonskim zahtjevima ili situacijama koje zahtijevaju duboko razumijevanje specifičnog konteksta nekog projekta, njihova korisnost drastično pada. Često se događa da popravljanje grešaka, rješavanje nevidljivih rubnih slučajeva i refaktoriranje koda koji je generirao AI alat oduzme znatno više vremena nego da ga je iskusni stručnjak promišljeno napisao ispočetka.
Problem je u tome što AI alati generiraju ogromne količine koda, ali više koda ne znači nužno i bolji softver. Vrlo često to znači samo više tehničkog duga. Ovi modeli zapravo ne razumiju suštinu problema koji rješavaju. Oni samo statistički predviđaju sljedeći najvjerojatniji odgovor na temelju uzoraka iz prošlosti. To rezultira rješenjima koja na prvi pogled izgledaju gramatički i sintaktički točno, prolaze brze provjere, ali duboko u sebi skrivaju ozbiljne konceptualne mane, sigurnosne propuste i neoptimalna rješenja koja će se otkriti tek u produkciji.
Posljedice u stvarnom svijetu
Oni koji naivno vjeruju marketinškim obećanjima bez kritičkog promišljanja na kraju se suočavaju s vrlo skupim i bolnim posljedicama. Očekujući drastično i trenutačno povećanje produktivnosti, mnoge organizacije zanemaruju potrebu za temeljitim provjerama, strogim procedurama pregleda koda i stručnim nadzorom.
Rezultat takvog pristupa je nekontrolirani rast tehničkog duga, opadanje opće kvalitete softvera i stvaranje nevjerojatno složenih, teško održivih sustava u kojima nitko do kraja ne razumije kako stvari funkcioniraju. Umjesto da svoje vrijeme troše na rješavanje ključnih problema arhitekture, optimizacije i dizajna sustava, iskusni stručnjaci se pretvaraju u revizore lošeg koda koji je generirala umjetna inteligencija. Umorni su od čišćenja tuđeg (strojnog) nereda. U ovakvoj postavci stvari, jedini stvarni dobitnici su proizvođači tih istih AI alata koji prodaju iluziju efikasnosti, dok stvarni korisnici i organizacije dugoročno snose teret ogromnih skrivenih troškova i smanjene kvalitete.
Završni stav
Umjetna inteligencija u trenutnom obliku nije nikakav čarobni štapić, već samo još jedan, doduše koristan, alat u našem inženjerskom nizu. Pomaže kod rutine, ubrzava tipkanje, ali nikako ne može zamijeniti stručnost, duboko razumijevanje domenskog konteksta, kritičko razmišljanje i ljudsku prosudbu. Dok god budemo slijepo vjerovali u bajke o svemogućoj umjetnoj inteligenciji koja će riješiti sve naše probleme, samo ćemo bezglavo povećavati vlastiti tehnički dug, smanjivati kvalitetu rada i gubiti fokus s onoga što uistinu stvara vrijednost – a to su promišljena, inženjerski utemeljena rješenja.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
