Zašto AI nikada neće razumjeti poslovni kontekst
Modeli pišu kod, ali inženjerstvo se svodi na neizrečene kompromise.
Generativni alati za programiranje postaju sve napredniji u generiranju sintakse i rješavanju izoliranih problema. Marketing nas uvjerava da je to dovoljno za automatizaciju razvoja, ali stvarnost je znatno drugačija. Kodiranje je samo manji dio onoga što inženjeri zapravo rade. Pravi izazov leži u razumijevanju šireg poslovnog konteksta koji nije nigdje zapisan.
Prevladavajuća priča
Industrija nam pokušava prodati viziju u kojoj AI agenti samostalno preuzimaju zahtjeve iz sustava za praćenje zadataka i pretvaraju ih u gotove proizvode. Prema tom narativu, jedino što nam nedostaje su veći prozori za kontekst i malo bolji modeli. Vjeruje se da se svaki poslovni proces i svaki zahtjev može savršeno opisati kroz tekstualni prompt.
Zašto je ta priča pogrešna ili nepotpuna
Problem leži u tome što se najvažnije odluke u razvoju softvera ne donose na temelju službene dokumentacije. One se temelje na nizu neizrečenih kompromisa i povijesnog konteksta. AI ne zna da se onaj jedan prastari sustav ne smije dirati jer ga održava samo jedna osoba pred mirovinom. Ne razumije da određeni klijent zahtijeva brzu isporuku na uštrb savršene arhitekture, dok drugi ne oprašta ni najmanju grešku.
Alati umjetne inteligencije optimizirani su za rješavanje zadataka na temelju onoga što im je eksplicitno rečeno. No u stvarnom svijetu, zahtjevi su često kontradiktorni, dvosmisleni i podložni promjenama u zadnji tren zbog političkih previranja unutar tvrtke. Nijedan jezični model ne može pročitati sobu i shvatiti prave prioritete menadžmenta koji se skrivaju između redaka.
Posljedice u stvarnom svijetu
Kada tvrtke pokušaju automatizirati razvoj bez uvažavanja ovog neizrečenog konteksta, rezultat je kod koji tehnički radi, ali poslovno promašuje poantu. Dobijamo sustave koji su previše kompleksni za jednostavne probleme ili rješenja koja ignoriraju operativnu stvarnost tima. U konačnici, inženjeri provode više vremena prepravljajući "savršen" AI kod kako bi ga prilagodili stvarnom svijetu, umjesto da od početka grade pravo rješenje. Tvrtke koje se previše oslone na ove alate izgubit će onu suptilnu prilagodljivost koja čini razliku između uspješnog i propalog projekta.
Završni stav
Znanje potrebno za izgradnju uspješnog softvera ne nalazi se samo u kodnoj bazi, već u glavama ljudi i kulturi organizacije. Sve dok AI ne nauči piti kavu s kolegama i dešifrirati stvarne želje klijenata, ostat će samo alat, a ne neovisni inženjer.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
