Mit o autonomnim agentima: Stvarnost razvoja UI alata
Marketinška obećanja o agentima često zanemaruju stvarne prepreke
Kada danas slušamo govore izvršnih direktora tehnoloških kompanija ili čitamo promotivne materijale novih startupa, često se susrećemo s pojmom "autonomnih agenata". Obećanje je nevjerojatno primamljivo: umjesto da ručno rješavate probleme ili pišete kod, jednostavno ćete zadati cilj umjetnoj inteligenciji. Agent će zatim samostalno istražiti problem, napisati kod, testirati ga, ispraviti greške i isporučiti gotovo rješenje. Zvuči kao budućnost u kojoj inženjeri više nisu potrebni, već postaju isključivo upravitelji koji nadziru rad strojeva. Međutim, kao netko tko svakodnevno radi s ovim tehnologijama, moram istaknuti da je stvarnost daleko od ovog savršenog marketinškog sna.
Prevladavajuća priča
Prevladavajuća priča u industriji je da smo na rubu potpune automatizacije. Prema tom narativu, veliki jezični modeli postali su toliko napredni da mogu samostalno donositi logične odluke u složenim okruženjima. Investitori ulažu milijarde dolara u tvrtke koje obećavaju agente sposobne za samostalno vođenje projekata, upravljanje bazama podataka i rješavanje arhitektonskih izazova. Mnogi vjeruju da će ovi sustavi uskoro moći zamijeniti cijele timove programera, smanjujući troškove i ubrzavajući razvojni ciklus do neviđenih razina. U ovoj priči, jedino što nas dijeli od te budućnosti je još malo računalne snage i nekoliko manjih optimizacija algoritama.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom pričom je što ignorira temeljnu prirodu trenutnih sustava umjetne inteligencije i složenost stvarnog razvoja softvera. Trenutni modeli, ma koliko bili impresivni u generiranju teksta ili koda, i dalje su u svojoj srži sofisticirani sustavi za predviđanje sljedeće riječi. Nemaju istinsko razumijevanje konteksta, nemaju sposobnost dugoročnog planiranja i, što je najvažnije, izrazito su loši u oporavku od vlastitih grešaka.
Kada autonomni agent naiđe na neočekivani problem – primjerice, specifičnu grešku u ovisnostima, nedokumentirano ponašanje vanjskog API-ja ili suptilnu logičku pogrešku u arhitekturi – on se često "zapetlja". Umjesto da zastane i preispita svoj pristup, agent će često pokušati riješiti problem nasumičnim pokušajima, stvarajući pritom još veći kaos. Ponekad će izbrisati ispravan kod, dodati nepotrebne biblioteke ili stvoriti beskonačne petlje grešaka.
Stvarnost rada s današnjim "agentima" zahtijeva ogroman angažman inženjera. Mi zapravo ne zadajemo visoko apstraktne ciljeve; umjesto toga, moramo iznimno precizno formulirati svaki korak, pažljivo ograničiti opseg rada agenta i stalno nadzirati njegov napredak. Često je potrebno više vremena za pisanje savršenog niza uputa (promptova) i ispravljanje grešaka koje agent napravi, nego što bi nam trebalo da sami napišemo taj kod. Umjesto autonomnih radnika, dobili smo vrlo sposobne, ali izrazito nepredvidive asistente kojima je potreban stalni nadzor.
Posljedice u stvarnom svijetu
Ako nastavimo vjerovati u mit o potpunoj autonomiji, suočit ćemo se s ozbiljnim posljedicama u stvarnom svijetu. Tvrtke koje otpuste svoje iskusne inženjere u nadi da će ih zamijeniti jeftinim UI agentima brzo će shvatiti da su njihovi sustavi postali neodrživi. Tehnički dug će rasti eksponencijalno, jer agenti često generiraju rješenja koja "rade" u izolaciji, ali ne prate dugoročne arhitektonske smjernice i standarde kvalitete.
S druge strane, pravi gubitnici bit će mlađi inženjeri. Ako industrija forsira upotrebu agenata za rješavanje svih jednostavnijih zadataka, gubimo poligon za učenje na kojem su generacije programera stjecale iskustvo. Tko će odgajati buduće seniore ako juniori više ne pišu osnovni kod i ne rješavaju uobičajene probleme? Gubimo prijenos znanja i iskustva koji je ključan za razvoj kvalitetnih softverskih inženjera.
Pravi dobitnici u ovoj situaciji bit će inženjeri koji nauče kako efikasno koristiti ove alate, ne kao zamjenu za svoje razmišljanje, već kao pojačivače vlastite produktivnosti. Oni će shvatiti da UI alati nisu tu da preuzmu kontrolu, već da im pomognu brže provesti njihove vlastite ideje i arhitektonske zamisli.
Završni stav
Autonomni agenti kakvi nam se danas prodaju jednostavno ne postoje, a možda nikada neće ni postojati u obliku koji nam obećavaju. Umjetna inteligencija je nevjerojatno moćan alat koji već sada mijenja način na koji pišemo kod, ali ona nije i ne može biti zamjena za ljudsko rasuđivanje, iskustvo i sposobnost rješavanja istinski složenih, nepredvidivih problema. Prava vrijednost ovih alata leži u simbiozi s ljudskim inženjerima, a ne u njihovoj zamjeni. Što prije odbacimo mit o potpunoj autonomiji, to ćemo prije moći izgraditi održive, kvalitetne i pouzdane softverske sustave za budućnost.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
