AI agenti: Obećanja naspram stvarnosti u tehnološkom svijetu
Tržište nam obećava potpuno autonomne radnike, no trenutna tehnologija je i dalje daleko od onoga što se prezentira.
Sveprisutna priča u tehnološkom svijetu, posebice od početka ove godine, usmjerena je na pojam umjetne inteligencije u obliku agenata, poznatih kao AI agents. Gledajući demonstracije raznih tvrtki, startupa u usponu i čitajući marketinške najave, vrlo lako se stječe dojam da smo na korak do digitalnih zaposlenika. Očekivanja javnosti i investitora su nevjerojatno visoka, a fondovi rizičnog kapitala ulažu milijarde dolara u tvrtke koje obećavaju potpunu autonomiju. Međutim, svakodnevna stvarnost razvoja softvera, inženjerstva i integracije sustava umjetne inteligencije u poslovne procese otkriva sasvim drugačiju sliku. Prava istina, koju mnogi izbjegavaju javno izreći, jest da smo još uvijek u ranoj fazi u kojoj tehnologija, unatoč napretku, i dalje zahtijeva iznimno značajan ljudski nadzor i korekciju.
Prevladavajuća priča
Narativ koji trenutno potpuno dominira tehnološkim medijima, raspravama i marketinškim kampanjama sugerira da su veliki jezični modeli postali dovoljno sposobni, robusni i pouzdani da se otrgnu od interakcije koja se svodi na bazična pitanja i odgovore. Umjesto jednostavnih chatbota, sada nam se agresivno obećavaju sofisticirani autonomni agenti koji navodno mogu samostalno razumjeti poslovni kontekst i razbiti bilo koji inženjerski cilj na niz izvedivih zadataka.
Prema toj idealiziranoj priči, ti isti agenti mogu bez ikakvih problema samostalno navigirati internetom, koristiti razne programske alate poput web preglednika, terminala komandne linije, API sučelja i relacijskih baza podataka. Nadalje, obećava se fantastična sposobnost da agent ispravlja vlastite greške tijekom rada, analizira povratne informacije, čita dokumentaciju i prilagođava svoj pristup sve dok ne dođe do funkcionalnog rješenja. Prema ovoj optimističnoj priči, ljudska uloga se svodi isključivo na zadavanje početnog cilja na visokoj razini apstrakcije i eventualni površni nadzor gotovog rezultata na samom kraju.
Zašto je ta priča pogrešna ili nepotpuna
Glavni problem s ovim prevladavajućim narativom leži u nepredvidivosti, čestim halucinacijama i temeljnim ograničenjima trenutne generacije velikih jezičnih modela na kojima su ovi agenti izgrađeni. Iako današnji modeli mogu generirati impresivne i točne dijelove koda, pisati uvjerljive tekstove i rješavati logičke probleme kada im se pruži savršen kontekst, oni i dalje ne posjeduju istinsko razumijevanje sustava. Njihovo znanje i dalje je strogo statističke prirode, temeljeno na prepoznavanju složenih uzoraka u ogromnim količinama podataka, a ne na stvarnom uzročno-posljedičnom razumijevanju poslovnih pravila ili arhitekture sustava.
Kada moderni AI agent naiđe na neočekivanu grešku ili specifičan rubni slučaj koji nije bio zastupljen u podacima, on vrlo često ulazi u beskonačnu petlju pokušaja i pogrešaka. Sustav generira jedno pogrešno rješenje za drugim, uporno pokušavajući ispraviti grešku na načine koji nemaju previše logičkog smisla iz perspektive iskusnog ljudskog inženjera. Zbog nedostatka pravog šireg konteksta, agent se najčešće ne može samostalno izvući iz te situacije bez vanjske pomoći. Pouzdanost takvih autonomnih sustava u produkcijskim okruženjima drastično pada što je zadatak složeniji. Trenutni agenti zahtijevaju detaljne upute i konstantan ljudski nadzor. Očekivanje da sustav može potpuno samostalno navigirati kroz kod, razumjeti logiku i ispraviti bug bez ljudske pomoći trenutno je nerealno. Često inženjer mora potrošiti više vremena na usmjeravanje agenta nego na samostalno rješavanje problema.
Posljedice u stvarnom svijetu
Ako donositelji strateških odluka u tvrtkama nastave bezrezervno vjerovati da su potpuno autonomni AI agenti već doista ovdje i spremni za upotrebu, suočit ćemo se sa značajnim i skupim problemima. Tvrtke će, zavedene obećanjima o nevjerojatnoj uštedi, početi ulagati ogromna sredstva i vrijeme u prerane pokušaje potpune automatizacije procesa koji su trenutno previše složeni za umjetnu inteligenciju. Pokušaj direktne zamjene cijelih timova s nesavršenim i nepredvidivim agentima neizbježno dovodi do frustracija, probijenih rokova na projektima i konačno, do razočaranja u tehnologiju.
Ta ista tehnologija, međutim, kada se koristi ispravno, s dubokim razumijevanjem ograničenja i realnim očekivanjima, ima ogroman potencijal. Gubitnici u ovom trenutnom scenariju bit će isključivo one organizacije koje slijepo prate medijski hype i pokušavaju pod svaku cijenu zamijeniti ljudski rad strojevima. S druge strane spektra, pobjednici bit će agilne tvrtke koje AI agente već sada tretiraju kao iznimno moćne, napredne i neumorne asistente. Takvi asistenti mogu značajno ubrzati dosadan repetitivni rad, automatizirati jednostavne zadatke i ponuditi korisne prijedloge, ali i dalje apsolutno zahtijevaju stručno ljudsko vodstvo. Prihvaćanje umjetne inteligencije kao kolaborativnog alata koji proširuje ljudske sposobnosti apsolutno je ključno za implementaciju.
Završni stav
Autonomni AI agenti nedvojbeno predstavljaju fascinantan tehnološki koncept i jasan su smjer u kojem industrija ubrzano ide. Međutim, važno je ostati čvrsto na zemlji: u ovom trenutku oni predstavljaju moćan alat za povećanje ljudske produktivnosti, a nikako neovisne digitalne radnike koji mogu preuzeti naše poslove umjesto nas.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
