Hype vs. stvarnost: Gdje su ti autonomni agenti?
Unatoč ogromnim najavama, istinski autonomni agenti i dalje su rijetkost, a stvarna vrijednost leži u uskoj primjeni.
Prošla godina bila je u znaku ogromnih najava o autonomnim agentima koji će preuzeti naše poslove, rezervirati letove, obavljati kupovinu i samostalno upravljati kompleksnim poslovnim procesima. Svi vodeći igrači u industriji umjetne inteligencije, od OpenAI-ja do Microsofta i Googlea, zborski su obećavali da je era jednostavnih "kopilota" koji nam samo sugeriraju rješenja definitivno gotova. Tvrdili su, i još uvijek tvrde, da ubrzano ulazimo u potpuno novu eru "agenata" koji ne trebaju ljudsku intervenciju ni nadzor. Međutim, kada malo bolje pogledamo i analiziramo stvarno stanje na terenu danas, jaz između tih obećanja i onoga što se stvarno i pouzdano koristi u praksi rijetko je kada bio veći.
Prevladavajuća priča
Narativ koji nam se svakodnevno servira kroz tehnološke medije, blogove i ispolirane prezentacije velikih kompanija jest da su agenti već tu i da mijenjaju svijet iz temelja. Tvrdi se da oni više nisu samo jezični alati za pasivno odgovaranje na pitanja, već iznimno pametni, neovisni digitalni entiteti sposobni za dugoročno rasuđivanje, složeno planiranje i besprijekorno izvršavanje višestepenih zadataka u dinamičnim okruženjima stvarnog svijeta.
Od tih digitalnih radnika naveliko se očekuje da samostalno, bez ikakvog promptanja nakon početne naredbe, istražuju cijeli web, pronalaze relevantne informacije, komuniciraju s desecima drugih softvera putem raznih API-ja, samostalno ispravljaju vlastite greške kada na njih naiđu te donose ispravne i optimalne odluke bez apsolutno ikakvog stalnog ljudskog nadzora. Prema toj iznimno optimističnoj priči, pitanje uopće nije "hoće li" ovi autonomni agenti preuzeti kontrolu nad većinom naših digitalnih procesa, već samo "kada" će se to dogoditi u potpunosti i bez iznimke. Mnogi entuzijasti i takozvani stručnjaci bez zadrške sugeriraju da je to vrijeme upravo "sada".
Zašto je ta priča pogrešna ili nepotpuna
Temeljni problem s ovim napuhanim narativom jest činjenica što se gotovo isključivo temelji na pažljivo koreografiranim demonstracijama u strogo kontroliranim uvjetima. Radi se o pomno odabranim primjerima, takozvanim "happy path" scenarijima, koji iznimno rijetko preživljavaju prvi, brutalni susret sa stvarnim, nepredvidljivim svijetom produkcijskog okruženja.
Prvo, istinska i potpuna autonomija je zapravo nevjerojatno teška za postići u praksi zbog onoga što inženjeri nazivaju "problemom duge granice" (long-tail problem). Današnji, čak i najnapredniji agenti, zaista fantastično rješavaju 80% ili čak 90% uobičajenih i predvidljivih situacija za koje su vjerojatno i trenirani. Ali, onoga trenutka kada naiđu na neočekivani format podataka, na suptilno promijenjeni API odgovor treće strane, ili na imalo dvosmislenu korisničku uputu, oni rijetko kada znaju elegantno odustati i zatražiti pomoć. Umjesto toga, zbog svoje arhitekture, često ulaze u beskonačne petlje ponavljanja istih pogrešaka, samouvjereno "haluciniraju" potpuno besmislena rješenja ili donose potencijalno katastrofalne odluke s pretjeranom i posve neutemeljenom dozom samopouzdanja.
Drugo, i možda još važnije, trošak greške u stvarnom, poslovnom svijetu često je jednostavno previsok da bi se eksperimentiralo. Zatražiti od jezičnog modela da generira sliku slatkog psića ili napiše rođendansku čestitku je potpuno bezazleno. No, prepustiti tom istom sustavu samostalno izvršavanje stvarnih financijskih transakcija, upravljanje osjetljivim podacima korisnika ili brisanje i ažuriranje produkcijskih baza podataka zahtijeva razinu matematičke pouzdanosti koju današnji generativni modeli jednostavno i dokazano nemaju. Oni su u svojoj samoj srži i arhitekturi i dalje stohastički sustavi, napredni strojevi za predviđanje vjerojatnosti sljedećeg tokena na temelju golemog trening seta, a nipošto deterministički sustavi sposobni za istinsko, čvrsto logičko promišljanje. Upravo zato, svaki iole ozbiljan "agent" koji je trenutno zaista implementiran u produkciji i dalje zahtijeva iznimno strog, stalni ljudski nadzor.
Posljedice u stvarnom svijetu
Ako kao industrija i društvo nastavimo slijepo vjerovati u ovaj pomalo opasan mit o skoroj potpunoj autonomiji bez prepreka, stvarne posljedice bit će isključivo masovni gubitak dragocjenog vremena, ogromnog novca i, što je najgore, potpunog povjerenja u korisnost umjetne inteligencije općenito.
Mnoge kompanije će bez sumnje trošiti milijune pokušavajući na silu automatizirati iznimno kompleksne, duboko nestrukturirane procese koje agenti naprosto još uvijek ne mogu pouzdano i sigurno izvesti. Istovremeno, te iste tvrtke potpuno će zanemarivati optimizaciju onih jednostavnijih, izrazito dosadnih, repetitivnih zadataka gdje je umjetna inteligencija kao "kopilot" već danas iznimno pouzdana i fantastično korisna. Investitori će se neizbježno razočarati kada konačno shvate da obećani povrat njihove ogromne investicije jako kasni jer je stvarna inženjerska implementacija višestruko teža i kompliciranija od gledanja ispolirane prezentacije s početka priče.
S druge strane medalje, oni pragmatični pojedinci i organizacije koji na vrijeme prepoznaju ova jasna ograničenja i mudro se fokusiraju na izgradnju "mikro-agenata" – malih, modularnih, usko specijaliziranih sustava koji obavljaju isključivo jedan specifičan zadatak savršeno, ali uvijek uz obavezan ljudski nadzor u petlji (human-in-the-loop) – dobit će stvarnu, mjerljivu i ogromnu vrijednost već danas. Potpuno odbacivanje iluzije opće autonomije omogućit će pravim inženjerima da napokon prestanu loviti duhove i počnu graditi stabilnije, predvidljivije i korisnije alate, a tvrtkama da napokon implementiraju AI rješenja koja zapravo rade na njihovim pravim podacima i u produkciji.
Završni stav
Dok gotovo cijela tehnološka industrija neprestano mašta o blistavoj budućnosti i super-pametnim digitalnim radnicima koji potpuno samostalno i bez greške vode kompanije iz oblaka, istinska, opipljiva i dokazana vrijednost umjetne inteligencije u današnjem trenutku i dalje čvrsto leži u uskoj, pažljivo ograničenoj primjeni. U toj primjeni, stručni čovjek neupitno ostaje glavni i konačni donositelj odluka, a impresivni AI stroj tek iznimno moćan, ali ipak samo podređen i strogo kontroliran alat u njegovim rukama.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



