Iluzija efikasnosti: AI agenti kao nova birokracija
Kako su alati koji su nas trebali osloboditi posla postali menadžeri koje moramo nadzirati
Obećanje je bilo jednostavno: autonomni AI agenti preuzet će repetitivne i dosadne zadatke, oslobađajući naše vrijeme za kreativni rad i strateško razmišljanje. Trebali su biti nevidljivi digitalni asistenti koji samostalno rješavaju probleme u pozadini. Umjesto toga, svjedočimo rađanju potpuno nove razine tehničke kompleksnosti. Danas programeri i korisnici provode sate pišući detaljne upute, nadzirući procese i popravljajući pogreške sustava koji je trebao raditi samostalno. Nismo eliminirali mikromenadžment – samo smo ga prebacili s ljudskih zaposlenika na nepredvidive algoritme.
Prevladavajuća priča
Glavni narativ tehnološke industrije usredotočen je na ideju potpune automatizacije. Startupi svakodnevno lansiraju nove "agente" koji navodno mogu samostalno programirati, analizirati tržišta ili voditi korisničku podršku. Koncept "Agentic AI" (agentske umjetne inteligencije) prodaje se kao rješenje za smanjenje troškova i eksponencijalni rast produktivnosti. Prema ovoj priči, dovoljno je definirati cilj, a sustav će autonomno razbiti problem na manje zadatke, delegirati ih različitim modelima i isporučiti gotov proizvod.
Zašto je ta priča pogrešna ili nepotpuna
Stvarnost razvoja i implementacije ovakvih sustava daleko je od promotivnih videozapisa. AI agenti danas funkcioniraju poput entuzijastičnih, ali izrazito neiskusnih pripravnika s ozbiljnim problemom u komunikaciji.
Kada pokušate automatizirati kompleksan tijek rada (workflow), suočavate se s fenomenom "kaskadnih halucinacija" – greška u jednom koraku eksponencijalno se širi kroz cijeli sustav. Da biste to spriječili, morate uvesti stroge kontrolne mehanizme, dodatne validacijske korake i sigurnosne provjere. Rezultat? Vrijeme koje ste navodno uštedjeli automatizacijom zadatka sada trošite na dizajniranje, testiranje i debagiranje arhitekture samog agenta. Umjesto da pišete kod za rješavanje poslovnog problema, pišete kod koji nadzire AI koji piše kod. To nije efikasnost, to je nova birokracija.
Posljedice u stvarnom svijetu
Ova iluzija autonomije stvara opasan tehnički dug za tvrtke koje ju nekritički usvajaju. Gube se jasni lanci odgovornosti. Kada složeni sustav agenata donese pogrešnu odluku s financijskim ili sigurnosnim posljedicama, debagiranje "toka misli" (chain of thought) višestrukih jezičnih modela postaje noćna mora.
Dobitnici u ovakvom okruženju nisu tvrtke koje implementiraju agente, već platforme koje prodaju procesorsku moć (compute) i alate za nadzor (observability) AI sustava. Gubitnici su inženjeri koji umjesto kreativnog rješavanja problema postaju "dadilje algoritmima", prisiljeni beskrajno prilagođavati upute (prompte) kako bi spriječili sustav da skrene s puta.
Završni stav
Autonomni AI agenti trenutno nisu zamjena za ljudski rad, već su postali novi, zahtjevan softverski proizvod koji taj rad mora održavati. Prava vrijednost umjetne inteligencije danas ne leži u iluziji potpune autonomije, već u stvaranju pouzdanih, specifičnih alata koji pojačavaju ljudske sposobnosti pod jasnom ljudskom kontrolom. Vrijeme je da prestanemo graditi digitalne birokracije i vratimo fokus na stvaranje korisnog softvera.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
