Zašto su autonomni AI agenti trenutno neupotrebljivi
Prezentacije nam prodaju neovisne radnike, ali stvarni inženjering otkriva sustave kojima ne možemo vjerovati.
Ako danas pratite tehnološke vijesti, lako ćete steći dojam da su autonomni agenti spremni preuzeti naše urede. Gotovo svaka tehnološka tvrtka promovira viziju u kojoj umjetna inteligencija ne samo da piše tekstove i kod, već samostalno planira zadatke i donosi odluke. Na prvi pogled, obećanje zvuči neodoljivo. Umjesto da sami rješavamo probleme, prepustit ćemo ih softverskim asistentima. Međutim, kada pokušamo implementirati te sustave u produkcijsko okruženje, suočavamo se s brutalnom stvarnošću. Autonomni agenti danas pate od jednog kritičnog nedostatka koji ih čini neupotrebljivima za ozbiljne zadatke: nedostatak povjerenja.
Prevladavajuća priča
Prevladavajući narativ unutar industrije umjetne inteligencije vrti se oko koncepta takozvanog "agentic workflowa" ili agentskog načina rada. Ideja je jednostavna, ali moćna. Umjesto da velikim jezičnim modelima postavljamo pojedinačne upite na koje oni generiraju neposredne odgovore, mi im dajemo složene ciljeve na visokoj razini. Model zatim samostalno razlaže taj cilj na manje korake, koristi vanjske alate poput web preglednika, baza podataka i programskih sučelja te iterativno radi prema rješenju.
Investitori i osnivači startupa uvjeravaju nas da smo na pragu ere u kojoj će softver funkcionirati kao zaposlenik s punim radnim vremenom. Demonstracije su pažljivo koreografirane: agent dobiva zadatak da istraži tržište, samostalno pretražuje internet, prikuplja podatke, formatira ih u tablicu i šalje izvještaj e-mailom. Uvjerava nas se da će takva tehnologija eksponencijalno povećati produktivnost i smanjiti troškove poslovanja. Svi se trude integrirati agente u svoje proizvode, uvjereni da je to sljedeća velika evolucija.
Zašto je ta priča pogrešna ili nepotpuna
Problem s tom impresivnom vizijom je što zanemaruje temeljnu prirodu trenutnih jezičnih modela. Oni su u svojoj osnovi probabilistički sustavi za predviđanje sljedećeg tokena, a ne deterministički strojevi sa stvarnim razumijevanjem uzroka i posljedice. Kada agent donese odluku, on to čini na temelju statističke vjerojatnosti teksta na kojem je treniran, a ne na temelju logičkog zaključivanja.
U kontroliranim demonstracijama to nije problem jer su scenariji uski i predvidljivi. Međutim, stvarni svijet je kaotičan, pun rubnih slučajeva i nepredvidivih grešaka. Kada autonomnom agentu dopustite pristup stvarnim podacima i mogućnost izvršavanja akcija, preuzimate ogroman rizik. Što se događa kada model halucinira i odluči obrisati produkcijsku bazu podataka jer je krivo protumačio korak u svom planu? Što kada pošalje pogrešne informacije klijentima jer je pogrešno razumio kontekst e-maila?
Nedostaje nam osnovni mehanizam verifikacije. U klasičnom softveru, kod je deterministički i možemo ga testirati na stotine načina. Kod AI agenata, svaki je prolaz kroz zadatak donekle jedinstven i nepredvidiv. Ne možemo im vjerovati jer ne možemo jamčiti kako će reagirati u novoj, neviđenoj situaciji. Da bismo im prepustili kritične procese, moramo oko njih izgraditi složene sigurnosne mehanizme, nadzorne sustave i ljudske odobrene korake, što potpuno poništava samu svrhu njihove autonomije. Umjesto da štedimo vrijeme, inženjeri provode sate dizajnirajući zaštitne ograde i čitajući logove kako bi shvatili zašto je agent donio katastrofalno pogrešnu odluku.
Osim toga, industrija namjerno miješa demonstracijsku sposobnost sa sistemskom pouzdanošću. Agent koji u 80 posto slučajeva uspješno obavi zadatak može biti zanimljiv projekt, ali je potpuno neupotrebljiv u poslovnom okruženju gdje se očekuje pouzdanost od 99.9 posto. Oslanjanje na sustave koji su samo "uglavnom točni" uvodi neprihvatljiv tehnički dug i operativni rizik u srž poslovanja.
Posljedice u stvarnom svijetu
Ako se trenutni narativ nastavi bez kritičkog preispitivanja, posljedice će biti značajne. Na kratki rok, svjedočit ćemo valu razočaranja i neuspjelih projekata. Tvrtke će uložiti ogromne resurse u integraciju AI agenata, samo da bi otkrile kako ti sustavi zahtijevaju više ljudskog nadzora nego procesi koje su trebali zamijeniti. Inženjerski timovi će biti frustrirani jer će umjesto stvaranja vrijednosti postati nadzornici nesavršenih sustava.
S druge strane, gubitnici su oni koji povjeruju obećanjima i otpuste dio radne snage računajući na autonomne zamjene. Dobitnici u ovoj fazi neće biti tvrtke koje prve implementiraju potpuno autonomne agente, već one koje prepoznaju njihova ograničenja i fokusiraju se na pragmatična rješenja. To su organizacije koje će koristiti AI kao pojačivač ljudskog rada — sustave koji predlažu i analiziraju, ali zahtijevaju eksplicitno odobrenje čovjeka za izvršavanje kritičnih akcija. Stvarna vrijednost trenutno leži u inteligentnoj augmentaciji ljudskih sposobnosti.
Dugoročno gledano, ovaj neuspjeh pune autonomije prisilit će industriju da se vrati inženjerskim osnovama. Morat ćemo prestati razvijati svemoćne agente opće namjene i umjesto toga početi graditi specifične, determinističke alate s usko definiranim mogućnostima i čvrstim sigurnosnim granicama.
Završni stav
Umjetna inteligencija je donijela nevjerojatan napredak u mnogim domenama, ali stvarna autonomija nije samo pitanje inteligencije, već prije svega pitanje predvidljivosti i povjerenja. Trenutni autonomni agenti na tržištu su tehnološka impresija bez stvarne inženjerske pouzdanosti. Sve dok ne budemo u stanju nedvojbeno jamčiti sigurnost i dosljednost njihovog složenog lanca odlučivanja, prepuštanje kritičnih procesa umjetnoj inteligenciji ostat će opasna iluzija koju stvarni svijet brutalno kažnjava u produkciji.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



