Zašto autonomni AI agenti stvaraju više posla nego što ga rješavaju
San o sustavima koji samostalno rješavaju probleme sudara se sa stvarnošću u kojoj ljudski nadzor postaje složeniji od samog zadatka.
Najnovije obećanje tehnološke industrije više nije samo ubrzanje svakodnevnog rada, već njegova potpuna delegacija. Ideja na papiru zvuči nevjerojatno privlačno i jednostavno: prepustite složene, višestepene zadatke autonomnim softverskim agentima koji će sami planirati, izvršavati, testirati i ispravljati vlastite greške bez ikakvog ljudskog uplitanja. Umjesto da korisnik mora objašnjavati svaki detalj i pisati skripte za svaki mogući rubni slučaj, dovoljno je zadati apstraktan cilj. Ipak, čim se zagrebe ispod površine impresivnih marketinških demonstracija, u praksi se taj san često pretvara u noćnu moru stalnog nadzora, nepredvidivih grešaka i mikromenadžmenta koda. Sustavi koji bi nas trebali osloboditi tehničkog tereta zapravo nas vežu za ekrane na potpuno nov, često iscrpljujući način.
Prevladavajuća priča
Narativ koji se neprestano ponavlja kroz industriju jest da su veliki jezični modeli napokon postali dovoljno inteligentni i sposobni da djeluju potpuno neovisno o ljudskom vodstvu. Prema toj viziji budućnosti rada, stručnjaci više neće morati gubiti vrijeme na repetitivne tehničke zadatke ili ručno integriranje različitih programskih sučelja. Korisnik samo treba zadati konačni cilj na prirodnom jeziku, a pametni agent će samostalno raščlaniti taj problem na niz logičnih koraka. Nakon toga će pretražiti potrebne podatke na internetu ili u internim bazama, napisati potreban kod, konfigurirati sustave te u konačnici isporučiti gotov, testiran rezultat spreman za produkciju.
Vjeruje se da će ovakav inovativni pristup drastično smanjiti potrebu za ljudskom intervencijom u mnogim poslovnim procesima, od agilnog razvoja softvera do dubinske analize podataka i složene korisničke podrške. Zastupnici ove teze čvrsto su uvjereni da je pitanje potpune autonomije samo stvar povećanja računalne moći, širenja kontekstnog prozora i dodavanja nekoliko slojeva povratne sprege u arhitekturu postojećih modela. U tom idealiziranom tehnološkom svijetu, ljudi postaju isključivo stratezi i vizionari, dok umjetna inteligencija preuzima nezahvalnu ulogu neumornog, savršenog izvršitelja svakodnevnih zadataka.
Zašto je ta priča pogrešna ili nepotpuna
Stvarnost rada s takvim autonomnim sustavima ubrzo otkriva duboke i zasad nerješive arhitektonske nedostatke trenutnih modela. Prvi i najvažniji problem leži u opasnoj iluziji razumijevanja. Iako agenti mogu generirati vrlo uvjerljiv tekst i kod koji na prvi pogled izgleda savršeno strukturiran, oni u stvarnosti ne posjeduju nikakvo dublje razumijevanje šireg poslovnog, sigurnosnog ili inženjerskog konteksta u kojem operiraju. Kada autonomni agent zapne u beskonačnoj petlji pokušaja i pogrešaka, on nema kognitivni kapacitet da zastane i prepozna kako je njegov osnovni strateški pristup potpuno promašen od samog početka. Umjesto da odustane ili zatraži pomoć stručnjaka u pravom trenutku, sustav će tvrdoglavo i beskonačno generirati besmislene zakrpe i zaobilazna rješenja koja samo dodatno kompliciraju situaciju i prljaju postojeću bazu koda.
Umjesto da olakša posao i uštedi dragocjeno vrijeme, ovakav sustav zahtijeva od inženjera i operativaca da provode sate pažljivo analizirajući goleme količine generiranih logova i kompliciranih tragova izvršavanja. Moraju pokušati shvatiti u kojem je točno trenutku strojna logika skrenula s pravog puta i zašto je sustav halucinirao određenu naredbu. Popravljanje koda ili arhitektonskog procesa koji je netko drugi stvorio, a pogotovo kada taj netko nema ljudsku logiku ni predvidljive obrasce razmišljanja, redovito je neusporedivo teže, sporije i skuplje od pisanja tog istog koda od same nule.
Na kraju, vrijeme koje inženjeri i analitičari potroše na ispravljanje tuđih, isključivo strojnih grešaka, te na osiguravanje da sustav nije slučajno izbrisao ključne produkcijske podatke ili kompromitirao kibernetičku sigurnost cijele tvrtke, gotovo uvijek premašuje vrijeme koje bi bilo potrebno za samostalno i tradicionalno rješavanje originalnog problema. Zbog stalnog nedostatka transparentnosti i pouzdanosti, korisnici s pravom gube povjerenje u ove alate, što rezultira time da moraju panično i dvostruko provjeravati svaki, pa i najmanji sitni korak koji je autonomni agent poduzeo.
Posljedice u stvarnom svijetu
Ovakav ubrzani razvoj događaja donosi vrlo neočekivane i potencijalno dugoročno štetne promjene na tržištu rada, ali i unutar samih organizacijskih struktura modernih tehnoloških tvrtki. S jedne strane, prodavači tehnologije i veliki pružatelji usluga u oblaku enormno i neproporcionalno profitiraju od agresivne prodaje vizije potpune automatizacije. Razlog tome je što njihovi korisnici troše ogromne i neplanirane količine skupih računalnih resursa na agente koji se satima vrte u krug bez ikakvog konkretnog rezultata.
S druge strane, stvarni stručnjaci, softverski inženjeri, arhitekti sustava i podatkovni analitičari zapravo postaju glorificirani babysitteri za tuđi, često neispravan softver. Njihova ključna i najvrednija vještina polako prestaje biti kreativno, dubinsko rješavanje problema i dizajniranje elegantnih rješenja. Umjesto toga, njihov se svakodnevni posao svodi na zamorno i repetitivno dešifriranje zašto je autonomni agent donio neku potpuno nelogičnu i neobjašnjivu odluku te kako dugoročno spriječiti da se ista katastrofalna greška ponovi u budućnosti. Na ovaj se način ubrzano gubi osjećaj vlasništva nad projektima, a tehničko znanje degradira jer ljudi prestaju aktivno graditi sustave iz temelja i počinju ih samo pasivno i površno nadzirati.
Ako se ovaj opasni trend nekritičkog usvajanja tehnologije nastavi bez ikakve stvarne, objektivne procjene povrata investicije i stvarne učinkovitosti, organizacije će na kraju plaćati dvostruku cijenu. S jedne strane imat će ogromne, neopravdane mjesečne račune za skupe API pozive i računalne resurse potrebne za pogon ovih navodno pametnih agenata. S druge strane, morat će plaćati nebrojene sate visoko plaćenih i sve frustriranijih stručnjaka čiji je jedini preostali zadatak očajnički držati te iste agente pod kontrolom kako ne bi uzrokovali nepopravljivu štetu u stabilnim produkcijskim okruženjima.
Završni stav
Delegiranje kognitivno zahtjevnih zadataka strojevima ima smisla samo i isključivo kada je dotični stroj sposoban taj zadatak obaviti s iznimno visokim stupnjem pouzdanosti, te kada je proces njegovog razmišljanja i zaključivanja potpuno transparentan korisniku. Dok god autonomni agenti u praksi zahtijevaju stalni ljudski nadzor, ručno ispravljanje pogrešaka na svakom koraku i iscrpljujuće sate analize logova, oni nikako nisu konačno rješenje naših problema. Trenutno, u ovom stupnju razvoja, oni su zapravo samo novi, slojevitiji i znatno kompleksniji problem koji naša industrija tek treba naučiti pravilno rješavati. Prava i održiva produktivnost nikada ne dolazi od slijepog delegiranja poslova crnim kutijama, već isključivo od alata koji poštuju, nadograđuju i proširuju, a ne pokušavaju nespretno zamijeniti, dragocjenu ljudsku stručnost.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
