Hype oko AI agenata: Zašto autonomija još uvijek nije stvarnost
Unatoč ogromnim obećanjima o potpuno samostalnim sustavima, industrija trenutno isporučuje samo malo naprednije automatizirane skripte.
Tržište je preplavljeno najavama o dolasku potpuno autonomnih AI agenata koji će samostalno voditi tvrtke, pisati složene softverske sustave od nule i upravljati cijelim odjelima korisničke podrške bez ljudske intervencije. Slušajući prezentacije vodećih tehnoloških tvrtki, mogli bismo zaključiti da smo na rubu revolucije u kojoj softver doslovno postaje samostalan zaposlenik. Međutim, stvarnost s kojom se susreću inženjeri i tvrtke duboko je drugačija i znatno prizemnija. Čini se da su vizije iz znanstveno-fantastičnih filmova još uvijek samo to – vizije, a tehnologija kojom trenutno raspolažemo bori se s osnovnim zadacima koji zahtijevaju logičko povezivanje i razumijevanje konteksta u nepredvidivim situacijama.
Prevladavajuća priča
Glavni narativ koji danas dominira tehnološkim prostorom tvrdi da su veliki jezični modeli (LLM) dosegli razinu na kojoj mogu pouzdano obavljati višestruke asinkrone zadatke bez ikakvog nadzora. Investitori i tehnološki entuzijasti uvjereni su da će "agencijski AI" zamijeniti cijele slojeve radne snage u roku od nekoliko godina. Priča ide otprilike ovako: umjesto da programiramo pravila i pišemo stotine linija koda za svaku specifičnu situaciju, umjetnoj inteligenciji samo zadamo cilj, a ona samostalno pronalazi alate, razlaže zadatak na korake, rješava prepreke i isporučuje savršen rezultat. Ovaj san o softveru koji razmišlja i djeluje neovisno postao je glavni prodajni argument za novu generaciju startupa. Gleda se na umjetnu inteligenciju kao na savršeno racionalnog i neumornog radnika koji nikada ne spava i ne radi greške.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom vizijom je taj što se oslanja na demonstracije u savršeno kontroliranim uvjetima, a ignorira kaos stvarnog svijeta. Trenutni modeli pokazuju izvanredne rezultate u generiranju teksta, ali njihova sposobnost planiranja unaprijed i zadržavanja konteksta kroz desetine koraka drastično opada čim se suoče s nepredvidivim API greškama, promjenama formata ili nejasnim podacima koje ljudi u svakodnevnom radu rješavaju bez razmišljanja.
Kada današnji takozvani AI agent naiđe na neočekivanu prepreku, on rijetko kada uspješno prilagođava svoju strategiju. Umjesto toga, često ulazi u beskonačne petlje ponavljanja iste greške ili samouvjereno izmišlja nepostojeća rješenja (halucinira), uvjeren da je odradio izvrstan posao. Ono što se danas na tržištu prodaje kao "autonomni agent" zapravo je, u većini slučajeva, samo pametno zamotana skripta koja koristi LLM za odlučivanje u strogo definiranim granicama (eng. state machine ili lanac promptova). Autonomija u pravom smislu te riječi – sposobnost prilagodbe i snalaženja u dinamičnom, nepoznatom okruženju – još uvijek je znanstvena fantastika, a ne inženjerska stvarnost. Trenutno nemamo arhitekturu koja bi omogućila umjetnoj inteligenciji da posjeduje pravu pouzdanost i robustnost u otvorenim sustavima.
Posljedice u stvarnom svijetu
Ovaj raskorak između očekivanja i stvarnosti stvara značajne probleme na tržištu. Tvrtke koje slijepo povjeruju hypeu i pokušaju implementirati ove sustave u kritične poslovne procese brzo se suočavaju sa skupim neuspjesima. Kada autonomni sustav za korisničku podršku halucinira pravila o povratu novca klijentu ili kada AI asistent pošalje krivu i potencijalno štetnu e-mail poruku važnom partneru, to nije samo tehnička greška. To je izravna financijska i reputacijska šteta za tvrtku koju je vrlo teško popraviti.
S druge strane, gubitnici su i inženjeri od kojih se traži da implementiraju "magiju" koja jednostavno nije moguća s trenutnom tehnologijom. Troši se ogromna količina vremena i resursa na stvaranje kompleksnih zaštitnih mehanizama oko AI modela samo kako bi ih se spriječilo da naprave katastrofalne greške i kako bi barem prividno funkcionirali kao samostalni agenti. Dobitnici su, za sada, isključivo prodavači infrastrukture, oblak pružatelji i startupi koji uspiju prikupiti ogroman kapital prije nego što investitori shvate stvarna ograničenja i tehničke barijere tehnologije.
Završni stav
Zanemarivanje trenutnih ograničenja umjetne inteligencije samo šteti cijeloj industriji dugoročno. Umjesto da jurimo za opasnom iluzijom potpune autonomije, trebali bismo se fokusirati na razvoj moćnih AI alata koji proširuju, a ne zamjenjuju ljudske sposobnosti (eng. human-in-the-loop sustavi), te alata koji automatiziraju dosadne, repetitivne zadatke unutar strogih okvira. AI agenti će nesumnjivo postati ključan dio našeg tehnološkog ekosustava, ali put do njihove pune i pouzdane primjene zahtijevat će još mnogo godina ozbiljnog i teškog inženjeringa, fundamentalnih pomaka u arhitekturi modela, a ne samo većih i boljih marketinških kampanja prepunih neispunjenih obećanja.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
