Iluzija autonomije: Tržište prodaje lažne AI agente
Kako smo jednostavne skripte počeli nazivati autonomnim agentima i zašto je to opasno.
Tržište je trenutno preplavljeno alatima koji se reklamiraju kao "autonomni AI agenti". Odjednom, svaki komad softvera koji koristi veliki jezični model (LLM) s nekoliko uvjetnih petlji predstavlja se kao digitalni zaposlenik koji samostalno rješava probleme. No, ako zagrebemo ispod površine, brzo postaje jasno da je većina onoga što nazivamo "agentima" samo dobro upakirana skripta.
Prevladavajuća priča
Narativ koji nam prodaju start-upi i tehnološki giganti je jasan: ulazimo u eru u kojoj softver više ne čeka naše naredbe, već samostalno planira, razmišlja i izvršava zadatke. Prema ovoj priči, dovoljno je definirati cilj, a AI agent će proći kroz niz kompleksnih koraka, komunicirati s drugim sustavima, ispravljati vlastite pogreške i na kraju isporučiti rezultat. Zvuči kao znanstvena fantastika koja je postala stvarnost, a investitori su spremni uložiti milijarde u kompanije koje obećavaju ovu razinu autonomije.
Zašto je ta priča pogrešna ili nepotpuna
Problem je što prava autonomija u trenutnom stanju umjetne inteligencije jednostavno ne postoji u obliku koji se reklamira. Ono što se danas naziva "AI agentom" u 95% slučajeva svodi se na sekvencijalno izvršavanje promptova. Sustav koji pretražuje internet, sažima tekst i šalje e-mail nije autonomni entitet, već deterministički proces obogaćen jezičnim modelom koji služi kao sučelje za analizu teksta.
Pravi problem nastaje u trenucima kada stvari krenu po zlu. Kada se nađu u situaciji koja zahtijeva stvarno razumijevanje konteksta i nepredviđeno rješavanje problema, današnji "agenti" padaju u beskonačne petlje, haluciniraju akcije ili se jednostavno sruše. Sposobnost dugoročnog planiranja, zadržavanja složenog konteksta kroz višestruke korake i samorefleksije još uvijek je na vrlo primitivnoj razini. Nazivati skriptu s if-else petljom i API pozivom LLM-a "autonomnim agentom" jednako je nazivanju kalkulatora "umjetnim matematičarom". To je rebrendiranje stare tehnologije novim, zvučnim terminima kako bi se opravdale visoke cijene i privukle investicije.
Posljedice u stvarnom svijetu
Ova iluzija autonomije nije bezopasna. Tvrtke koje integriraju ovakve sustave, vjerujući u njihovu sposobnost samostalnog rada, preuzimaju ogroman rizik. Kada "agent" bez ljudskog nadzora obriše bazu podataka jer je halucinirao naredbu, ili pošalje krivi ugovor klijentu, odgovornost pada na one koji su vjerovali marketinškim obećanjima.
S druge strane, pravi inovatori i inženjeri koji rade na temeljnim problemima autonomije – kao što su poboljšanje mehanizama zaključivanja i dugoročne memorije modela – ostaju u sjeni buke koju stvaraju tvrtke koje prepakiravaju osnovne funkcionalnosti API-ja. Gubi se povjerenje javnosti i industrije, a stvarni napredak se usporava jer resursi odlaze na rješavanje problema koji nastaju lošom primjenom nedovoljno razvijene tehnologije. Očekivanja korisnika postavljena su nerealno visoko, što neminovno vodi do novog "AI razočaranja" kada shvate da su kupili glorificiranu skriptu.
Završni stav
Vrijeme je da prestanemo koristiti izraz "autonomni agent" za svaku aplikaciju koja može povezati dvije API funkcije. Softver koji koristi LLM-ove donosi ogromnu vrijednost u automatizaciji specifičnih, definiranih zadataka, i to bismo trebali slaviti. No, pretvaranje da smo već stigli u eru pravih autonomnih sustava nije samo tehnički netočno, već je opasno za daljnji razvoj industrije. Prava autonomija zahtijeva mnogo više od pukog spajanja modela s internetom; ona zahtijeva sposobnost razmišljanja koju strojevi još uvijek nemaju.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
