Zabluda o AI agentima: Stvarnost iza tehnološkog marketinga
Zašto nas narativ o potpuno autonomnim AI agentima udaljava od stvarnih poslovnih vrijednosti
U posljednje vrijeme, gotovo svaka najava novih tehnoloških proizvoda spominje "AI agente" kao sljedeću veliku revoluciju. Obećanje je primamljivo: sustavi koji samostalno planiraju, donose odluke i izvršavaju zadatke umjesto nas, bez ikakve ljudske intervencije. Međutim, jaz između tog marketinškog narativa i inženjerske stvarnosti raste svakim danom. Umjesto da rješavaju konkretne probleme, priče o potpunoj autonomiji često služe kao distrakcija koja prikriva stvarna ograničenja današnjih modela.
Prevladavajuća priča
Glavni tehnološki igrači i brojni startupi promiču viziju u kojoj će softver uskoro moći samostalno voditi cijele projekte, upravljati financijama ili komunicirati s klijentima, oslanjajući se isključivo na jezične modele kao svoj osnovni pogon. Prema tom pogledu, mi smo samo jedan proboj udaljeni od trenutka kada će ovi "agenti" moći pouzdano i bez nadzora obavljati složene intelektualne poslove, pretvarajući ljudske zaposlenike u puke nadglednike.
Ovaj narativ nije slučajan. On privlači investicije, podiže cijene dionica i stvara osjećaj hitnosti među tvrtkama koje se boje da će zaostati. Stvara se slika neizbježne budućnosti u kojoj su agenti univerzalno rješenje za svaku operativnu neučinkovitost.
Zašto je ta priča pogrešna ili nepotpuna
Problem leži u temeljnoj arhitekturi današnjih sustava. Veliki jezični modeli, bez obzira na njihovu veličinu, u svojoj su srži napredni sustavi za predviđanje sljedećeg tokena, odnosno riječi. Oni ne posjeduju stvarno razumijevanje svijeta, sposobnost dugoročnog planiranja bez grešaka, niti urođeni osjećaj za uzročno-posljedične veze koje su ključne za pouzdano autonomno djelovanje.
Kada se te modele poveže u takozvane agentske sustave (gdje model samostalno odlučuje koje će alate koristiti), pouzdanost drastično opada sa svakim novim korakom. Greška u prvom koraku eksponencijalno se širi kroz sve sljedeće. U kontroliranim demo prikazima to često izgleda impresivno, ali u kaotičnom okruženju stvarnih poslovnih procesa, gdje postoje nepredviđeni podaci i rubni slučajevi, ovi sustavi brzo postaju nepredvidljivi.
Osim toga, oslanjanje na potpunu autonomiju ignorira problem "halucinacija", odnosno samouvjerenog iznošenja netočnih informacija. U scenariju gdje čovjek surađuje s AI alatom, halucinacija je samo prepreka koja se brzo ispravi. U scenariju gdje AI agent samostalno izvršava niz zadataka, jedna halucinacija može dovesti do serije pogrešnih odluka s potencijalno ozbiljnim posljedicama.
Posljedice u stvarnom svijetu
Ovakav pristup ima stvarne i opipljive posljedice. Prvo, tvrtke troše ogromna sredstva na pokušaje implementacije "autonomnih agenata" za probleme koji bi se puno efikasnije riješili klasičnim softverskim inženjerstvom ili pametnijom primjenom AI-ja kao asistenta, a ne kao samostalnog radnika.
Drugo, stvara se nepotrebno razočaranje. Kada implementacija propadne zbog manjka pouzdanosti, menadžment često donosi zaključak da umjetna inteligencija kao takva nije korisna, ignorirajući stotine manjih, iznimno korisnih načina na koje bi ta ista tehnologija mogla ubrzati njihov rad kada bi se koristila na pravi način.
Na kraju, gubi se fokus s onoga što ovi modeli već danas rade izvanredno dobro. Umjesto da gradimo alate koji osnažuju stručnjake i omogućuju im bržu analizu podataka, pisanje koda ili sažimanje informacija, resursi se prelijevaju u projekte koji pokušavaju u potpunosti izbaciti čovjeka iz procesa. To nije samo tehnički neizvedivo u ovom trenutku, već je i strateški pogrešno. Najveća vrijednost umjetne inteligencije leži u augmentaciji ljudskih sposobnosti, a ne u njihovoj zamjeni nestabilnim agentskim sustavima.
Završni stav
Priča o potpuno autonomnim AI agentima danas je više plod tehnološkog optimizma nego inženjerske realnosti. Vrijeme je da prestanemo tretirati jezične modele kao magične radnike koji će samostalno voditi poslovanje. Umjesto ganjanja nedostižne autonomije, stvarni napredak dogodit će se kada se fokusiramo na izgradnju visoko pouzdanih, specifičnih alata koji pojačavaju ljudsku produktivnost i ostavljaju ključne odluke u rukama stručnjaka.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
