Agenti umjetne inteligencije: Velika obećanja i surova stvarnost
Zašto autonomni sustavi još uvijek zahtijevaju stalan ljudski nadzor
Posljednjih mjeseci tehnološka industrija agresivno prodaje ideju potpuno autonomnih agenata temeljenih na umjetnoj inteligenciji. Obećanje zvuči savršeno: postavite cilj, a AI sama analizira problem, planira korake, izvršava zadatke i donosi odluke umjesto vas. Ulazimo u eru u kojoj softver funkcionira poput inteligentnog zaposlenika koji ne spava. Ipak, stvarna primjena izvan kontroliranih demonstracija pokazuje suroviju sliku. Dok su prezentacije impresivne, stvarna upotreba otkriva duboke nedostatke u pouzdanosti, konzistentnosti i stvarnoj autonomiji. Očekivanja su podignuta, dok tehnologija još ne prati te vizije. Zbog toga se mnoge tvrtke nalaze u procijepu između onoga što su kupile i onoga što tehnologija doista može isporučiti.
Prevladavajuća priča
Glavni narativ koji trenutno dominira silicijskim dolinama jest da smo na korak do potpune automatizacije ogromnog dijela intelektualnog rada. Uvjeravaju nas da današnji veliki jezični modeli posjeduju sposobnosti koje nadilaze puko generiranje teksta. Prezentacije prikazuju agente koji samostalno istražuju tržišta, analiziraju izvješća, pišu kod i upravljaju podrškom bez ljudske intervencije. Prema toj priči, tvrtke samo trebaju integrirati novi softver i prepustiti kontrolu algoritmima. Smatra se da će to smanjiti troškove, povećati produktivnost i omogućiti novu razinu efikasnosti. Optimizam je zarazan; mnogi direktori donose odluke temeljene na pretpostavci da je ljudski rad u mnogim domenama zastario. Stvara se dojam da će uskoro svaki kognitivni zadatak moći obavljati softver.
Zašto je ta priča pogrešna ili nepotpuna
Problem leži u "posljednjem kilometru" automatizacije, koji je oduvijek bio najveći izazov. Jezični modeli na kojima se temelje ovi agenti izvrsni su u generiranju sintaktički ispravnog teksta. Međutim, oni nemaju dubinsko razumijevanje, ne posjeduju zdrav razum i često ne mogu prepoznati vlastite greške. Kada se autonomni agent susretne s neočekivanim problemom ili situacijom koja odstupa od treninga, on ne zastaje kako bi razmislio. Umjesto toga, često ulazi u beskonačnu petlju pogrešnih pokušaja ili halucinira rješenja bez veze sa stvarnošću. Nedostaje im osnovna ljudska sposobnost evaluacije vlastitog rada.
Nadalje, složeni poslovni procesi rijetko su linearni. Oni zahtijevaju fleksibilnost, razumijevanje neizgovorenih pravila i prilagodbu dinamičnim okolnostima. Umjesto da štede vrijeme, ovi sustavi u praksi često zahtijevaju stalan ljudski nadzor. Inženjeri provode sate u strukturiranju okoline, pisanju uputa i stvaranju zaštitnih mehanizama kako se AI ne bi "zbunio". Radni proces se ne automatizira, već transformira u upravljanje nepredvidivim sustavom. Često upravljanje pametnim agentom zahtijeva više napora nego da je zadatak odrađen na tradicionalan način. Zbog toga obećana ušteda ostaje mrtvo slovo na papiru, dok troškovi rastu.
Posljedice u stvarnom svijetu
Kratkoročno, tvrtke koje prebrzo usvoje ovu tehnologiju s ciljem zamjenjivanja ljudske radne snage suočit će se s padom kvalitete. Korisnici će prepoznati kada komuniciraju sa sustavom koji nudi šablonizirane odgovore, što će dovesti do frustracija. Istovremeno, preostali zaposlenici postat će "čuvari" algoritama. Umjesto obećanog slobodnog vremena za kreativan rad, radnici će provoditi vrijeme u provjeri i prepravljanju onoga što je umjetna inteligencija "automatizirala". Ovaj rad na održavanju stroja stvorit će novu vrstu stresa u radnom okruženju, jer ljudi postaju mikromenadžeri nesavršenog koda.
S druge strane, oni koji realno shvate ograničenja današnjih agenata ostvarit će prednosti. Organizacije koje koriste AI kao moćne, ali ovisne asistente, a ne kao samostalne donositelje odluka, vidjet će mjerljive rezultate. Istinska vrijednost tehnologije trenutačno nije u potpunoj autonomiji. Ona se krije u ubrzavanju rutinskih zadataka pod strogim ljudskim vodstvom. Sinergija između ljudske intuicije i kritičkog razmišljanja sa brzinom strojne obrade podataka jedini je stvarni put. Oni koji to shvate gradit će održive sustave umjesto kula u zraku.
Završni stav
Autonomni AI agenti danas su još uvijek znatno više vizija budućnosti nego pouzdan proizvod spreman za masovnu primjenu. Tehnologija će sigurno nastaviti napredovati i mnogi od današnjih problema bit će riješeni. No, trenutno forsiranje i prodavanje iluzije o potpunoj neovisnosti dugoročno šteti povjerenju korisnika. Prava revolucija na radnom mjestu neće se dogoditi onog dana kada AI agenti postanu tehnički savršeni. Ona će se dogoditi tek kada prestanemo očekivati da kod može u potpunosti zamijeniti ljudsko prosuđivanje, svijest i odgovornost. Do tada, naša je zadaća ostati kritični korisnici.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
