Analiza4 min čitanja

Mit o autonomnim agentima: Zašto nismo ni blizu općoj inteligenciji

Slijepo vjerovanje u potpunu autonomiju agenata zanemaruje njihovu krhkost, čineći ljudski nadzor i dalje ključnim.

S

Autor

Shtef

Objavljeno

Ilustracija uz komentar: Mit o autonomnim agentima: Zašto nismo ni blizu općoj inteligenciji

Mit o autonomnim agentima: Zašto nismo ni blizu općoj inteligenciji

Slijepo vjerovanje u potpunu autonomiju zanemaruje krhkost sustava i važnost ljudskog nadzora

Umjetna inteligencija danas se često predstavlja kao nezaustavljiva sila koja će samostalno rješavati najsloženije probleme bez ikakve ljudske intervencije. Svakodnevno slušamo o sustavima koji bi trebali potpuno neovisno upravljati tvrtkama, programirati složene aplikacije i donositi ključne strateške odluke u stvarnom vremenu. Takav narativ stvara sliku bliske budućnosti u kojoj su ljudski radnici u potpunosti zamijenjeni takozvanim autonomnim agentima. Međutim, iako je napredak tehnologije neosporan i fascinantan, stvarna praksa razvoja softvera i poslovanja otkriva znatno drugačiju, trezveniju sliku. Umjesto potpuno neovisnih entiteta koji bez greške preuzimaju kontrolu nad radnim procesima, mi trenutno imamo posla sa snažnim, ali suštinski ograničenim alatima koji i dalje zahtijevaju pažljiv i stalan ljudski nadzor. Očekivanja industrije i šire javnosti postavila su ljestvicu nerealno visoko. To stvara ozbiljnu opasnost od masovnog razočaranja kada se u praksi sudarimo sa stvarnim, opipljivim tehničkim preprekama koje još uvijek nisu riješene.

Prevladavajuća priča

U tehnološkim krugovima, na društvenim mrežama i u popularnim medijima danas apsolutno prevladava priča o skorom i neizbježnom dolasku opće umjetne inteligencije, koja će izroditi potpuno autonomne agente. Investitori neprestano ulijevaju ogromna financijska sredstva u startupe koji obećavaju viziju potpunog rasterećenja čovjeka od intelektualnog rada. Marketing nam svakodnevno prodaje snove o softveru kojem je dovoljno zadati jedan općenit cilj, a on će samostalno isplanirati, programirati, testirati i implementirati rješenje bez ikakvog dodatnog usmjeravanja. Demonstracije tehnologije na konferencijama pažljivo su koreografirane kako bi prikazale impresivne rezultate, gdje virtualni asistenti samostalno rezerviraju letove, pregovaraju s klijentima i rješavaju logističke noćne mora u samo nekoliko sekundi. U toj prevladavajućoj priči, tehnološki napredak je linearan i nezaustavljiv. Pretpostavlja se da će trenutne nesavršenosti i pogreške u modelima jednostavno nestati s vremenom, dodavanjem više procesorske moći i većom količinom podataka za treniranje. Takav pristup stvara iluziju da je puna autonomija udaljena svega nekoliko mjeseci ili godina, te da je ljudski faktor u mnogim profesijama već postao suvišan i zastario.

Zašto je ta priča pogrešna ili nepotpuna

Međutim, kada te iste napredne sustave pokušamo implementirati u stvarne i nepredvidive poslovne procese, njihova suštinska ograničenja postaju iznimno očita i frustrirajuća. Suvremeni jezični modeli, bez obzira na svoju veličinu i složenost, zapravo nemaju pravo razumijevanje svijeta ni sposobnost uzročno-posljedičnog promišljanja koje je ključno za rješavanje nepoznatih situacija. Oni funkcioniraju prvenstveno kao vrlo sofisticirani statistički strojevi za predviđanje sljedeće riječi u nizu. Zbog toga su izrazito podložni halucinacijama, odnosno samouvjerenom generiranju potpuno netočnih informacija koje na prvi pogled zvuče vrlo uvjerljivo. Kada sustavu povjerimo niz povezanih zadataka, svaka mala pogreška u jednom koraku eksponencijalno se širi na iduće korake. Takozvani autonomni agenti iznimno su krhki; čim se suoče s rubnim slučajem koji nije bio prisutan u njihovim podacima za treniranje, oni se zbune, ulaze u beskonačne petlje ili donose katastrofalno loše odluke. Zato svaki iole složeniji sustav umjetne inteligencije danas nužno zahtijeva koncept čovjeka u petlji. Ljudi moraju pažljivo oblikovati upute, provjeravati rezultate, ispravljati logičke greške i osigurati da rješenje doista odgovara početnom problemu. Priča o potpunoj autonomiji zanemaruje činjenicu da je svijet pun nejasnoća, skrivenih konteksta i kontradiktornih zahtjeva koje algoritmi još uvijek ne mogu samostalno razriješiti bez oslanjanja na ljudsku intuiciju i iskustvo.

Posljedice u stvarnom svijetu

Slijepo vjerovanje u skori dolazak potpunih autonomnih agenata već sada ima vrlo ozbiljne i opipljive posljedice u stvarnom svijetu, kako za pojedince, tako i za cjelokupne organizacije. Mnoge tvrtke ubrzano i nepromišljeno otpuštaju iskusne stručnjake u nadi da će softver odraditi njihov posao brže i jeftinije. Ubrzo nakon toga, suočavaju se s drastičnim padom kvalitete usluge, gubitkom povjerenja klijenata i ogromnim troškovima sanacije štete koju su uzrokovali neprilagođeni algoritmi. Umjesto obećane uštede i efikasnosti, organizacije troše ogromne resurse na pokušaje implementacije sustava koji jednostavno nisu dorasli složenosti stvarnog poslovanja. Nadalje, takav nerealni optimizam stvara atmosferu nepovjerenja prema tehnologiji općenito. Kada zaposlenici i korisnici uoče očite nedostatke i apsurdne greške koje autonomni sustavi rade, razvija se opravdani kriticizam koji onda koči i onu korisnu i opravdanu primjenu umjetne inteligencije. Preuranjena implementacija nedovoljno testiranih rješenja u ključnim sektorima može dovesti do sigurnosnih incidenata i ozbiljnih propusta, što nas na kraju udaljava od istinskog tehnološkog napretka.

Završni stav

Umjetna inteligencija nesumnjivo ostaje jedan od najvažnijih i najmoćnijih alata našeg doba, sposoban drastično povećati našu produktivnost i otvoriti nove horizonte kreativnosti. No, ona mora biti shvaćena i korištena upravo tako - kao napredni asistent, a ne kao samostalni entitet koji može zamijeniti našu sposobnost kritičkog razmišljanja i moralne prosudbe. Budućnost ne pripada onima koji pokušavaju potpuno izbaciti ljude iz jednadžbe u korist imaginarnih autonomnih agenata. Najveći napredak i najviše koristi ostvarit će oni koji nauče kako optimalno kombinirati snagu i brzinu računalnih algoritama sa specifično ljudskim osobinama poput empatije, fleksibilnosti, dubokog razumijevanja konteksta i zdravog razuma. Vrijeme je da prestanemo sanjati o potpunoj automatizaciji svega i počnemo cijeniti pravu, praktičnu vrijednost tehnologije koja nam omogućuje da budemo bolji i učinkovitiji u onome što radimo, uz zadržavanje ljudskog faktora kao nezamjenjivog temelja svake smislene i dugoročno uspješne djelatnosti.


Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.