Mit o samostalnim AI agentima: Što nam marketing ne govori
Unatoč obećanjima o sustavima koji rade sve sami, današnji AI agenti zahtijevaju stalan nadzor.
Ako danas pažljivije pratite tehnološke vijesti ili čitate objave na poslovnim društvenim mrežama, lako biste mogli pomisliti da smo već zakoračili u doba u kojem će softver potpuno preuzeti naše svakodnevne poslove. Svakog tjedna slušamo najave o novim, nevjerojatnim "agentima" temeljenima na umjetnoj inteligenciji. Tvrdi se da ovi napredni sustavi mogu samostalno rješavati složene probleme, planirati višetjedne projekte, samostalno programirati aplikacije od nule i donositi kritične poslovne odluke bez ikakve ljudske intervencije. No, stvarna slika – ona iz perspektive inženjera koji pokušavaju izgraditi pouzdane i stabilne proizvode s tim tehnologijama – znatno je drugačija i puno manje glamurozna. Između impresivnog, pažljivo koreografiranog demo prikaza na pozornici i korisnog, robusnog proizvoda u stvarnom svijetu zjapi ogromna praznina koju je iznimno teško premostiti.
Prevladavajuća priča
Glavna priča koju nam neumorno prodaju velike tehnološke tvrtke, brojni startupi potpomognuti rizičnim kapitalom i entuzijastični influenceri, vrlo je zavodljiva i optimistična. Prema tom narativu, veliki jezični modeli postali su toliko pametni, svestrani i pouzdani da više nisu samo alati kojima postavljamo izolirana pitanja. Oni su, navodno, postali pravi mali digitalni radnici. Vi im samo trebate zadati apstraktan cilj – poput "povećaj prodaju za deset posto" ili "istraži tržište i napravi prezentaciju" – a oni će sami osmisliti sve potrebne korake, pronaći relevantne informacije na internetu, napisati kod, analizirati podatke, poslati e-mailove i na kraju vam isporučiti gotov, savršen rezultat.
U takvom svijetu, integracija umjetne inteligencije postala je trivijalna. Tvrdi se da je dovoljno spojiti nekoliko API poziva s modernim modelom i vaša aplikacija odjednom dobiva čarobne sposobnosti rješavanja problema. Investitori i izvršni direktori obožavaju ovu priču jer obećava ogromnu uštedu vremena i novca uz minimalan trud oko implementacije. Marketing nam gotovo svakodnevno sugerira da je samo pitanje mjeseci, a ne godina, kada će ovi sustavi u potpunosti zamijeniti cijele timove developera, analitičara, dizajnera i agenata u korisničkoj podršci. Prikazuje se budućnost u kojoj je čovjek samo pasivni promatrač koji ubire plodove rada neumornih digitalnih agenata.
Zašto je ta priča pogrešna ili nepotpuna
Osnovni problem s ovom raširenom pričom je što potpuno zanemaruje temeljnu prirodu i arhitekturu današnjih velikih jezičnih modela. Oni doista izvrsno barataju jezikom, prepoznaju složene uzorke u tekstu i mogu generirati uvjerljive odgovore, ali oni ne posjeduju stvarno razumijevanje fizičkog ili poslovnog svijeta, niti imaju sposobnost pravog logičkog zaključivanja i dugoročnog planiranja. Kada AI agent pokuša izvesti niz od desetak ili više složenih koraka, šansa za pogrešku u svakom od tih koraka se eksponencijalno množi. Ako agent donese krivu pretpostavku ili halucinira podatak u drugom koraku, svi ostali koraci koji slijede postaju beskorisni, a sustav se često zapetlja u beskonačnu petlju iz koje se ne zna samostalno izvući.
Prava istina o razvoju aplikacija temeljenih na umjetnoj inteligencija jest da takav razvoj zahtijeva ogromnu količinu "nevidljivog" inženjerskog rada. Da biste dobili iole pouzdanog agenta, morate napisati iznimno složen kod koji će ga stalno usmjeravati, provjeravati valjanost njegovih odgovora, strogo ograničavati njegov pristup alatima i bazama podataka te ispravljati njegove halucinacije u hodu. Umjesto da AI smanjuje količinu potrebnog koda, on zapravo stvara potrebu za potpuno novim, specifičnim slojevima infrastrukture.
Developeri se danas suočavaju s izazovima koji nisu postojali u tradicionalnom programiranju. Moraju se boriti s nedeterminističkom prirodom modela – isti upit danas može dati drugačiji rezultat nego jučer. Tradicionalni alati za otklanjanje grešaka ovdje ne pomažu mnogo. Developeri troše više vremena na dizajniranje sigurnosnih mehanizama, pisanje složenih uputa (promptova) koje podsjećaju na bacanje čarolija, i rješavanje nepredvidivih grešaka nego na samu poslovnu logiku. Pouzdanost od 90 posto može izgledati sjajno na prezentaciji u kontroliranim uvjetima, ali u stvarnom poslovnom okruženju, sustav koji svaki deseti put napravi veliku, ponekad i katastrofalnu pogrešku, jednostavno nije upotrebljiv bez stalnog ljudskog nadzora.
Posljedice u stvarnom svijetu
Ovakav ogroman raskorak između marketinških očekivanja i inženjerske stvarnosti donosi vrlo konkretne i opipljive posljedice na tržištu. Najviše gube one tvrtke koje naivno povjeruju agresivnom marketingu i pokušaju uvesti "potpuno samostalne agente" u svoje kritične poslovne procese bez adekvatne tehničke pripreme i razumijevanja rizika. To gotovo redovito završava ogromnom frustracijom korisnika koji dobivaju besmislene odgovore, probijenim budžetima zbog visokih troškova API poziva i narušenim ugledom brenda. Zaposlenici se osjećaju pod neprestanim pritiskom jer se od njih očekuje da upravljaju alatima koji su nepredvidivi i često zahtijevaju više mikromenadžmenta nego što bi zahtijevao ljudski asistent.
S druge strane, stvarni dobitnici u ovoj situaciji su one organizacije i inženjeri koji trezveno prihvaćaju stvarna ograničenja trenutne tehnologije. Umjesto da pokušavaju izgraditi potpuno autonomne, sveznajuće sustave, oni koriste umjetnu inteligenciju kao iznimno moćnog asistenta, primjenjujući takozvani "copilot" pristup. Sustavi u kojima AI predlaže rješenja, prikuplja podatke, analizira tekstove ili generira nacrte, a stručan čovjek donosi konačnu odluku i preuzima odgovornost, trenutno donose najveću stvarnu, mjerljivu vrijednost. Promjena koja se zaista događa nije potpuna i bezbolna automatizacija svega, već značajno ubrzanje i poboljšanje kvalitete ljudskog rada, pod strogim uvjetom da se tehnologija koristi kao alat koji proširuje ljudske sposobnosti, a ne kao jeftina zamjena za radnike.
Završni stav
Umjetna inteligencija nesumnjivo i duboko mijenja način na koji radimo, razmišljamo i stvaramo softver, ali san o potpuno samostalnim, nepogrešivim agentima koji besprijekorno rješavaju složene zadatke u pozadini još je uvijek samo to – san koji prodaje maglu. Oslanjanje na grandiozne marketinške najave umjesto na hladnu inženjersku stvarnost neizbježno vodi u veliko razočaranje i gubitak novca. Sljedeći put kad vidite savršeno montiran video u kojem AI agent u dvije minute rješava problem koji bi čovjeku oduzeo sate napornog rada, sjetite se da iza tog jednog uspješnog pokušaja najvjerojatnije stoje deseci neuspjelih iteracija i stotine sati pažljivog, frustrirajućeg programiranja. Budućnost ne pripada onima koji slijepo vjeruju u magiju umjetne inteligencije, već onima koji razumiju stroge granice današnje tehnologije i grade robusne, korisne sustave oko njih, držeći čovjeka čvrsto u središtu procesa donošenja odluka.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
