Velika iluzija autonomnih AI agenata u modernom poslovanju
Marketing obećava radnike bez umora, no stvarnost otkriva krhke sustave.
Svi smo vidjeli iste prezentacije. Velika tehnološka tvrtka prikazuje sustav u kojem "AI agent" samostalno prima zahtjev korisnika, analizira bazu podataka, piše kod, komunicira s drugim agentom i rješava kompleksan poslovni problem dok mi pijemo kavu. Zvuči savršeno. Problem je što se takve demonstracije raspadnu u prvoj minuti kontakta sa stvarnim, nesređenim poslovnim procesima.
Prevladavajuća priča
Narativ koji nam se prodaje vrlo je jednostavan: nalazimo se na pragu ere u kojoj će autonomni agenti zamijeniti cijele odjele. Startupi i korporacije uvjeravaju nas da više ne trebamo alate koji nam pomažu u radu, već "digitalne zaposlenike" kojima samo damo cilj, a oni sami pronalaze put do njega. Od rješavanja korisničke podrške do kompleksnog programiranja, obećanje je da je autonomija već tu, samo je trebamo integrirati u svoje poslovanje.
Zašto je ta priča pogrešna ili nepotpuna
Ova priča ignorira osnovnu prirodu jezičnih modela na kojima se ovi agenti temelje. Veliki jezični modeli su probabilistički, a ne deterministički. Oni ne "razmišljaju" o problemu, već predviđaju sljedeći token s određenom razinom vjerojatnosti.
Kada pokušate ulančati deset takvih probabilističkih koraka u jedan "autonomni" proces, pogreške se ne zbrajaju – one se eksponencijalno množe. Ako jedan korak halucinira podatak, sljedeći korak tu halucinaciju uzima kao apsolutnu činjenicu i gradi daljnju logiku na njoj. Stvarni poslovni sustavi su puni iznimaka, nedokumentiranih pravila i specifičnog konteksta koji je nemoguće u potpunosti kodirati u prompt. Rezultat nije neovisni radnik, već krhki sustav koji zahtijeva više nadzora nego stvarni zaposlenik početnik.
Posljedice u stvarnom svijetu
Tvrtke koje u potpunosti povjeruju u ovaj narativ suočavaju se sa skupim buđenjem. Ulažu goleme resurse u izgradnju autonomnih sustava koji na kraju završe kao "igračke" u testnim okruženjima jer im se ne može vjerovati u produkciji.
Istovremeno, propuštaju pravu priliku. Prava snaga trenutne generacije AI-a nije u autonomiji, već u augmentaciji. Sustavi koji drže čovjeka u petlji (human-in-the-loop), gdje AI predlaže rješenja, a čovjek donosi konačnu odluku, pokazuju mjerljive i impresivne rezultate u produktivnosti. Umjesto da gradimo nesavršene zamjene za ljude, trebali bismo graditi savršene alate za njih.
Završni stav
Autonomni AI agenti će nesumnjivo postajati bolji, ali trenutačna opsesija potpunom autonomijom je opasna distrakcija. Budućnost rada u idućih deset godina neće obilježiti digitalni radnici koji samostalno vode kompanije, već stručnjaci koji uz pomoć snažnih, ali kontroliranih AI alata rade brže i pametnije. Vrijeme je da prestanemo sanjati o magičnim rješenjima i počnemo koristiti tehnologiju onakvom kakva ona doista jest.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
