Analiza4 min čitanja

Zašto AI demo ne radi u produkciji: Problem zadnje milje

Marketing nam prodaje gotova rješenja, ali stvarni inženjering počinje tek kada pokušamo integrirati AI u postojeće sustave.

S

Autor

Shtef

Objavljeno

Ilustracija uz komentar: Zašto AI demo ne radi u produkciji: Problem zadnje milje

Zašto AI demo ne radi u produkciji: Problem zadnje milje

Marketing nam prodaje gotova rješenja, ali stvarni inženjering počinje tek kada pokušamo integrirati AI u postojeće sustave.

Svi smo vidjeli savršene prezentacije novih alata temeljenih na umjetnoj inteligenciji. U nekoliko kratkih sekundi ti alati generiraju impresivne web aplikacije, analiziraju iznimno složene pravne dokumente ili odgovaraju na zamršene korisničke upite s nevjerojatnom točnošću i samopouzdanjem. Na prvi pogled, gledajući te demonstracije, izgleda kao da je softverski razvoj kakvog poznajemo došao do svoga kraja i da je sve postalo pitanje jednostavnih tekstualnih naredbi. No, svaki iskusni inženjer koji je pokušao te iste alate staviti u stvarnu produkciju, pred stvarne korisnike, vrlo je brzo udario u zid stvarnosti. Prava borba ne leži u stvaranju impresivnog prototipa, već u rješavanju onih skrivenih detalja koji čine razliku između igračke i ozbiljnog proizvoda.

Prevladavajuća priča

Tehnološki divovi i ambiciozni startupi svakodnevno nas uvjeravaju da su veliki jezični modeli gotova rješenja, takozvana tehnologija koja radi ravno iz kutije. Njihova priča ide otprilike ovako: uzmete napredni model s police, spojite ga s nekoliko programskih sučelja, napišete pametan osnovni upit i vaša tvrtka preko noći dobiva naprednog digitalnog asistenta ili potpuno automatizirani poslovni proces. Obećavaju nam da je integracija u postojeće sustave postala trivijalna i da je današnja tehnologija apsolutno spremna samostalno preuzeti kritične poslovne zadatke bez puno muke i ljudskog nadzora.

Zbog ovakvih i sličnih narativa koji dominiraju medijskim prostorom, menadžeri, direktori i klijenti očekuju da se složeni poslovni i tehnički problemi rješavaju u danima, a ne u mjesecima kako je to inače slučaj. Stvara se nezdrava percepcija da je tradicionalno programiranje postalo relikt prošlosti i da je jedina vještina koja nam sada treba vješto pisanje uputa. U takvom svijetu, očekivanja rastu do nebesa, dok se stvarni tehnički izazovi guraju pod tepih kako ne bi kvarili savršenu marketinšku sliku inovacije.

Zašto je ta priča pogrešna ili nepotpuna

Ono što nam u tim sjajnim prezentacijama ne govore je stvarni problem takozvane zadnje milje. U razvoju softvera, doći do rješenja koje pouzdano radi u osamdeset posto slučajeva postalo je nevjerojatno lako i brzo upravo zahvaljujući generativnoj umjetnoj inteligenciji. Zato i demo verzije na velikim konferencijama izgledaju tako dobro i uvjerljivo za publiku. Međutim, onih preostalih dvadeset posto razvoja—što nužno uključuje skalabilnost, pouzdanost, sigurnost, strogo pokrivanje rubnih slučajeva i integraciju s godinama starim naslijeđenim sustavima—zahtijeva osamdeset posto truda, vremena i čistog inženjerskog znanja.

Kada umjetna inteligencija počne halucinirati i izmišljati činjenice na pravom korisničkom upitu, kada spajanje s korporativnom bazom podataka otkrije ozbiljne sigurnosne rupe u arhitekturi, ili kada brzina odgovora modela postane neprihvatljivo spora pod velikim opterećenjem korisnika, magija naglo nestaje. Tada na scenu mora stupiti klasični softverski inženjering. Rješavanje nekonzistentnih odgovora i postavljanje čvrstih zaštitnih mehanizama zahtijeva duboko razumijevanje cjelokupne arhitekture sustava, domene i načina na koji se komponente međusobno povezuju u većoj slici.

Niti jedan jezični model na tržištu ne može samostalno shvatiti složeni poslovni kontekst vaše specifične tvrtke niti može preuzeti odgovornost kada nešto pođe po zlu. Mi inženjeri i dalje moramo pisati ogromne količine tradicionalnog koda kako bismo ukrotili nepredvidivu prirodu ovih modela, precizno filtrirali njihove ulaze i izlaze, te osigurali da se ponašaju isključivo u skladu s poslovnim pravilima. Umjesto da manje programiramo zahvaljujući ovim alatima, nerijetko pišemo više složenog obrambenog koda nego ikada prije u povijesti naše struke.

Posljedice u stvarnom svijetu

Ova opasna iluzija jednostavnosti integracije stvara nevjerojatan i često neizdrživ pritisak na razvojne timove. S jedne strane, očekivanja poslovanja i uprave su nerealno visoka jer menadžment zaista iskreno misli da je tehnologija potpuno zrela za samostalan rad. S druge strane, stvarni inženjeri u rovovima troše ogromne količine dragocjenog vremena boreći se s nedokumentiranim ponašanjima zatvorenih modela, očajnički pokušavajući osigurati da novi sustav ne napravi nepopravljivu financijsku ili reputacijsku štetu kada se suoči s potpuno neočekivanim korisničkim unosom.

Posljedica ovoga nesrazmjera je da nevjerojatno velik broj tehnoloških projekata završava kao ogromne promašene investicije. Krenu s velikim početnim entuzijazmom i iznimno brzim prototipom koji oduševljava upravu, a zatim se mjesecima bolno zapne u dugotrajnoj fazi pokušavanja da se taj nesavršeni sustav učini barem malo dovoljno stabilnim za stvarnu produkciju. Oni pojedinci i organizacije koji na vrijeme shvate da umjetna inteligencija nije čarobna i savršena zamjena za stvarni inženjering, već samo još jedan iznimno moćan alat koji bezuvjetno zahtijeva ozbiljno i stručno upravljanje, na kraju će dugoročno pobijediti na kompetitivnom tržištu. S druge strane, one tvrtke koje nastave slijepo vjerovati da mogu jednostavno otpustiti svoje skupe programere i lakomisleno ih zamijeniti s nekoliko jeftinih mjesečnih pretplata i pametno napisanih promptova, vrlo brzo će se suočiti s iznimno krhkim računalnim sustavima, apsolutno katastrofalnim korisničkim iskustvom i golemim naslijeđenim tehničkim dugom kakvog naša IT industrija do sada jednostavno još nije vidjela u praksi.

Završni stav

Zadnja milja u integraciji i implementaciji umjetne inteligencije potpuno je stvarna, tehnološki bolna i poslovno iznimno skupa prepreka. Prava vrijednost i ključna kompetitivna prednost u godinama koje dolaze definitivno neće ležati u jeftinom i brzom generiranju atraktivnih korisničkih prototipova koji oduševljavaju na prvi pogled, već u onom napornom, iznimno dosadnom i često potpuno nevidljivom radu iskusnih softverskih inženjera koji svojim znanjem osiguravaju da ti kompleksni sustavi zapravo pouzdano, sigurno i stabilno rade u stvarnom poslovnom svijetu.


Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.