Mit o autonomnim AI agentima: Stvarnost razvoja softvera
Zašto AI neće uskoro zamijeniti programere, već postati alat koji zahtijeva stalan nadzor
Kada slušate tehnološke vizionare, izvršne direktore velikih korporacija i entuzijastične marketinške timove, čini se da smo na samom pragu ere u kojoj će autonomni AI agenti samostalno planirati, pisati, testirati i održavati složene softverske sustave. Dovoljno je, tvrde oni, samo opisati željenu aplikaciju u nekoliko rečenica na jednostavnom, svakodnevnom jeziku, a umjetna inteligencija će, poput magije, odraditi ostatak posla. Vizija je neosporno primamljiva: obećava drastično smanjenje troškova, nevjerojatno ubrzanje isporuke na tržište i potpunu demokratizaciju razvoja softvera gdje svatko može postati kreator aplikacija. No, svaki iskusni inženjer koji je pokušao izgraditi stvarni, produkcijski spremni proizvod isključivo pomoću trenutno dostupnih alata zna da je ta sjajna slika daleko od istine. U praksi, proces razvoja često se pretvara u iscrpljujuću borbu s krhkim i nepredvidivim sustavima.
Prevladavajuća priča
Glavna priča koja već mjesecima dominira tehnološkom industrijom svodi se na to da je tradicionalno pisanje koda postalo zastarjelo i nepotrebno. Neprestano se tvrdi da će alati poput naprednih velikih jezičnih modela (LLM) i sofisticiranih autonomnih agenata potpuno preuzeti ulogu softverskih inženjera u vrlo bliskoj budućnosti. Prema tom raširenom narativu, cjelokupni razvoj softvera pretvorit će se u jednostavan i linearan proces davanja visokorazinskih uputa, dok će AI preuzeti brigu o osmišljavanju arhitekture, rješavanju logičkih grešaka, optimizaciji performansi i konačnoj implementaciji rješenja.
Ova priča nije samo prazna priča – ona privlači ogroman kapital. Investitori ulijevaju milijarde dolara u startupe koji samouvjereno obećavaju "programere u kutiji" ili "AI softverske agencije", iskreno očekujući da će se nevjerojatno složeni korporativni sustavi u bliskoj budućnosti moći generirati jednostavnim pritiskom na tipku, bez potrebe za ljudskom intervencijom.
Zašto je ta priča pogrešna ili nepotpuna
Stvarnost svakodnevnog rada s AI alatima u razvoju softvera otkriva sasvim drugačiju i znatno kompleksniju sliku. Umjetna inteligencija je nesumnjivo izvanredna u predviđanju sljedeće linije koda, pisanju standardnih ("boilerplate") funkcija, generiranju osnovnih testova i brzom rješavanju izoliranih i dobro dokumentiranih problema u popularnim programskim jezicima. Međutim, kada je riječ o širem kontekstu i dubokom razumijevanju sustava, AI se nevjerojatno brzo gubi.
Softverski inženjering rijetko se svodi isključivo na ispisivanje stotina linija sintaktički ispravnog koda. Pravi izazovi struke leže u razumijevanju složenih, nejasnih i često međusobno kontradiktornih poslovnih zahtjeva, dizajniranju skalabilne i sigurne arhitekture, te rješavanju specifičnih rubnih slučajeva u nepredvidivim produkcijskim okruženjima. Kada autonomni AI agent pokuša riješiti problem koji zahtijeva duboko razumijevanje cijelog ekosustava aplikacije, on često stvara rješenja koja na prvi pogled, pa čak i na prvi prolazak kroz osnovne testove, izgledaju ispravno, ali zapravo sadrže suptilne, skrivene i potencijalno katastrofalne greške.
Takozvane "halucinacije" koda redovito se manifestiraju kroz korištenje zastarjelih ili nepostojećih softverskih biblioteka, potpuno zanemarivanje osnovnih sigurnosnih propusta ili stvaranje neefikasnih logičkih petlji koje pod opterećenjem ruše cijeli sustav. Umjesto da je posao jednostavno gotov, inženjer mora provesti sate, ponekad i dane, pažljivo analizirajući generirani kod, dešifrirajući tuđu (strojnu) logiku, tražeći duboko zakopane bugove i mukotrpno integrirajući to izolirano rješenje s postojećom, složenom arhitekturom baze podataka.
Posljedice u stvarnom svijetu
Ako se tvrtke i razvojni timovi odluče osloniti isključivo na autonomne AI agente bez izrazito strogog, stručnog i kontinuiranog nadzora, rezultat je redovito stvaranje izuzetno krhkih sustava koji se dugoročno ne mogu održavati. Za same programere, ova tranzicija znači dramatičnu promjenu svakodnevne uloge u timu: umjesto da primarno osmišljavaju i od nule pišu vlastiti kod, oni sve više postaju recenzenti, tehnički urednici i menadžeri nepredvidivih AI alata. Vještina preciznog komuniciranja s jezičnim modelima, poznata kao prompt inženjering, kao i sposobnost izuzetno brzog uočavanja logičkih grešaka u kodu koji nisu sami napisali, brzo postaju najtraženije kompetencije na tržištu rada.
S druge strane, kompanije koje naivno očekuju da će implementacija AI agenata drastično, trenutno i bezbolno smanjiti potrebu za ljudskim inženjerima mogle bi se vrlo brzo suočiti s neugodnim financijskim i tehničkim iznenađenjima. Tehnički dug – metaforički trošak budućih prepravaka zbog loših trenutnih odluka – koji nastaje kada se na brzinu, pomoću AI-ja, spoji velika količina generiranog koda bez pravog arhitektonskog promišljanja, postaje ogroman i opasan. Dugoročno gledano, takav nepromišljen pristup ne samo da može drastično usporiti svaki budući razvoj novih funkcionalnosti, već i eksponencijalno povećati troškove održavanja i ispravljanja fundamentalnih grešaka koje je umjetna inteligencija neprimjetno ugradila u temelje sustava.
Završni stav
Umjetna inteligencija je bez ikakve sumnje nevjerojatno moćan alat koji već danas značajno ubrzava razvoj softvera i uspješno automatizira dosadne, repetitivne i rutinske zadatke s kojima se inženjeri svakodnevno susreću. No, unatoč svim marketinškim obećanjima, ona trenutno nije, a vjerojatno zadugo i neće biti, autonoman kolega koji može samostalno i bez nadzora preuzeti odgovornost za uspjeh složenog projekta. Dokle god AI sustavi ne razviju pravu sposobnost dubokog i pouzdanog razumijevanja poslovnog konteksta, ljudske psihologije te kritičkog promišljanja o dugoročnim posljedicama svojih tehničkih odluka, ljudski inženjeri ostat će apsolutno nezamjenjiv faktor u izgradnji kvalitetnog, sigurnog i pouzdanog softvera. Budućnost tehnologije ne pripada sustavima koji će u potpunosti i autonomno kodirati umjesto nas, već pametnim programerima koji znaju kako te sustave stručno, kritički i odgovorno usmjeravati prema željenom cilju.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
