Zašto AI alati u stvarnom radu ne rade kao u reklamama
Raskorak između marketinških obećanja i svakodnevne developerske stvarnosti
Svaki dan vidimo nove objave o umjetnoj inteligenciji koja programira umjesto nas i potpuno automatizira procese. Marketinški materijali prikazuju idealne scenarije u kojima programer samo napiše nekoliko riječi, a sustav isporuči gotovu aplikaciju. Demo snimke izgledaju kao magija, ostavljajući dojam da je tradicionalni način rada stvar prošlosti. No, svatko tko gradi složenije sustave brzo shvaća da je stvarnost drugačija. Umjetna inteligencija još uvijek zahtijeva puno ljudske intervencije i pažljivog vođenja kroz cijeli proces.
Mnogi inženjeri započinju dan nadajući se da će im jezični modeli uštedjeti sate monotonog tipkanja. U početku se to često i dogodi – postavljanje osnovne strukture projekta ide nevjerojatno glatko. Međutim, čim projekt izađe iz okvira najosnovnijih primjera, magija nestaje. Ono što je trebalo biti brzo rješenje pretvara se u dugu bitku s nepreciznim alatima koji pokušavaju primijeniti generička rješenja na specifične probleme.
Prevladavajuća priča
Glavni narativ velikih tehnoloških kompanija jest da su njihovi alati spremni preuzeti lavovski dio kognitivnog rada. Njihove prezentacije su besprijekorne: pametni asistent rješava problem u sekundi i automatski implementira optimalno rješenje bez nepredviđenih posljedica. Poruka koju šalju izuzetno je jasna i zavodljiva – produktivnost će se eksponencijalno povećati, a uloga inženjera svesti će se na nadgledanje stroja.
Zbog takvih privlačnih obećanja, menadžment često prihvaćaju ovu priču bez kritičkog preispitivanja. Oni s pravom očekuju trenutne rezultate, nadaju se dramatičnom smanjenju troškova i neusporedivo bržem izlasku novih proizvoda na tržište. Gotovo su uvjereni da je moderna tehnologija konačno riješila ljudski faktor u razvoju složenog softvera.
Zašto je ta priča pogrešna ili nepotpuna
Ono što ispolirani marketinški videi nikada ne prikazuju su sati koje stručnjaci provode u pokušajima da se jezični model natjera da razumije specifičan kontekst. Trenutni alati su fantastični u rješavanju izoliranih, jednostavnih zadataka koji se često pojavljuju u javno dostupnim podacima. Izrada osnovnih funkcija i pisanje standardnih testova zaista funkcionira besprijekorno.
Međutim, prava istina izlazi na vidjelo kada se alati suoče s neurednom, evoluiranom arhitekturom tvrtke i naslijeđenim kodom. Tada umjetna inteligencija često generira rješenja koja na površini izgledaju uvjerljivo i ispravno, ali su na dubljoj razini logički ili sigurnosno potpuno pogrešna. Inženjeri tada provode mnogo više vremena na dešifriranje i testiranje takvog generiranog koda nego što bi potrošili da su ga sami napisali. Taj nedostatak pravog razumijevanja šire cjeline distribuiranog sustava predstavlja nepremostivu prepreku za utopijsku razinu automatizacije. Jezični modeli i dalje često haluciniraju metode koje ne postoje i zanemaruju važne sigurnosne aspekte.
Posljedice u stvarnom svijetu
Ovakav površan pristup inženjerstvu neminovno dovodi do opipljivih i dugoročno opasnih posljedica unutar razvojnih timova. Menadžment, potaknut obećanjima iz reklama, neopravdano pritišće razvojne timove da znatno ubrzaju isporuku funkcionalnosti, iskreno vjerujući da im novi alati to automatski omogućavaju. Dok se rokovi skraćuju, inženjeri zapravo ubrzano izgaraju pod stresom, pokušavajući ispraviti skrivene greške "pametnih" asistenata. Umjesto da budu kreativni rješavatelji problema, polako postaju tek umorni recenzenti i ispravljači osrednjeg koda.
Osim tih izravnih posljedica na timove, tvrtke koje se previše oslanjaju na neprovjerene alate i masovno integriraju generirani kod bez rigorozne provjere mogle bi se suočiti s masivnim problemima u operativnom održavanju sustava. Kod koji je umjetna inteligencija generirala izrazito brzo, bez dubokog razumijevanja cjelokupne arhitekture sustava, vrlo brzo u praksi postaje ogroman tehnički dug koji će netko morati otplatiti s visokim kamatama. Kada se neizbježno pojave ozbiljni problemi u produkciji, nitko unutar tvrtke neće razumjeti kako taj specifični dio sustava funkcionira. Na kraju takvog ciklusa, programeri su demotivirani i frustrirani, dok s druge strane menadžment ne vidi obećane rezultate, a konačni proizvodi postaju nestabilniji i teški za održavanje.
Završni stav
Umjetna inteligencija je nevjerojatno moćan i revolucionaran alat koji ima golem potencijal promijeniti način na koji radimo. Ta ista tehnologija već sada može značajno ubrzati repetitivne aspekte razvoja softvera na kojima inženjeri gube vrijeme. Međutim, umjetna inteligencija danas nije čarobni štapić koji jednim zamahom rješava sve postojeće inženjerske izazove, lošu arhitekturu i nagomilane poslovne probleme s kojima se tvrtke svakodnevno bore.
Umjesto forsiranja nerealnih očekivanja o potpunoj automatizaciji procesa programiranja, tehnološka industrija bi se trebala hitno fokusirati na iskrenu edukaciju korisnika o stvarnim ograničenjima tehnologije. Moraju se usredotočiti na stvaranje pouzdanih asistenata koji izvrsno rješavaju repetitivne zadatke. Samo na takav realan način možemo ljudima ostaviti vrijeme i energiju za istinsku kreativnost, tehnološke inovacije i promišljeno rješavanje kompleksnih arhitektonskih problema koje nijedan trenutno dostupan algoritam ne može samostalno dugoročno riješiti u stvarnom svijetu bez nadzora iskusnog inženjera.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
