Istina o AI programerima: Što vam oglasi ne govore
Marketinška obećanja o AI alatima koji sami pišu kod daleko su od inženjerske stvarnosti
Svakog tjedna slušamo optimistična obećanja o tome kako umjetna inteligencija mijenja način na koji stvaramo softver. Prema onome što govore marketinške kampanje, alati koji koriste velike jezične modele uskoro će omogućiti svakome tko ima poslovnu ideju da preko noći postane produktivan programer. Prema toj viziji, jedina stvar koju trebate učiniti kako biste stvorili aplikaciju jest napisati kratku tekstualnu uputu, a čarobni algoritam će samostalno izgenerirati besprijekoran sustav. Međutim, svatko tko rješava složene probleme u produkcijskim okruženjima dobro zna da je ovakva slika potpuno izobličena i odvojena od stvarnosti. Inženjerska praksa donosi puno dublje izazove koji se apsolutno nikada ne mogu riješiti pukim generiranjem novih linija koda.
Prevladavajuća priča
Glavni narativ koji se danas agresivno promovira u popularnim medijima i unutar utjecajnih tehnoloških krugova temelji se na opasnoj ideji. Ta ideja sugerira da proces izrade softvera svakim danom postaje trivijalan zadatak zahvaljujući novim i moćnim alatima baziranim na umjetnoj inteligenciji. Samouvjereno se tvrdi da je pisanje koda postalo puka formalnost te da će napredna umjetna inteligencija u potpunosti zamijeniti potrebu za ljudskim inženjerima u bliskoj budućnosti. Prema tom raširenom, ali pogrešnom uvjerenju, složeni tehnološki projekti sada se mogu realizirati u malom djeliću dosadašnjeg vremena, bez ikakve stvarne potrebe za tehničkim predznanjem ili razumijevanjem arhitekture.
Ova priča privlači ogromnu pozornost prvenstveno zato što zvuči privlačno investitorima i menadžerima koji žele maksimalno srezati troškove razvoja softvera. Zbog takvog financijskog pritiska stvara se iluzija da je jedina preostala ljudska vještina, koja ima vrijednost na tržištu, samo sposobnost postavljanja pravih pitanja jezičnom modelu, dok se sve ostalo u potpunosti prepušta stroju koji navodno uvijek savršeno odrađuje tehnički dio posla.
Zašto je ta priča pogrešna ili nepotpuna
Glavni problem s ovakvim načinom razmišljanja jest taj što on u potpunosti promašuje samu srž onoga što softversko inženjerstvo predstavlja. Pisanje potpuno novih linija koda zapravo je samo jedan, i usudio bih se reći, onaj najlakši i najmanje zahtjevan dio inženjerskog posla. Ono što doista svakodnevno oduzima ogromne količine vremena i što istovremeno zahtijeva iznimnu kognitivnu snagu jest pažljivo čitanje već postojećeg tuđeg koda, razumijevanje poslovnog konteksta, uklapanje novih rješenja u postojeću arhitekturu, te rješavanje onih nepredviđenih problema koji neizbježno nastaju kada sustav dođe u kontakt sa stvarnim korisnicima i podacima.
Današnji alati bazirani na umjetnoj inteligenciji uistinu su fantastični kada trebamo brzo napisati standardnu funkciju, generirati početni kostur novog projekta ili napisati niz rutinskih testova za komponente. Međutim, onoga trenutka kada se nađemo u surovom stvarnom svijetu gdje dokumentacija nedostaje, gdje su zahtjevi klijenata kontradiktorni, a različiti sustavi komuniciraju na neobične načine, sposobnosti tih alata rapidno padaju. Umjesto da nam ponude pametno i gotovo rješenje problema, ovi alati nam vrlo često nude kod koji na prvi pogled izgleda sintaktički ispravno, ali u pozadini skriva suptilne logičke greške koje je kasnije apsolutno nevjerojatno teško otkriti. Time se zapravo iznimno povećava cjelokupno opterećenje ljudskog inženjera, koji se pretvara u iscrpljenog recenzenta strojno generiranog materijala upitne kvalitete.
Posljedice u stvarnom svijetu
Ako svi mi kao društvo nastavimo potpuno nekritički vjerovati u ovaj mit o savršenom AI programeru, neizbježno ćemo se suočiti s ozbiljnim posljedicama po pitanju kvalitete, pouzdanosti i sigurnosti softvera. Tvrtke koje u svojoj naivnosti odluče masovno otpustiti iskusne inženjere te se oslone na neiskusnu radnu snagu naoružanu isključivo AI alatima, brzo će otkriti pravu istinu. Otkrit će da se njihov proizvod zapravo pretvara u kaotičnu i neupravljivu hrpu ogromnog tehničkog duga. Takav generirani softver s vremenom će postati iznimno krhak, bit će sklon opasnim sigurnosnim propustima i postat će praktički nemoguć za normalno održavanje.
S druge, pozitivnije strane, iskusni inženjeri koji ove alate odluče prihvatiti s razumnom dozom opreza te ih pametno iskoriste za automatizaciju dosadnih zadataka, doživjet će ogroman skok u produktivnosti. Umjesto da gube sate na pisanje najosnovnije infrastrukture, ti će se inženjeri napokon moći posvetiti pravim, intelektualno izazovnim problemima. Moći će se fokusirati na pametan dizajn distribuiranih sustava, na dubinsku optimizaciju performansi te na osiguravanje najvišeg stupnja dugoročne pouzdanosti. Stvarni rezultat ovog tehnološkog razvoja stoga sigurno neće biti potpuna zamjena za ljudskog inženjera, već upravo suprotno – doći će do značajnog podizanja ukupne letvice kvalitete i do trajnog pomicanja fokusa. Fokus će se s pukog pisanja koda konačno prebaciti na inženjersko promišljanje. Jedini gubitnici u ovoj tranziciji bit će oni pojedinci i tvrtke koji naivno vjeruju da softver može u potpunosti preuzeti odgovornost za kompleksne odluke.
Završni stav
Umjetna inteligencija vas apsolutno nikada neće moći učiniti istinski pravim programerom ukoliko vi već sami po sebi ne posjedujete znanje i ne razumijete temeljne principe softverskog inženjerstva. Situacija je identična onoj u glazbi, gdje vas ni najskuplja gitara na svijetu neće automatski učiniti genijalnim glazbenikom ukoliko uopće ne poznajete osnove glazbene teorije i nemate nimalo sluha. Ovi moderni AI alati jesu fantastična, moćna pojačala ljudske namjere i stručnog znanja, ali oni će uvijek iziskivati budnu prisutnost stručne i odgovorne osobe koja iznimno precizno zna što zapravo radi. Trebaju inženjera koji razumije cijelu širu sliku sustava te koji je u svakom trenutku spreman preuzeti odgovornost onda kada taj generirani sustav jednom naiđe na probleme u stvarnom okruženju.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



