Mit o potpunoj autonomiji AI agenata u razvoju
Zašto AI agenti nikada neće u potpunosti zamijeniti ljudske programere u složenim sustavima.
Posljednjih mjeseci svjedočimo neviđenom entuzijazmu oko takozvanih autonomnih AI agenata. Obećanje je jednostavno i primamljivo: zadat ćete agentu problem, a on će samostalno napisati, testirati i implementirati cjelokupno rješenje. No, svatko tko je ikada radio na produkcijskom softveru zna da je stvarni razvoj mnogo više od pukog tipkanja koda.
Prevladavajuća priča
Glavni narativ u tehnološkoj industriji danas sugerira da smo na korak do potpunog uklanjanja ljudi iz procesa pisanja koda. Prezentacije i demonstracije alata često prikazuju idealizirane scenarije u kojima AI agenti u nekoliko sekundi stvaraju potpuno funkcionalne web aplikacije od nule, a sve na temelju jednog jednostavnog tekstualnog upita. Zagovornici ove vizije tvrde da će klasično programiranje uskoro postati zastarjela vještina, dok će tvrtke drastično srezati troškove razvoja zapošljavanjem "flota" neumornih digitalnih radnika.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom vizijom je u tome što potpuno zanemaruje stvarnu složenost softverskog inženjerstva. Pisanje sintaktički ispravnog koda samo je mali dio posla. Pravi izazovi leže u razumijevanju konteksta, poslovne logike, nedokumentiranih ograničenja starih sustava i, najvažnije, neizrečenih potreba korisnika. AI agenti briljiraju u rješavanju izoliranih, jasno definiranih problema, ali se gube čim naiđu na dvosmislenosti ili rubne slučajeve koji zahtijevaju šire razumijevanje domene. Softverski sustavi su živi organizmi prepuni tehničkog duga i neobičnih arhitektonskih kompromisa koje AI trenutno nije u stanju samostalno shvatiti, a kamoli refaktorirati bez izazivanja lanca nepredviđenih grešaka.
Posljedice u stvarnom svijetu
Ako tvrtke nastave slijepo vjerovati u mit o potpunoj autonomiji, suočit ćemo se s opasnim posljedicama. Umjesto obećanog ubrzanja i ušteda, organizacije će nakupiti planine tehničkog duga stvorenog od strane AI-ja. Kod koji izgleda savršeno u izolaciji, ali se raspada u interakciji sa složenim sustavima, postat će noćna mora za održavanje. Ironično, umjesto da smanji potrebu za ljudima, ova će situacija stvoriti ogromnu potražnju za visokokvalificiranim inženjerima čiji će jedini posao biti dešifriranje, popravljanje i održavanje "špageti koda" koji su generirali autonomni agenti bez nadzora.
Završni stav
AI agenti su iznimno moćni alati koji će neosporno promijeniti način na koji radimo, ubrzavajući rutinske zadatke i povećavajući produktivnost. Međutim, oni su upravo to – alati, a ne zamjene. Stvarno softversko inženjerstvo ostaje ljudska disciplina fokusirana na rješavanje problema i razumijevanje konteksta. Mit o potpunoj autonomiji nije samo netočan, već je i štetan jer skreće fokus s pravog potencijala AI-ja: osnaživanja, a ne zamjenjivanja ljudskog intelekta.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
