Zašto je AGI zapravo veliko odvlačenje pažnje
Dok sanjamo o strojevima koji misle, propuštamo stvarne probleme s umjetnom inteligencijom danas.
Opća umjetna inteligencija, ili AGI, postala je sveti gral tehnološke industrije. Direktori velikih kompanija i vodeći istraživači obećavaju sustave koji će uskoro nadmašiti ljudsku inteligenciju u svakom pogledu, od kreativnog rješavanja problema do emocionalne inteligencije. Ipak, ta fiksacija na hipotetsku superinteligenciju stvara opasnu maglu koja skriva stvarne izazove i prilike pred nama. Rasprava se prebacila s onoga što je ovdje i sada na ono što bi moglo biti sutra, ostavljajući nas ranjivima na trenutne nedostatke alata koje već masovno koristimo. Dok milijarde dolara teku u razvoj sve većih modela, osnovna pitanja pouzdanosti, sigurnosti i poštenja ostaju u drugom planu. Pravo je vrijeme da preispitamo naše prioritete i shvatimo koliko nas opsesija budućnošću sprječava da popravimo sadašnjost.
Prevladavajuća priča
Glavni narativ glasi da je AGI neizbježan i da će riješiti sve ljudske probleme, od smrtonosnih bolesti do razornih klimatskih promjena. Velike tehnološke tvrtke ulažu ogromne količine kapitala u razvoj monumentalnih modela, uvjeravajući investitore, političare i širu javnost da nas samo nekoliko koraka, odnosno iteracija skaliranja, dijeli od stvaranja stroja s univerzalnom kognicijom. U ovom scenariju, svako trenutno ograničenje alata temeljenih na velikim jezičnim modelima i generativnim mrežama samo je privremena prepreka na nezaustavljivom putu do konačnog cilja. Priča nam sugerira da ne trebamo brinuti o trenutačnim manjkavostima jer će sljedeća verzija biti eksponencijalno bolja, pametnija i nepogrešivija. To stvara atmosferu u kojoj je kritiziranje trenutnih modela proglašeno kratkovidnim, jer vizionari navodno već vide rješenja na obzoru.
Zašto je ta priča pogrešna ili nepotpuna
Ovaj pristup ignorira temeljnu razliku između uspješnog oponašanja inteligencije i njenog stvarnog posjedovanja. Trenutni modeli fantastični su u prepoznavanju obrazaca ogromnih skupova podataka i generiranju teksta koji zvuči izuzetno uvjerljivo, ali nemaju apsolutno nikakvo dubinsko razumijevanje svijeta o kojem pišu. Oni ne razmišljaju; oni statistički predviđaju sljedeću riječ na temelju vjerojatnosti. Fokusiranjem isključivo na AGI, gubimo iz vida činjenicu da ti sustavi već sada imaju duboke i opasne mane: nekontrolirane halucinacije, ugrađenu pristranost u podacima na kojima su trenirani i ogromnu, često neodrživu potrošnju energije.
Umjesto da sustavno rješavamo ta konkretna ograničenja, industrija se bavi filozofskim pitanjima o svijesti strojeva i pravima algoritama. To je ekvivalent razmišljanju o međugalaktičkom putovanju dok nam se trenutna prometna infrastruktura raspada pred očima. Utrka za AGI potiče kulturu u kojoj se zanemaruju robusna testiranja i etički okviri u korist brzog lansiranja novih verzija. Pravi inženjerski problemi zamjenjuju se teološkim raspravama o singularnosti, dok svakodnevni korisnici ostaju bez jasnih smjernica o tome kako sigurno i učinkovito koristiti alate koji im se agresivno nude.
Posljedice u stvarnom svijetu
Posljedice ove fiksacije su izuzetno ozbiljne i dalekosežne. Resursi, i financijski i intelektualni, usmjeravaju se prema izgradnji modela opće namjene umjesto prema stvaranju pouzdanijih, transparentnijih i specifičnijih alata koji bi mogli donijeti neposrednu, opipljivu korist u preciznoj medicini, personaliziranom obrazovanju ili optimizaciji industrijskih procesa. Specijalizirani modeli koji odlično rješavaju jedan konkretan problem ostaju u sjeni potrage za jednim modelom koji navodno rješava sve.
S druge strane, medijski potenciran strah od AGI-ja potiče regulatore na dugotrajne rasprave o apokaliptičnim scenarijima, egzistencijalnim rizicima i gubitku kontrole nad strojevima. Dok se parlamenti bave scenarijima iz znanstvenofantastičnih filmova, stvarni problemi, poput masovnog narušavanja privatnosti, sustavnog kršenja autorskih prava i sofisticirane manipulacije informacijama na društvenim mrežama, stavljaju se u drugi plan. Dobitnici su trenutno samo oni koji prodaju preskupi hardver za treniranje modela i tehnološke tvrtke koje uspijevaju privući rizični kapital obećavajući nemoguće i neprovjerljive vizije budućnosti. U međuvremenu, društvo u cjelini gubi jedinstvenu priliku za odgovoran, pravedan i istinski koristan razvoj tehnologije koja bi mogla podići kvalitetu života svih ljudi, a ne samo povećati valuacije tehnoloških giganata.
Završni stav
Krajnje je vrijeme da se probudimo iz sna o AGI-ju i spustimo na zemlju. Umjetna inteligencija je nevjerojatno moćan alat koji već sada, na mnogo načina, nepovratno oblikuje naš svijet, ali neće u skorije vrijeme postati svjesna niti će čarobnim štapićem riješiti sve naše nagomilane probleme. Prava, stvarna i dugoročna vrijednost ove tehnologije leži u onome što može pouzdano i sigurno učiniti za nas danas, rješavajući konkretne zadatke. Naša pažnja mora se preusmjeriti s opasnih znanstvenofantastičnih obećanja o onome što bi mogla postati sutra na odgovorno upravljanje onim što već jest.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
