Zašto je opsesija AGI-jem zapravo opasno odvlačenje pažnje
Dok industrija mašta o strojevima koji misle, problemi današnjih sustava ostaju neriješeni.
Svaki tjedan slušamo obećanja o tome kako je umjetna opća inteligencija (AGI) odmah iza ugla. Direktori tehnoloških kompanija uvjeravaju nas da nas samo nekoliko godina dijeli od trenutka kada će strojevi nadmašiti ljudski um u gotovo svim zadacima. Ta obećanja privlače milijarde eura ulaganja, pune naslovnice i izazivaju strahopoštovanje. No, dok se na pozornicama vode žustre rasprave hoće li nas AGI spasiti ili uništiti, postavlja se jedno važnije pitanje. Je li cijela ta priča zapravo samo vješto osmišljeno odvlačenje pažnje? Opsesija nečim što još uvijek pripada domeni znanstvene fantastike skriva vrlo stvarne probleme tehnologije koju već aktivno koristimo.
Prevladavajuća priča
Prevladavajuća priča u Silicijskoj dolini iznimno je optimistična. Prema tom narativu, trenutni veliki jezični modeli samo su rani koraci na potpuno neizbježnom putu prema AGI-ju. Zagovornici ovog pogleda vjeruju da je za postizanje ljudske razine inteligencije potrebno samo dodati više podataka i izgraditi skuplje podatkovne centre. Oni tvrde da će kontinuirano skaliranje neizbježno dovesti do pojave novih sposobnosti koje danas ne možemo zamisliti.
U takvoj viziji budućnosti, AGI će biti ultimativni alat koji će samostalno riješiti apsolutno sve naše probleme, od klimatskih promjena do bolesti. Zato je, prema njihovom mišljenju, ključno ulagati sva dostupna sredstva u razvoj sve većih modela, bez obzira na tehničke prepreke, kvalitetu podataka ili ogromnu potrošnju energije. U njihovim očima, svaki kritičar koji postavlja pitanja o isplativosti ili sigurnosti jednostavno ne razumije eksponencijalni rast moderne tehnologije.
Zašto je ta priča pogrešna ili nepotpuna
Ta priča opasno je nepotpuna jer potpuno ignorira temeljna ograničenja današnje arhitekture. Trenutni sustavi iznimno su napredni u statističkom predviđanju sljedeće riječi u tekstu, ali oni ne posjeduju apsolutno nikakvo stvarno razumijevanje svijeta. Oni nemaju sposobnost logičkog zaključivanja izvan onoga što su već vidjeli u bazama podataka na kojima su trenirani. Kada se susretnu s potpuno novom situacijom, oni ne mogu primijeniti zdrav razum poput čovjeka. Umjesto toga, često počinju izmišljati informacije i davati samouvjerene, ali potpuno netočne odgovore.
Još veći problem leži u tome što nas fokusiranje na ideju AGI-ja sprječava da riješimo opipljive nedostatke trenutnih sustava. Danas imamo modele koji su korisni alati za programiranje, pisanje tekstova i brzu analizu. No, oni su istovremeno izrazito nepredvidljivi. Inženjeri koji pokušavaju integrirati te alate u ozbiljne poslovne procese redovito nailaze na probleme s osnovnom pouzdanošću. Sustav koji u deset posto slučajeva potpuno otkaže poslušnost na nepredvidive načine jednostavno nije spreman za samostalno donošenje bilo kakvih važnih odluka.
Umjesto da rješavamo problem kako učiniti današnje modele pouzdanijima i transparentnijima, industrija troši dragocjene resurse na lov za neuhvatljivim ciljem. Narativ o AGI-ju služi kao savršen izgovor za sve trenutne nedostatke u proizvodima. Kada jezični model preporuči opasan lijek, odgovor kreatora je uvijek isti: sljedeća verzija koja nas vodi bliže AGI-ju riješit će i taj problem. Takav pristup u svojoj srži uopće nije inženjerstvo, to je slijepa vjera koja elegantno izbjegava odgovornost za proizvod koji se trenutno nalazi na tržištu.
Posljedice u stvarnom svijetu
Ako se industrija nastavi voditi ovom iluzijom, posljedice u stvarnom svijetu bit će sve ozbiljnije. Prvi na udaru već jesu tvrtke koje masovno kupuju softver temeljen na nerealnim obećanjima. Očekujući potpunu autonomiju, oni dobivaju alate koji zapravo zahtijevaju stalan ljudski nadzor te stalno ispravljanje brojnih pogrešaka. To neizbježno dovodi do dubokog razočaranja, gubitka novca i drastično smanjenog povjerenja u tehnologiju koja bi, u realnijim okvirima, doista mogla biti iznimno korisna.
Na široj društvenoj razini, situacija je jednako zabrinjavajuća. Regulatori provode mjesece raspravljajući o tome kako dugoročno spriječiti superinteligentne strojeve da preuzmu kontrolu nad čovječanstvom. Istovremeno, stvarni problemi poput masovnog prikupljanja zaštićenih autorskih djela, erozije privatnosti i energetske neodrživosti novih podatkovnih centara, ostaju u drugom planu. Zgodan fokus na hipotetske prijetnje u dalekoj budućnosti omogućava korporacijama da izbjegnu strožu regulativu onoga što zapravo rade danas. Time gubimo dragocjeno vrijeme i resurse potrebne da bismo integrirali postojeću umjetnu inteligenciju u naše društvo na siguran i odgovoran način.
Završni stav
Umjetna inteligencija koju imamo danas iznimno je koristan alat, ali ona apsolutno nije nikakav uvod u brzo stvaranje sveznajućeg stroja. Krajnje je vrijeme da počnemo tretirati ovu tehnologiju kao složen inženjerski alat sa svojim jasnim prednostima, ali i strogim ograničenjima. Moramo odlučno odbaciti marketinške bajke o AGI-ju i usmjeriti pažnju na to kako trenutne modele učiniti maksimalno pouzdanima za stvarne ljudske potrebe. Sve dok cijela industrija bude ganjala znanstvenu fantastiku umjesto rješavanja dosadnih inženjerskih problema, nastavit ćemo se vrtjeti u začaranom krugu nerealnih očekivanja i neizbježnih razočaranja. Prava vrijednost umjetne inteligencije leži u tome da nam napokon postane siguran i pouzdan alat za rad, a ne zamjena za ljude.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



