Opsesija AGI-jem: Opasna distrakcija od stvarnih AI problema
Dok sanjamo o umjetnoj općoj inteligenciji, ignoriramo konkretne mane današnjih sustava
U posljednjih nekoliko godina, industrija umjetne inteligencije postala je opsjednuta jednom jedinom idejom: umjetnom općom inteligencijom, poznatijom kao AGI (Artificial General Intelligence). Svaka nova najava, svaki novi jezični model i svako novo ulaganje promatraju se isključivo kroz prizmu toga koliko smo blizu trenutku kada će stroj nadmašiti ljudsku sposobnost razmišljanja. Takav narativ nije samo neprecizan; on je postao izuzetno opasna distrakcija.
Dok se vrhunski istraživači i tehnološki direktori svađaju oko toga hoće li AGI stići za dvije, pet ili deset godina, današnji sustavi već sada aktivno preoblikuju naše društvo. Fokusiranjem na hipotetsku budućnost, propuštamo priliku, ili još gore, namjerno izbjegavamo rješavati stvarne, opipljive probleme koji nastaju upravo sada. Umjesto da raspravljamo o apokaliptičnim scenarijima u kojima roboti preuzimaju kontrolu, trebali bismo obratiti pozornost na algoritme koji već danas odlučuju o zapošljavanju, odobravanju kredita ili sigurnosti na cestama.
Rasprava o AGI-ju postala je svojevrsni tehnološki eskapizam. Mnogo je lakše filozofirati o superinteligenciji nego zasukati rukave i riješiti problem halucinacija u jezičnim modelima, pristranosti u podacima ili autorskih prava koja se svakodnevno krše na globalnoj razini. Ova opsesija nije bezopasna maštarija; ona izravno šteti razvoju stabilne, korisne i odgovorne tehnologije.
Prevladavajuća priča
Glavni narativ koji danas prevladava u tehnološkim krugovima i medijima vrlo je jednostavan: trenutni alati umjetne inteligencije samo su usputne stanice na neizbježnom putu prema AGI-ju. Prema toj priči, svaki novi model, svaka nova arhitektura i svaki novi skup parametara predstavljaju još jedan korak prema stvaranju entiteta koji će samostalno rješavati sve svjetske probleme.
Investitori obožavaju ovu priču. Obećanje o AGI-ju omogućuje prikupljanje milijardi dolara kapitala bez potrebe za pokazivanjem neposrednog i održivog poslovnog modela. Ako gradite sustav koji će "riješiti sve bolesti i osigurati beskonačnu energiju", privremeni gubici i tehnički nedostaci lako se opraštaju. Zato tehnološki divovi i startupi podjednako koriste taj narativ kao štit od kritika.
Javnost je također uvučena u tu priču, najčešće kroz senzacionalističke naslove koji potiču ili strahopoštovanje ili paniku. Raspravlja se o pravima budućih svjesnih strojeva, o tome kako će izgledati svijet u kojem nitko ne mora raditi i o opasnostima koje donosi neusklađena superinteligencija. U takvom okruženju, svaki pad kvalitete odgovora u jezičnom modelu tumači se kao usputna greška koja će se ionako riješiti "sljedećom velikom nadogradnjom".
Zašto je ta priča pogrešna ili nepotpuna
Problem s tim narativom leži u njegovoj temeljnoj premisi da kvantiteta nužno prelazi u kvalitetu. Dodavanje više parametara, više podataka i više računalne snage svakako stvara moćnije alate, ali ne stvara nužno razmišljanje, razumijevanje ili svijest. Mi trenutno gradimo impresivne statističke strojeve za prepoznavanje i generiranje uzoraka, a ne digitalne mozgove.
Osim toga, ta priča je nepotpuna jer ignorira činjenicu da umjetna inteligencija ne mora biti "opća" da bi bila korisna, ali isto tako ne mora biti "opća" da bi bila opasna. Sustav koji ne razumije značenje teksta koji generira može svejedno širiti dezinformacije brzinom svjetlosti. Sustav koji nije svjestan sebe može svejedno diskriminirati manjinske skupine ako je obučen na povijesno pristranim podacima.
Čekajući AGI, mi zapravo dajemo propusnicu za loš inženjering danas. Kada se jezični model "zbunio" i dao opasan medicinski savjet, to se prečesto objašnjava kao ograničenje trenutne tehnologije koje će biti riješeno čarobnim dolaskom opće inteligencije. No, to su inženjerski problemi, problemi kvalitete podataka i dizajna sustava, a ne problemi nedostatka svijesti. Svaki put kada raspravu skrenemo na AGI, gubimo iz vida arhitektonske nedostatke i loše odluke koje donosimo upravo u ovom trenutku.
Posljedice u stvarnom svijetu
Posljedice ove distrakcije itekako su opipljive. Prije svega, regulativa gubi kompas. Zakonodavci, pod utjecajem lobiranja i javne rasprave, često gube vrijeme pokušavajući definirati i regulirati hipotetske scenarije s AGI-jem, dok im istovremeno promiču stvarni problemi poput zaštite privatnosti, sigurnosti podataka i autorskih prava. Kada se zakoni pišu za budućnost iz znanstvene fantastike, sadašnjost ostaje neregulirani Divlji zapad.
Nadalje, korisnici i tvrtke ulažu resurse u alate s nerealnim očekivanjima. Tvrtka koja pokuša u potpunosti automatizirati svoju korisničku podršku, vjerujući da je model "gotovo ljudski", brzo će se suočiti s nezadovoljnim klijentima i reputacijskom štetom. Slijepo vjerovanje u opću sposobnost modela dovodi do njihove primjene u situacijama za koje nisu dizajnirani, što rezultira pogreškama u pravosudnom, zdravstvenom ili obrazovnom sustavu.
Konačno, najviše gube oni koji pokušavaju riješiti prave probleme. Istraživanja usmjerena na objašnjivost modela, detekciju pristranosti i energetsku učinkovitost često ostaju u sjeni velikih najava o novim koracima prema AGI-ju. Inženjeri koji upozoravaju na tehnički dug, nesigurnost koda i arhitektonske mane ignoriraju se u korist onih koji obećavaju revoluciju. Umjesto održivog napretka, dobivamo tehnološki balon prepun neispunjenih obećanja i skrivenih rizika.
Završni stav
Dok tehnološka industrija neumorno gleda u horizont tražeći obrise umjetne opće inteligencije, tlo pod našim nogama postaje sve nestabilnije. Prava vrijednost umjetne inteligencije neće doći iz stvaranja stroja koji može misliti poput čovjeka, već iz izgradnje pouzdanih, transparentnih i specijaliziranih alata koji rješavaju ljudske probleme. Vrijeme je da prestanemo sanjati o digitalnim božanstvima i počnemo preuzimati odgovornost za tehnologiju koju gradimo danas.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
