Zašto je umjetna opća inteligencija (AGI) opasna distrakcija
Opsesija stvaranjem superinteligencije odvraća nas od rješavanja stvarnih problema s današnjim AI alatima.
Svijet tehnologije postao je apsolutno opsjednut jednom idejom: Umjetna opća inteligencija (AGI). Skoro svaki tjedan slušamo od istaknutih figura u Silicijskoj dolini kako smo "samo nekoliko godina" udaljeni od strojeva koji će biti pametniji od ljudi u svakom mogućem zadatku. Direktori najvećih tehnoloških tvrtki, od OpenAI-ja do Googlea, grade narativ u kojem je AGI ultimativni cilj, konačno rješenje za sve ljudske probleme. Prema njima, jednom kada postignemo AGI, taj će sustav moći izliječiti sve bolesti, riješiti klimatske promjene i donijeti doba neograničenog izobilja.
No, ta opsesija postala je iznimno opasna distrakcija za cijelu industriju i društvo u cjelini. Koncentracija na daleki, možda i nedostižni cilj sprječava nas da se kvalitetno i temeljito bavimo alatima koji su nam dostupni danas. Umjesto da rješavamo konkretne probleme u primjeni trenutne generacije umjetne inteligencije, naš fokus se preusmjerava na znanstvenu fantastiku.
Prevladavajuća priča
Prevladavajuća priča u medijima i tehnološkim krugovima sugerira da je trenutni, nesumnjivo impresivan napredak u velikim jezičnim modelima (LLM) samo prolazna stepenica prema nečem neusporedivo većem. Prema tom narativu, ako jednostavno nastavimo ubacivati sve više i više podataka te eksponencijalno povećavati procesorsku moć, naši će modeli u jednom trenutku "magično" prijeći prag i razviti pravu ljudsku logiku, sposobnost samostalnog učenja i duboko apstraktno rasuđivanje.
Zato se danas stotine milijardi dolara usmjeravaju prema izgradnji gigantskih podatkovnih centara diljem svijeta. Kupuju se stotine tisuća specijaliziranih grafičkih kartica, pregovara se o novim nuklearnim elektranama kako bi se napajali ti enormni računalni sustavi, a sve to opravdava se vizijom utopijske budućnosti. Uvjeravaju nas da su ogromna energetska potrošnja i potencijalni rizici potpuno opravdani jer je nagrada – AGI – neprocjenjiva. Takav pristup stvara kulturu u kojoj se svaka kritika postojećih sustava odbacuje kao uskogrudna, jer smo navodno na pragu tehnološke singularnosti.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom dominantnom pričom je dubok i višeslojan. Prvo, čisto tehnički gledano, skok od naprednog prepoznavanja uzoraka i statističkog predviđanja sljedeće riječi (što je srž onoga što današnji LLM-ovi zapravo rade) do istinskog, koherentnog rasuđivanja i opće inteligencije nije nimalo trivijalan. Ne radi se samo o pitanju dodavanja više grafičkih kartica ili prikupljanja više podataka s interneta. Mi kao znanstvena zajednica još uvijek nemamo jasnu arhitekturu, niti fundamentalno razumijevanje kako stvoriti sustav koji razmišlja, planira i razumije svijet na način na koji to čine ljudi. Skaliranje postojećih transformer arhitektura već pokazuje znakove usporavanja napretka u nekim domenama.
Drugo, i ono što je možda još važnije za naše svakodnevno poslovanje, jest činjenica da čekajući taj mitski AGI zanemarujemo nevjerojatan potencijal, ali i vrlo stvarne, prisutne mane trenutnih AI sustava. Današnji uski AI alati (narrow AI) izuzetno su korisni. Oni mogu drastično ubrzati pisanje programskog koda, pomoći u analizi gigantskih skupova medicinskih podataka, automatizirati repetitivne administrativne zadatke i poslužiti kao izvrsni asistenti u kreativnim procesima. Međutim, umjesto da se trudimo te alate usavršiti da budu apsolutno pouzdani, maksimalno točni i potpuno transparentni, industrija juriša prema hipotetskom cilju koji možda nikada neće biti ostvaren u obliku u kojem ga zamišljaju najglasniji zagovornici.
Posljedice u stvarnom svijetu
Posljedice ovakvog eshatološkog pristupa razvoju umjetne inteligencije već sada jasno osjećamo u svakodnevnom radu i društvu. Dok lideri tehnološke industrije na ekskluzivnim konferencijama raspravljaju o filozofskim pitanjima – hoće li AGI spasiti čovječanstvo ili ga potpuno uništiti – stvarni, gorući problemi ostaju na marginama njihovog interesa.
Halucinacije jezičnih modela i dalje redovito uništavaju povjerenje poslovnih korisnika, koji shvaćaju da na sustave ne mogu osloniti kritične poslovne procese. Pitanja autorskih prava, masovnog struganja podataka bez dozvole i pravedne kompenzacije kreatora sadržaja redovito se guraju pod tepih uz izliku da su to "nužne žrtve za napredak čovječanstva". Pristranosti skrivene duboko u algoritmima koji svakodnevno odlučuju o zapošljavanju kandidata, odobravanju bankovnih kredita ili medicinskoj dijagnostici nastavljaju nanositi sasvim opipljivu, stvarnu štetu konkretnim ljudima.
Kada se sav raspoloživi kapital, medijska pažnja i vrhunski inženjerski talent usmjere isključivo na utrku za AGI, kompanije gube interes za stvaranje praktičnih, sigurnih i korisnih proizvoda za današnje tržište. Manje glamurozan rad na sigurnosnim ogradama (guardrails), optimizaciji postojećih modela za rad na manjim uređajima, ili poboljšanju objašnjivosti AI sustava pada u drugi plan. Oni koji na kraju gube su obični korisnici, manje tvrtke i radnici kojima trebaju pouzdani digitalni alati koji rade ono što obećavaju, a ne prazna obećanja o dolasku sveznajućeg božanskog stroja iz budućnosti.
Završni stav
Krajnje je vrijeme da prestanemo tretirati umjetnu inteligenciju kao neku vrstu moderne tehnološke religije i počnemo je ponovno tretirati kao ozbiljnu granu inženjerstva. Umjetna opća inteligencija je zanimljiv znanstveni cilj koji će se možda dogoditi za deset, pedeset, a možda i više od sto godina. No u međuvremenu, danas u rukama imamo tehnologiju koja posjeduje stvarnu moć transformirati način na koji radimo, komuniciramo i živimo. Naša puna pažnja, resursi i inženjerski napor moraju biti usmjereni na to da te današnje modele učinimo sigurnima, korisnima i pravednima za sve članove društva, umjesto da slijepo jurimo za fantomskom superinteligencijom.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
