AGI zabluda: Zašto je opća inteligencija danas opasna distrakcija
Fantazija o AGI-ju skreće pažnju sa stvarnih, hitnih problema AI tehnologije
Posljednjih nekoliko godina, tehnološka industrija postala je opsjednuta jednom idejom: umjetnom općom inteligencijom (AGI). Koncept stroja koji može razumjeti, učiti i primijeniti znanje jednako dobro ili bolje od čovjeka u svakoj zamislivoj domeni, preuzeo je naslovnice, prezentacije i planove velikih kompanija. Gotovo svaki tjedan čujemo novo predviđanje o tome kada će AGI napokon stići – za pet godina, tri godine, ili možda već iduće godine. Međutim, dok milijarde dolara teku u utrku za stvaranje ovog mitološkog entiteta, stvarni, svakodnevni problemi koje današnja umjetna inteligencija već stvara ostaju u sjeni. Opsesija AGI-jem postala je opasna distrakcija.
Prevladavajuća priča
Glavni narativ koji guraju tehnološki divovi i poznati investitori vrlo je jednostavan, ali zavodljiv. Prema toj priči, AGI je neizbježan sljedeći korak u evoluciji tehnologije, a onaj tko ga prvi ostvari kontrolirat će budućnost čovječanstva. U tom kontekstu, trenutni modeli – veliki jezični modeli, generatori slika i algoritmi za preporuke – samo su prolazne faze, usputne stanice na putu prema konačnom cilju.
Zagovornici ovog narativa tvrde da će AGI riješiti sve naše najveće probleme: od klimatskih promjena do neizlječivih bolesti i ekonomskih kriza. Istovremeno, isti ti akteri često upozoravaju na egzistencijalne rizike AGI-ja, stvarajući dramatične scenarije u kojima nas superinteligentni strojevi uništavaju. Takva retorika, bilo da obećava utopiju ili prijeti apokalipsom, iznimno je učinkovita u privlačenju kapitala i medijske pažnje.
Zašto je ta priča pogrešna ili nepotpuna
Problem s ovom pričom je u tome što potpuno zanemaruje stvarnost današnje tehnologije i njezine trenutne učinke na društvo. Današnji AI sustavi nisu ni blizu AGI-ja; oni su napredni alati za prepoznavanje uzoraka, iznimno dobri u pogađanju sljedeće riječi u rečenici ili generiranju slika na temelju opisa. Nemaju vlastito razumijevanje, svijest ni namjeru.
Fokusiranjem na daleku budućnost i potencijalne opasnosti superinteligencije, izbjegavamo suočavanje s konkretnim štetama koje ti nesavršeni sustavi uzrokuju upravo sada. Mnogo je ugodnije raspravljati o filozofskim pitanjima robotske etike u 2050. godini nego odgovarati na pitanja o tome zašto današnji modeli masovno krše autorska prava, zašto haluciniraju lažne informacije koje ljudi potom koriste kao činjenice, ili zašto se predrasude iz podataka za treniranje pretaču u diskriminatorne algoritme koji već danas odlučuju o zapošljavanju, kreditima i zdravstvenoj skrbi.
Priča o AGI-ju služi i kao izvanredan marketinški alat. Dok god kompanije mogu uvjeriti javnost i investitore da rade na nečemu što će "promijeniti sve", lakše opravdavaju ogromne troškove, masovno prikupljanje podataka i nedostatak transparentnosti.
Posljedice u stvarnom svijetu
Posljedice ove distrakcije itekako su opipljive. Prvo, regulativa se često usmjerava na pogrešne ciljeve. Kada zakonodavci slušaju tehnološke lidere koji govore o sprječavanju AGI apokalipse, riskiraju stvaranje zakona koji pokušavaju kontrolirati znanstvenu fantastiku, umjesto da rješavaju trenutne probleme kršenja privatnosti, sigurnosti podataka i autorskih prava.
Drugo, fokus na AGI crpi ogromne resurse, kako financijske tako i intelektualne. Umjesto da najbolji inženjeri i znanstvenici rade na tome kako postojeće AI alate učiniti pouzdanijima, transparentnijima i sigurnijima za korištenje u svakodnevnim aplikacijama, njihov je rad usmjeren na guranje parametara i skale do apsurda, s nadom da će kvantiteta podataka magično proizvesti kvalitetu inteligencije.
Treće, obični korisnici i tvrtke pate jer se tehnologija prodaje pod lažnim obećanjima. Tvrtke integriraju nedovoljno testirane AI modele u svoje korisničke službe i operativne procese očekujući da će oni razmišljati kao ljudi, samo da bi se suočili s halucinacijama i gubitkom povjerenja kupaca kada sustav neminovno pogriješi. Očekivanja su nerealno postavljena, a stvarna primjenjivost i ograničenja tehnologije su zamagljena hypeom o AGI-ju.
Završni stav
Vrijeme je da prestanemo tretirati umjetnu opću inteligenciju kao neizbježnu sudbinu oko koje moramo organizirati cijelu tehnološku industriju. Današnja umjetna inteligencija je moćan, ali duboko nesavršen alat koji već sada oblikuje naše društvo na načine koje još uvijek ne razumijemo u potpunosti niti ih znamo adekvatno kontrolirati.
Umjesto da gledamo u obzoru tražeći superinteligentne strojeve, moramo spustiti pogled na ono što nam je pred nosom. Hitno nam je potrebna bolja regulacija podataka, veća transparentnost u tome kako se modeli treniraju i stvarna odgovornost za štetu koju trenutni sustavi uzrokuju. Ako ne možemo osigurati da nam današnji jezični model ne laže o osnovnim povijesnim činjenicama i da ne krši autorska prava kreativaca, kako uopće možemo sanjati o kontroli nečeg naprednijeg? Prava opasnost nije u tome da će nas AGI uništiti sutra, već da će nas distrakcija o AGI-ju spriječiti da popravimo AI danas.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
