AGI distrakcija: Zašto propuštamo prave probleme
Kako opsesija umjetnom općom inteligencijom (AGI) zamagljuje stvarne rizike i prilike današnjih AI sustava i štiti korporativne interese.
Kada slušamo vodeće ljude iz Silicijske doline, često se stječe dojam da smo na korak do stvaranja umjetne opće inteligencije (AGI). AGI se opisuje kao hipotetski stroj koji može naučiti, razumjeti i primijeniti bilo koji intelektualni zadatak koji čovjek može obaviti, pa čak i nadmašiti ljudske sposobnosti u gotovo svim domenama. Ova priča o nadolazećoj tehnološkoj singularnosti dominira naslovnicama medija, privlači desetke milijardi dolara investicija i u potpunosti oblikuje javni diskurs o budućnosti tehnologije. Vizionari i inženjeri upozoravaju na potencijalne egzistencijalne rizike koje bi takva superinteligencija mogla donijeti, pozivajući na hitne mjere sigurnosti i takozvano "usklađivanje" (alignment). Međutim, dok kolektivno gledamo u zvijezde i raspravljamo o apstraktnim rizicima hipotetskog entiteta koji bi mogao izmaći kontroli, propuštamo ključne, opipljive probleme koji se događaju upravo sada, pred našim očima, s tehnologijom koja se već koristi.
Prevladavajuća priča
Prevladavajuća priča u globalnoj tehnološkoj industriji, koju agresivno promoviraju najveće AI kompanije, jest da je AGI ne samo neizbježan, već da predstavlja najveći izazov i najveću priliku u cijeloj povijesti čovječanstva. Prema ovom narativu, trenutni veliki jezični modeli poput GPT-4 ili Claude 3 samo su rani, primitivni koraci na putu prema strojevima koji će nas u konačnici nadmašiti u svakom pogledu. Zbog toga, tvrde zagovornici ove priče, čovječanstvo mora fokusirati apsolutno sve svoje napore – od postavljanja državne regulative do usmjeravanja znanstvenog istraživanja – na rješavanje problema usklađivanja tih budućih, nevjerojatno moćnih sustava s ljudskim vrijednostima i namjerama.
Ova perspektiva, često nazivana "dugoročnost" (longtermism), sugerira da su trenutni problemi s kojima se suočavamo samo sitne, beznačajne prepreke na velikom putu do tehnološke utopije ili, u najgorem slučaju, distopije u kojoj nas strojevi uništavaju. Prema tom viđenju, svaka trenutna šteta je prihvatljiva ako doprinosi dugoročnom cilju osiguravanja sigurnog razvoja AGI-ja.
Zašto je ta priča pogrešna ili nepotpuna
Osnovni problem s ovom pričom nije nužno u tome da je koncept AGI-ja nemoguć ili da ga treba ignorirati. Problem je u tome što opsesivni fokus na AGI djeluje kao masivna, gotovo savršeno dizajnirana distrakcija. Usredotočenost na hipotetske egzistencijalne rizike daleke budućnosti služi kao iznimno prikladan štit za tehnološke kompanije. On ih oslobađa od neposredne odgovornosti za vrlo stvarnu i opipljivu štetu koju njihovi trenutni proizvodi uzrokuju danas u stvarnom svijetu.
Dok na konferencijama stručnjaci raspravljaju hoće li nas AGI jednog dana svjesno odlučiti pretvoriti u spajalice ili nas potpuno izbrisati s lica planeta, stvarni, postojeći algoritmi i sustavi umjetne inteligencije već donose pristrane odluke s dubokim posljedicama. Ti sustavi već sada odlučuju tko će dobiti posao u velikim korporacijama, tko će dobiti odobrenje za bankovni kredit za kupnju stana, a tko će biti pušten na uvjetnu slobodu u pravosudnom sustavu. Algoritmi preporuka na društvenim mrežama, koji su također oblik umjetne inteligencije, svakodnevno oblikuju političke izbore milijuna ljudi, olakšavaju širenje dezinformacija i dokazano narušavaju mentalno zdravlje, posebice mlađih generacija.
Nadalje, zapošljavanje takozvanih "AI radnika" na nesigurnim, iznimno slabo plaćenim poslovima u zemljama u razvoju – gdje tisuće ljudi satima pregledavaju i označavaju traumatičan sadržaj kako bi očistili podatke za učenje velikih modela – predstavlja moderni oblik digitalne eksploatacije. Ovi radnici su stvarni, njihova trauma je stvarna, ali se njihova patnja rijetko spominje u sterilnim, visoko intelektualnim raspravama o budućnosti AGI-ja u bogatim zapadnim zemljama.
Također, fokus na AGI namjerno zamagljuje ogromne ekološke troškove treniranja i kontinuiranog pokretanja ogromnih neuronskih mreža. Potrošnja električne energije i vode potrebnih za hlađenje masivnih podatkovnih centara raste eksponencijalno. Dok se planet suočava s klimatskim promjenama, tehnološka industrija se ponaša kao da je trošenje resursa na razini manjih država savršeno prihvatljiv trošak za postizanje tehnološke nirvane, ignorirajući ekološki otisak koji ostavljaju za sobom.
Posljedice u stvarnom svijetu
Posljedice ove namjerne ili slučajne distrakcije su izuzetno stvarne i opasne po društvo u cjelini. Ako nacionalna i međunarodna regulatorna tijela, poput onih u Europskoj uniji ili SAD-u, prate narativ Silicijske doline i fokusiraju se isključivo na sprečavanje hipotetskih scenarija sudnjeg dana, propustit će povijesnu priliku donijeti pragmatične i učinkovite zakone. Zakone koji bi danas zaštitili obične građane od algoritamske diskriminacije, masovnog kršenja privatnosti i neovlaštenog korištenja autorskih prava za treniranje komercijalnih modela.
Gubitnici u ovoj situaciji su brojni i jasno vidljivi. To su marginalizirane skupine u društvu koje već sada trpe negativne posljedice zbog pristranih algoritama u zapošljavanju i pravosuđu. To su pisci, umjetnici i kreativci čija se cjelokupna životna djela i intelektualno vlasništvo bezobzirno koriste bez ikakve kompenzacije ili dozvole za treniranje modela koji ih na kraju mogu zamijeniti. To su radnici čija se radna i ljudska prava svakodnevno gaze u netransparentnom, globalnom lancu opskrbe podacima neophodnim za AI tehnologiju.
S druge strane, dobitnici su vrlo jasni. To su velike, monopolističke tehnološke kompanije koje nesmetano nastavljaju razvijati i implementirati svoje proizvode s minimalnim nadzorom. Priča o AGI-ju služi im kao apsolutno savršen PR alat. Ona ih u očima javnosti i političara prikazuje kao odgovorne arhitekte i zaštitnike budućnosti cijelog čovječanstva, a ne kao ono što zapravo jesu: divovske korporacije primarno vođene željom za profitom, kontrolom tržišta i dominacijom nad podacima.
Završni stav
Krajnje je vrijeme da kolektivno prestanemo dopuštati da naši strahovi i nade o dalekoj, neizvjesnoj budućnosti diktiraju naše reakcije na tehnologiju koju već danas imamo u našim domovima, telefonima i radnim mjestima. Umjetna inteligencija nije magija budućnosti, ona je alat sadašnjosti koji već snažno oblikuje naš svijet, našu ekonomiju i naše društvo. Zbog toga nam je hitno potrebna čvrsta, praktična i provediva regulativa usmjerena na transparentnost, odgovornost i pravednost postojećih sustava, a ne onih iz znanstvene fantastike. AGI možda dolazi, a možda i ne, no stvarni problemi algoritamske nepravde, digitalne eksploatacije radnika i ozbiljne ekološke degradacije su ovdje i sada. Ako kao društvo ne možemo riješiti složene izazove takozvane 'slabe' ili uske umjetne inteligencije danas, zavaravamo se ako mislimo da imamo apsolutno ikakve šanse nositi se s onim što bi moglo doći sutra.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
