Zašto nas umjetna glupost treba brinuti više nego dolazak AGI-ja
Pravi problem nije to što će nas umjetna inteligencija nadvladati, već to što ćemo joj prepustiti kritične odluke iako je još uvijek sklona kardinalnim pogreškama.
Svakodnevno čitamo dramatična upozorenja o tome kako će umjetna opća inteligencija (AGI) uskoro postati stvarnost. Tehnološki lideri, investitori i vizionari natječu se u predviđanjima o trenutku kada će strojevi nadmašiti ljudski um, preuzeti kontrolu nad svijetom ili nas barem učiniti tehnološkim viškom. Dok hipnotizirano gledamo prema tom apokaliptičnom ili utopijskom horizontu, promiče nam mnogo stvarnija, prizemnija i neposrednija opasnost. Pravi problem s kojim se danas suočavamo nije umjetna inteligencija koja postaje prepametna, već takozvana "umjetna glupost" – sustavi koji samouvjereno donose duboko pogrešne odluke i generiraju besmislice, a kojima usprkos tome dajemo sve veće ovlasti u stvarnom svijetu.
Umjetna glupost manifestira se kroz halucinacije jezičnih modela, pristranost u algoritmima za zapošljavanje, pogrešne medicinske savjete i automatizirane sustave koji se raspadaju čim se suoče s nepredviđenom situacijom. Umjesto straha od Skyneta, trebali bismo se bojati automatizirane birokracije koja ne razumije kontekst, ali ima moć blokirati nam bankovni račun, odbiti nam kredit ili pogrešno analizirati naše zdravstvene nalaze bez ikakve mogućnosti žalbe zdravom razumu.
Prevladavajuća priča
Narativ koji dominira tehnološkom industrijom izrazito je polariziran, ali gotovo uvijek usmjeren na daleku budućnost. S jedne strane imamo evanđeliste koji nam obećavaju rješavanje svih svjetskih problema – od klimatskih promjena do neizlječivih bolesti – čim dosegnemo mitski AGI. S druge strane stoje katastrofičari koji upozoravaju na egzistencijalni rizik za čovječanstvo, tražeći hitne regulative kako bi spriječili nastanak superinteligentnog stroja koji bi nas mogao izbrisati s lica zemlje.
Ovaj diskurs snažno oblikuju najveće tehnološke kompanije. Za njih je priča o svemoćnom AGI-ju zapravo iznimno koristan marketinški alat. Ako uvjerite javnost i investitore da gradite digitalnog boga, milijarde dolara ulaganja i vrtoglave valuacije postaju opravdane. Svaka nova verzija jezičnog modela najavljuje se kao još jedan korak bliže toj singularnosti. U takvom okruženju, razgovarati o tome zašto trenutni model ne zna prebrojati slova u riječi ili zašto izmišlja sudske presude, čini se kao cjepidlačenje pred vratima povijesne revolucije.
Zašto je ta priča pogrešna ili nepotpuna
Fokusiranje na AGI služi kao savršena dimna zavjesa koja skriva stvarne nedostatke današnjih sustava. Umjesto da se bavimo inherentnim ograničenjima arhitekture temeljene na predviđanju sljedećeg tokena, mi raspravljamo o svijesti strojeva. Zavaravamo se antropomorfizacijom algoritama, zaboravljajući da oni ne "razumiju" svijet oko sebe. Oni samo iznimno vješto barataju statističkim vjerojatnostima pojavljivanja riječi unutar ogromnih baza podataka na kojima su trenirani.
Kada model halucinira i ponudi nam potpuno netočan, ali gramatički savršen i autoritativan odgovor, to nije znak njegove "kreativnosti" ili put prema samosvijesti. To je demonstracija činjenice da sustav nema stvarni model svijeta, nema sposobnost logičkog zaključivanja i ne posjeduje mehanizam provjere istinitosti. Problem nastaje kada tu statističku iluziju znanja integriramo u procese gdje je točnost ključna. Opsesija superinteligencijom daje nam lažnu nadu da će se ovi problemi nekako sami od sebe riješiti pukim dodavanjem više procesorske moći i većim količinama podataka za treniranje. No, povećanje razmjera samo stvara elokventniju umjetnu glupost koja brže i uvjerljivije generira pogreške.
Posljedice u stvarnom svijetu
Prava prijetnja ne dolazi iz daleke budućnosti, već iz onoga što se događa upravo sada. Kompanije diljem svijeta žurno implementiraju AI rješenja kako bi smanjile troškove, često ignorirajući njihova ograničenja. Vidimo korisničke podrške koje korisnicima daju pogrešne informacije i uzrokuju financijsku štetu. Gledamo kako programeri koriste AI asistente koji generiraju naizgled ispravan, ali sigurnosno kompromitiran kod, uvodeći tehnički dug koji će se rješavati godinama.
Najveći gubitnici u ovom scenariju su obični ljudi čiji se životi sve više podvrgavaju odlukama "crnih kutija". Kada algoritamski sustav, zbog loših ulaznih podataka ili nedostatka konteksta, donese pogrešnu odluku, teret dokazivanja i ispravljanja greške pada na pojedinca. Borba protiv automatizirane gluposti beskrajno je iscrpljujuća jer s druge strane nema osobe s kojom možete razumno razgovarati. Dobitnici su isključivo korporacije koje su uspješno prebacile odgovornost i smanjile troškove rada, skrivajući se iza nedokučivosti umjetne inteligencije i floskule da "algoritam nikada ne laže".
Završni stav
Dok mi gubimo vrijeme debatirajuću o apstraktnim prijetnjama od superinteligentnih strojeva koji još ne postoje, stvarni svijet se polako puni automatiziranom osrednjošću i umjetnom glupošću. Najveći rizik umjetne inteligencije danas nije njena sposobnost da nas nadvlada, već naša spremnost da joj bezuvjetno vjerujemo. Vrijeme je da prestanemo gledati prema AGI utopiji i počnemo zahtijevati odgovornost, transparentnost i pouzdanost od sustava koje implementiramo danas, jer ćemo u suprotnom stvoriti društvo u kojem će nas kontrolirati sustavi previše glupi da shvate vlastite pogreške.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
