Mit o otvorenom kodu u razvoju umjetne inteligencije
Zašto objavljivanje gotovih težina modela ne znači pravu demokratizaciju tehnologije
Svakog mjeseca tehnološka industrija svjedoči novom valu kolektivnog oduševljenja kada neka od vodećih svjetskih kompanija slavodobitno objavi da je njihov najnoviji, nevjerojatno moćan jezični model sada dostupan svima kao otvoreni kod (eng. open source). Društvene mreže, forumi i tehnološki portali istog trena preplavljeni su hvalospjevima. Tehnološka zajednica slavi, duboko uvjerena da je učinjen još jedan veliki i neizbježan korak prema pravoj, suštinskoj demokratizaciji umjetne inteligencije. Narativ koji nam se servira nevjerojatno je jasan, privlačan i zavodljiv: ako apsolutno svi, od studenata do velikih korporacija, imaju slobodan pristup modelu, tada moć više nije ekskluzivno koncentrirana u rukama nekoliko korporativnih divova iz Silicijske doline. No, ispod te blještave PR površine krije se mnogo složenija, surovija i duboko problematična stvarnost. Objavljivanje pukih gotovih težina modela (eng. model weights), bez ikakvog pristupa izvornim podacima na kojima su ti isti modeli trenirani i bez ogromne računalne moći potrebne za njihovo ozbiljno modificiranje, stvara samo opasan privid otvorenosti. Vrijeme je da konačno prestanemo miješati pametne marketinške poteze s pravom slobodom i kritički preispitamo što zapravo danas znači kada netko tvrdi da je umjetna inteligencija "otvorena".
Prevladavajuća priča
Prevladavajuća priča u današnjoj industriji snažno se oslanja na povijesni i neosporni uspjeh pokreta otvorenog koda u tradicionalnom softverskom inženjerstvu. Kroz protekla desetljeća, industrija je naučila i nebrojeno puta dokazala da otvoreni kod snažno potiče inovacije, drastično ubrzava pronalazak i rješavanje kritičnih sigurnosnih propusta te efikasno sprječava monopolizaciju tržišta od strane nekoliko velikih aktera. Operativni sustavi poput Linuxa, brojni programski jezici, mrežni protokoli i razvojni okviri nepobitno su dokazali da decentralizirana, globalna zajednica može izgraditi neusporedivo bolje, robusnije i sigurnije alate od zatvorenih, izoliranih korporativnih sustava.
Prema toj duboko ukorijenjenoj logici, primjena apsolutno iste filozofije na moderno područje umjetne inteligencije trebala bi, sasvim logično, donijeti jednake, ako ne i bolje rezultate. Naivno se vjeruje da će takozvani open source modeli napokon omogućiti doslovno svakom istraživaču, talentiranom studentu na sveučilištu ili malom, ambicioznom startupu iz garaže da ravnopravno sudjeluje u razvoju najnaprednijih tehnoloških sustava današnjice. Zagovornici i promotori ove utopijske priče svakodnevno tvrde da transparentnost koda i opća javna dostupnost modela automatski znače i dramatično smanjenje algoritamske pristranosti, neusporedivo veću sigurnost za krajnje korisnike i konačnu garanciju da ova transformativna tehnologija zaista radi u najboljem interesu cjelokupnog čovječanstva, a ne samo za bogaćenje šačice povlaštenih dioničara.
Zašto je ta priča pogrešna ili nepotpuna
Međutim, ova visoko idealizirana vizija potpuno ignorira i zanemaruje fundamentalnu, nepremostivu razliku između tradicionalnog softvera i modernih sustava generativne umjetne inteligencije. U klasičnom, tradicionalnom programiranju, čitljiv izvorni kod (source code) je apsolutno sve što vam je potrebno da biste u potpunosti razumjeli kako program radi, modificirali ga prema vlastitim potrebama, ispravili greške i na kraju ga uspješno pokrenuli. Kod umjetne inteligencije, pogotovo kod velikih jezičnih modela, situacija je drastično i neizmjerno drugačija.
Svaki moderni AI model zapravo se sastoji od tri jednako ključna, ali potpuno različita elementa: osnovnog matematičkog algoritma (arhitekture), kolosalne količine strukturiranih i nestrukturiranih podataka potrebnih za treniranje te nevjerojatne količine sirove računalne moći (GPU klastera). Kada najpoznatije tehnološke kompanije danas glasno govore o "otvorenom kodu", one u pravilu, s vrlo rijetkim iznimkama, objavljuju samo goli algoritam i konačne, izračunate težine modela. Oni najvažniji elementi — masivni skupovi podataka na kojima je model mjesecima učio, koji predstavljaju stvarni, jedini izvor njegovog impresivnog znanja, ali i njegovih potencijalno opasnih pristranosti i pogrešaka — ostaju strogo čuvana poslovna tajna, skrivena iza debelih zidova korporativnih servera.
Nadalje, istinska, prava demokratizacija podrazumijeva i zahtijeva stvarnu mogućnost smislene, dubinske intervencije i radikalnog poboljšanja samog sustava. Međutim, da biste zaista značajno promijenili, unaprijedili ili, još važnije, istrenirali napredni generativni model od apsolutne nule kako biste ispravili njegove temeljne nedostatke, potrebni su vam deseci tisuća najnaprednijih, visoko specijaliziranih grafičkih procesora čija cijena doseže stotine milijuna, pa i milijarde dolara. Prosječan, pa čak i iznimno dobro financiran sveučilišni istraživač ili neovisni razvojni inženjer jednostavno si nikada ne može priuštiti takvu nezamislivu infrastrukturu.
Iz toga proizlazi jasna činjenica: "otvorenost" u ovom specifičnom modernom kontekstu ne znači slobodu stvaranja, već samo i isključivo to da vam je velikodušno dopušteno koristiti već gotov, zapakiran proizvod, strogo unutar nevidljivih granica i ograničenja koja je unaprijed postavio njegov stvarni tvorac. To jednostavno nije, niti ikada može biti, pravi otvoreni kod u duhu Linuxa; to je u suštini samo besplatni probni uzorak, glorificirani "freemium" model koji dugoročno služi isključivo za agresivno uništavanje slabije konkurencije i beskonačno širenje zatvorenog ekosustava dominantne korporacije, dok upravo te korporacije i dalje bezbrižno zadržavaju apsolutnu, potpunu i neprikosnovenu kontrolu nad cjelokupnim smjerom razvoja ove ključne tehnologije.
Posljedice u stvarnom svijetu
Ako kao društvo i stručna zajednica nastavimo slijepo i nekritički vjerovati u ovaj pomno konstruirani mit, posljedice za tehnološki sektor, globalnu ekonomiju i društvo u cjelini bit će iznimno teške i dalekosežne. Prvo i najvažnije, mi time aktivno stvaramo izrazito opasan lažni osjećaj sigurnosti. Šira javnost, kao i ključni zakonodavci i regulatori koji bi trebali štititi naše interese, mogli bi postati značajno manje oprezni, naivno vjerujući da je razvoj tehnologije pod budnim i transparentnim nadzorom globalne zajednice programera. Stvarnost je, nažalost, takva da taj stvarni, dubinski nadzor uopće ne postoji, jer zajednica nema uvid u podatke.
Drugo, i možda jednako pogubno za tehnološki napredak, ovakav dominantan narativ sustavno i efikasno guši istinsku, zdravu konkurenciju. Mali, inovativni startupovi s genijalnim idejama iznimno teško mogu privući potrebne investicije za riskantan razvoj potpuno vlastitih, potencijalno boljih arhitektura. Investitori od njih umjesto toga očekuju da idu linijom manjeg otpora i jednostavno grade svoje proizvode kao nadogradnju na postojeće, "besplatne" modele tehnoloških divova. Time se cjelokupna globalna industrija nepopravljivo veže uz tuđe platforme i standarde koje jednostrano diktiraju isključivo oni najveći, najbogatiji igrači na tržištu.
Također, namjerno ignoriranje ogromnog problema potpune netransparentnosti podataka za treniranje znači da kao društvo ne možemo efikasno, sustavno i pravedno riješiti sve goruće probleme algoritamske pristranosti, masovnog kršenja autorskih prava i neovlaštenog korištenja privatnih podataka. Ako jednostavno ne znamo iz kojih je točno knjiga, članaka, privatnih prepiski ili zaštićenih baza podataka model crpio svoje znanje, mi apsolutno ne možemo pouzdano detektirati niti ispraviti njegove sistemske, ugrađene greške i predrasude. Umjesto prave, obećane demokratizacije, mi zapravo dobivamo moderni tehnološki feudalizam. U tom novom poretku, velike korporacije djeluju kao nedodirljivi vlastelini koji milostivo dijele mrvice svojih neograničenih resursa, dok svi ostali akteri, programeri i startupovi, preuzimaju ulogu modernih kmetova. Oni besplatno i entuzijastično rade na poboljšanju i popularizaciji korporativnog ekosustava, obavljaju testiranje, pronalaze greške i grade aplikacije, a da pritom nemaju apsolutno nikakvu stvarnu moć odlučivanja o budućnosti tehnologije o kojoj postaju potpuno ovisni.
Završni stav
Da bismo zaista ostvarili puni potencijal umjetne inteligencije na dobrobit svih, pravi otvoreni kod u ovom području mora obuhvaćati apsolutnu i bezuvjetnu potpunu transparentnost cijelog procesa. To ne znači samo objavu gotovih težina; to znači otvorenost od same osnovne arhitekture, preko detaljno dokumentiranih, provjerljivih i etički prikupljenih skupova podataka, pa sve do samog procesa treniranja i javno dostupnih, otvorenih alata za nezavisnu evaluaciju. Sve manje od toga je u najboljem slučaju samo proračunat, ciničan marketinški alat, pomno dizajniran za dodatno jačanje već nedodirljivih korporativnih monopola pod lažnom krinkom tehnološkog altruizma. Vrijeme je da se globalna tehnološka zajednica konačno probudi, prestane naivno slaviti polovična i prividna rješenja, te počne nepopustljivo zahtijevati standarde koji će zaista, a ne samo na papiru, omogućiti pravedan, siguran i istinski otvoren razvoj umjetne inteligencije za sve generacije koje tek dolaze.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
