Mit o otvorenom kodu: Kako tehnološki divovi kontroliraju AI
Zašto prividna otvorenost modela služi centralizaciji moći
Koncept "otvorenog koda" (open-source) oduvijek je predstavljao idealističku viziju softverske industrije: kod je javan, svatko može doprinijeti, a tehnologija pripada zajednici. Međutim, s dolaskom ere velikih jezičnih modela, pojam je doživio neobičnu metamorfozu. Najvredniji "otvoreni" modeli današnjice ne dolaze od malih entuzijasta ili neprofitnih organizacija, već od najvećih korporacija na svijetu. Kada tvrtke poput Mete objavljuju svoje Llama modele s etiketom otvorenog koda, mnogi to slave kao pobjedu demokratizacije nad korporativnim zatvorenim sustavima. Ali pravo stanje stvari znatno je složenije i zlokobnije.
Prevladavajuća priča
Mediji i tehnološki komentatori često prikazuju borbu u AI industriji kao sukob dvije filozofije: zatvorene protiv otvorenih. S jedne strane imamo OpenAI i Google sa svojim moćnim, ali zatvorenim modelima kojima se može pristupiti samo putem plaćenih API-ja. S druge strane, imamo Metu i francuski Mistral koji nesebično dijele "težine" (weights) svojih modela s cijelim svijetom, omogućujući svakom programeru da eksperimentira. Prema toj popularnoj priči, otvoreni kod će na kraju pobijediti jer je zajednica programera uvijek inovativnija i brža od bilo koje izolirane kompanije. Ta naracija sugerira da će otvoreni modeli srušiti monopole i omogućiti stotinama malih tvrtki da ravnopravno konkuriraju velikim igračima. Uvjereni smo da je izdavanje naprednih "open-weights" modela vrhunski čin demokratizacije tehnologije.
Zašto je ta priča pogrešna ili nepotpuna
Problematičnost te priče leži u fundamentalnom nerazumijevanju onoga što stvara vrijednost u modernoj umjetnoj inteligenciji. Stvarni "kod" (arhitektura modela) danas je samo mali dio slagalice. Prava prepreka i stvarni izvor moći leži u dva resursa koje nitko ne dijeli: masivnim skupovima podataka (datasets) za treniranje i gigantskoj računalnoj infrastrukturi (compute) potrebnoj da bi se takav model istrenirao od nule.
Kada Meta objavi model, oni zapravo ne daju zajednici recept i sastojke, već samo gotov kolač. Nitko ne zna točno na kojim je podacima taj kolač napravljen, niti ga itko bez stotina milijuna dolara vrijednih grafičkih kartica može ispeći od nule. Još važnije, licence pod kojima se ovi modeli izdaju često nisu pravi otvoreni kod u smislu OSI (Open Source Initiative) definicije. One dolaze s brojnim ograničenjima, uključujući zabrane komercijalne upotrebe za tvrtke iznad određene veličine i zabrane korištenja izlaza modela za treniranje drugih, konkurentskih modela.
Dakle, zašto korporacije ulažu milijarde u nešto što daju besplatno? Odgovor je jednostavan: komoditizacija komplementarnih dobara. Ako modeli postanu besplatni i svugdje dostupni (komoditet), onda marže padaju za OpenAI, Google i Anthropic, koji prodaju pristup modelima. No, što to znači za one koji objavljuju "otvorene" modele? Za Metu, to znači da nitko ne kontrolira platformu na kojoj će oni graditi svoje usluge, sprječavajući da netko postane "Apple" u svijetu AI-a i diktira im uvjete. Za proizvođače čipova i cloud provajdere, situacija je još bolja. Kada je model besplatan, svi ga žele koristiti, a za korištenje je potrebna infrastruktura, odnosno cloud usluge.
Tako dolazimo do paradoksa: najveći navijači i financijeri "otvorene" AI revolucije su zapravo cloud provideri. Njima je u interesu da što više startupa koristi te "besplatne" modele, jer to izravno znači više kupljenih servera i više zakupljenog cloud prostora. U tom kontekstu, open-source model nije alat demokratizacije, već vrlo sofisticiran alat za uništavanje konkurencije i preusmjeravanje zarade s intelektualnog vlasništva na infrastrukturu koju oni u potpunosti kontroliraju.
Posljedice u stvarnom svijetu
Ako ova "komercijalna" verzija otvorenog koda pobijedi, posljedice za tržište bit će dalekosežne, ali ne onakve kakvima se nadamo.
Kao prvo, startup scena bit će iluzorna. Umjesto da stvaraju nove, neovisne sustave, tisuće startupa postat će ovisni o odlukama jedne ili dvije velike korporacije. Ako Meta sutra odluči promijeniti uvjete licence ili prestati objavljivati nove generacije, cijeli ekosustavi poslovanja srušit će se preko noći. To nije neovisnost, to je život na tuđoj milosti.
Kao drugo, centralizacija moći prebacit će se samo s jedne razine na drugu. Možda modeli neće biti monopolizirani, ali će infrastruktura postati još koncentriranija. Mali i srednji poduzetnici bit će prisiljeni plaćati sve veće račune za najam grafičkih procesora u tuđem cloudu, jer je lokalno izvođenje modela preskupo ili presporo za ozbiljne primjene.
Na kraju, ovo može usporiti pravu, znanstvenu otvorenost. Budući da su najsnažniji modeli vlasništvo korporacija koje skrivaju metode treniranja, akademija i nezavisni istraživači zapravo ne znaju kako ti sustavi u potpunosti funkcioniraju. Ne možemo adekvatno proučavati sigurnost, pristranosti niti arhitekturu nečega što nam je dano samo kao crna kutija s brojevima. Pravo znanstveno razumijevanje zaostajat će za korporativnim interesima.
Završni stav
Zalagati se za otvoreni kod u umjetnoj inteligenciji plemenit je i nužan cilj. Međutim, moramo prestati miješati korporativne strategije rušenja cijena sa stvarnom demokratizacijom tehnologije. Trenutni val velikih "open-weights" modela nije poklon čovječanstvu, već agresivan poslovni potez usmjeren protiv izravne konkurencije. Pravi otvoreni kod znači transparentnost podataka, mogućnost samostalnog treniranja i odsustvo skrivenih uvjeta, a to je luksuz koji nam tehnološki divovi još uvijek nemaju namjeru priuštiti. Dokle god ne posjedujemo podatke i računalnu moć, iluzija o otvorenom kodu samo učvršćuje njihovu vladavinu nad našom tehnološkom budućnošću.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
