Analiza4 min čitanja

Iluzija razumijevanja: Zašto AI modeli zapravo ne misle

Svi smo vidjeli kako umjetna inteligencija danas impresivno sažima složene tekstove, no prava je istina da modeli ne posjeduju logiku.

S

Autor

Shtef

Objavljeno

Ilustracija uz komentar: Iluzija razumijevanja: Zašto AI modeli zapravo ne misle

Iluzija razumijevanja: Zašto AI modeli zapravo ne misle

Dok se divimo brzini odgovora, zaboravljamo da modeli ne razumiju stvarni svijet

Svi smo vidjeli kako umjetna inteligencija danas impresivno sažima složene tekstove, prevodi strane jezike u stotinki sekunde ili piše stotine linija koda u tren oka. Zbog toga se lako možemo zavarati i pomisliti da ti modeli uistinu razmišljaju. Ljudi prirodno antropomorfiziraju strojeve. Ako nam netko ili nešto komunicira rječito, pismeno i samouvjereno, naš mozak automatski donosi zaključak da se s druge strane nalazi određena razina svjesnosti i pravog razumijevanja. No, ispod te vrlo glatke, pomno ispolirane površine krije se jedna od najvećih zabluda današnje tehnološke industrije.

Prava istina glasi: današnji najnapredniji jezični modeli zapravo samo predviđaju sljedeću riječ s vrlo visokom razinom statističke preciznosti, oslanjajući se na nevjerojatne količine podataka koje su prethodno obradili. Oni slažu simbole u nizove bez ikakvog dubinskog shvaćanja što te riječi zapravo znače u stvarnom, fizičkom i društvenom svijetu.

Prevladavajuća priča

Gotovo svaki dan možemo pročitati bombastične naslove u kojima nas tehnološki entuzijasti uvjeravaju da su ovi sustavi tek nekoliko sitnih koraka udaljeni od prave, opće ljudske inteligencije. Prevladava dominantno mišljenje da, ako model može položiti kompliciran pravosudni ispit, napisati uvjerljiv esej ili dijagnosticirati specifičnu bolest isključivo iz tekstualnog opisa, on nedvojbeno posjeduje sposobnost razumijevanja i kompleksne logike.

Zbog te naizgled čvrste priče, mnoge organizacije žure integrirati te velike jezične modele u svoje ključne i najosjetljivije poslovne sustave. Očekuju da će algoritmi samostalno i pouzdano donositi informirane odluke čak i u posve nepredvidivim situacijama. Obećava nam se svijet u kojem tehnologija rješava sve operativne probleme bez umora, pristranosti ili pogrešaka, dok menadžeri mirno uživaju u optimizaciji troškova.

Zašto je ta priča pogrešna ili nepotpuna

Ono što nedostaje u toj prevladavajućoj priči jest činjenica da ovi moćni modeli i dalje funkcioniraju isključivo na temelju statističke vjerojatnosti, a ne na temelju stvarnog logičkog zaključivanja. Kada se susretnu s problemom koji zahtijeva suptilno ljudsko razumijevanje, osjećaj za empatiju ili poznavanje implicitnih pravila fizičkog svijeta, ti se sustavi spektakularno raspadaju. Njihovo takozvano razumijevanje ne proteže se dalje od statističkih uzoraka u tekstualnim podacima.

Zamislite stvarnu poslovnu situaciju u kojoj se kontekst problema minimalno promijeni, ili se od modela zatraži da poveže dva dobro poznata koncepta na nov, kreativan način. Čovjek bi se zaustavio, razmislio, povukao paralele iz svog životnog iskustva i ponudio logičan zaključak. Umjetna inteligencija, s druge strane, nema tu vrstu kočnice. Ona jednostavno nastavlja predviđati riječi koje zvuče smisleno. Tada modeli počinju halucinirati. Izmišljaju nepostojeće činjenice, citiraju lažne izvore ili nude potpuno besmislene odgovore, uvijek zadržavajući isti autoritativan ton. Ovo stvara ogroman problem. Zbog njihovog elokventnog izražavanja, čak je i stručnjacima postalo teško prepoznati kada model nudi briljantno rješenje, a kada apsolutno samouvjereno tvrdi glupost.

Posljedice u stvarnom svijetu

Ako kao društvo i poslovna zajednica nastavimo slijepo vjerovati u ovu iluziju potpunog razumijevanja i ignorirati jasna ograničenja tehnologije, suočit ćemo se s ozbiljnim problemima. Tvrtke koje odluče u potpunosti prepustiti svoju ključnu korisničku podršku ili donošenje važnih financijskih odluka autonomnim AI agentima, vrlo će brzo otkriti mračniju stranu revolucije. Automatizirani sustavi će neumoljivo gubiti teško stečeno povjerenje klijenata onog trenutka kada situacija izmakne iz strogo definiranih okvira i postane malo složenija od prosjeka.

U tom scenariju prvi gube krajnji korisnici. Oni će uzaludno pokušavati objasniti svoj specifičan, netipičan problem sustavu koji vrti besmislene petlje isprika i generičkih savjeta, bez ikakve stvarne moći da taj problem ispravno kontekstualizira. Na ozbiljnom su gubitku i kompanije. Njihova će ugledna reputacija naglo padati zbog grešaka nefleksibilnog sustava koji ne posjeduje ni najmanju količinu zdravog razuma da zaustavi vlastite loše odluke. Vidjeli smo već previše primjera u kojima su loše implementirani chatbotovi javno sramotili korporacije.

S druge strane, prave pobjednike u ovom tranzicijskom razdoblju neće biti teško prepoznati. To će biti upravo oni poslovni lideri i organizacije koji jasno, trijezno shvate stvarne granice današnjih alata. Tvrtke koje zadrže ljude, sa svom njihovom empatijom i iskustvom, u presudnoj petlji donošenja odluka dugoročno će ostvariti ogromnu prednost. Oni će svojim korisnicima moći pružiti pravo hibridno iskustvo: brzinu stroja kada je prikladno, te duboko, istinsko razumijevanje čovjeka kada stvari postanu uistinu teške.

Završni stav

Dok lideri iz svojih staklenih ureda maštaju o skorom dolasku opće umjetne inteligencije i potiču nerealna očekivanja, mi koji te alate koristimo u praksi moramo stati na loptu i priznati trenutnu realnost. Današnji veliki jezični modeli su nevjerojatno sposobni, iznimno korisni i ponekad čarobni alati za brzu obradu tekstova. Međutim, unatoč svoj zapanjujućoj raskoši njihove sintakse, oni jednostavno ne mogu zamijeniti ljudsko prosuđivanje, analitičko razmišljanje i obični, nezamjenjivi zdrav razum. Počnimo ih već danas odgovorno koristiti isključivo za ono u čemu su izvrsni, dok odgovornost za ljudske odluke čvrsto moramo zadržati isključivo u vlastitim rukama.


Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.