Prava opasnost AI-ja je zapravo sintetički internet
Umjesto pobune strojeva, čeka nas urušavanje povjerenja u sve što vidimo online
Kada razgovaramo o prijetnjama koje donosi umjetna inteligencija, fokus je gotovo uvijek na apokaliptičnim scenarijima u kojima nas modeli nadmudre. No, stvarna opasnost je mnogo prozaičnija i već se događa: tiho preplavljivanje interneta sintetičkim sadržajem koje će nepovratno uništiti povjerenje u digitalne informacije.
Prevladavajuća priča
Mediji i popularna kultura uvjerili su nas da je najveći rizik razvoja umjetne inteligencije takozvana "opća umjetna inteligencija" (AGI) koja bi mogla izmaknuti kontroli. Rasprave se vode oko usklađivanja vrijednosti, egzistencijalnih rizika i scenarija iz znanstveno-fantastičnih filmova. Istovremeno, generativni AI alati slave se kao ultimativni alati za demokratizaciju kreacije – svatko sada može biti pisac, ilustrator ili programer uz samo nekoliko pravih upita.
Zašto je ta priča pogrešna ili nepotpuna
Ova opsesija ekstremnim ishodima zasljepljuje nas pred problemom koji je već tu. Problem nije u tome što će AI postati previše pametan, već u tome što su modeli dovoljno sposobni da stvore neograničene količine osrednjeg, ali uvjerljivog sadržaja uz gotovo nulti granični trošak. Generiranje teksta, slika i videa više ne zahtijeva trud ni stručnost, što znači da je motivacija za stvaranje sintetičkog "smeća" isključivo financijska ili manipulativna. Internet kakav poznajemo, izgrađen na pretpostavci da iza sadržaja barem većinom stoji ljudski trud, nije dizajniran da izdrži ovaj teret.
Posljedice u stvarnom svijetu
Posljedice su već vidljive, a tek smo na početku. Prva žrtva je pretraživanje – rezultati su već sada zagušeni SEO-optimiziranim sintetičkim člancima koji ne nude nikakvu stvarnu vrijednost. Društvene mreže preplavljuju botički profili koji vode "razgovore" jedni s drugima, stvarajući privid angažmana i konsenzusa. Dugoročno, gubimo temeljnu sposobnost razlikovanja stvarnog od lažnog. Ako ne možemo vjerovati fotografiji, videozapisu ili članku, gubimo zajedničku bazu stvarnosti na kojoj počiva funkcioniranje društva. Za kreatore, to znači da će autentični ljudski rad biti utopljen u moru generiranog šuma.
Završni stav
Moramo prestati tretirati umjetnu inteligenciju prvenstveno kao put prema božanskom entitetu, a početi je tretirati kao iznimno moćan alat za zagađenje informacijskog prostora. Prava prijetnja nije tehnološka singularnost, već informacijska entropija.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
