Analiza3 min čitanja

Umjetna inteligencija u pravosuđu: Opasna igra s lažnim presedanima

Dok odvjetnici predaju nepostojeće slučajeve zbog AI halucinacija, velika odvjetnička industrija ignorira probleme i udvostručava svoja ulaganja.

S

Autor

Shtef

Objavljeno

Ilustracija uz komentar: Umjetna inteligencija u pravosuđu

Umjetna inteligencija u pravosuđu: Opasna igra s lažnim presedanima

Industrija ignorira problem halucinacija dok odvjetnici predaju nepostojeće slučajeve.

Generativna umjetna inteligencija u svom trenutnom stanju iznimno je sklona halucinacijama i izmišljanju činjenica. Unatoč jasnim dokazima o njezinoj nesavršenosti, u sudnicama diljem zemlje odvjetnici su uhvaćeni kako predaju sudske podneske koji sadrže citate slučajeva koji nikada nisu postojali. Radi se o "duhovima presedana" koje su kreirali alati umjetne inteligencije, a koji iznose apsolutne laži s tihim autoritetom.

Prevladavajuća priča

Iako su ove platforme umjetne inteligencije u trenutnom stanju vrlo podložne halucinacijama i pristranostima, te izmišljaju stvari poput citata i sudskih presedana, percepcija onih koji u njih ulažu ostaje nepromijenjena. Unatoč činjenici da suci izriču sankcije i da odvjetničke komore izdaju jasna upozorenja, ništa od toga nije usporilo veliku okladu takozvane "BigLaw" industrije na umjetnu inteligenciju.

Zašto je ta priča pogrešna ili nepotpuna

Ovakav pristup industrije je duboko pogrešan jer zanemaruje osnovne principe pravnog sustava na kojima se temelji zastupanje klijenata. Dok ljudski odvjetnici svečano polažu prisegu da će ostaviti po strani svoje osobne predrasude, pristranosti i uvjerenja kako bi vjerno podržavali zakon i zastupali svoje klijente, generativna umjetna inteligencija je samo proizvod programiranja. Ta su programiranja osmislili ljudi koji nikada nisu morali položiti takvu vrstu prisege za vjerno podržavanje zakona. Kao takvi, ti računalni sustavi su samo proizvod programiranja osmišljenog od strane ljudi koji nisu položili prisegu.

Posljedice u stvarnom svijetu

Posljedice ovog oslanjanja na tehnologiju bez prisege su stvarne i iznimno problematične. U stvarnom svijetu, suci su već prisiljeni izricati sankcije, a odvjetničke komore neprestano izdaju upozorenja. Slučajevi predaje podnesaka s duhovima presedana postaju stvarnost u sudnicama diljem zemlje. Pa ipak, ništa od ovih dokazanih opasnosti ne usporava industriju. Umjesto opreza, industrija sada udvostručava svoja ulaganja u ovakvu tehnologiju.

Završni stav

Činjenica da velika odvjetnička industrija udvostručava svoja ulaganja u ovakvu tehnologiju, čak i dok suci izriču sankcije i dok odvjetnici predaju nepostojeće slučajeve, jasno pokazuje koliko je situacija ozbiljna. Dokazi su jasni: ovi sustavi izmišljaju citate i slučajeve. Njihova raširena upotreba u pravosuđu, gdje se oslanja na programiranje umjesto na ljude koji su pod prisegom ostavili osobne predrasude po strani, ostaje iznimno opasna oklada.


Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef

Povezano

Pročitajte i ovo

Još nekoliko objava koje šire kontekst oko tema, kompanija i AI trendova iz ove priče.

Ilustracija uz komentar: AGI kao distrakcija
Analiza

Opsesija općom umjetnom inteligencijom (AGI) velika je distrakcija

Dok se industrija fokusira na stvaranje nadljudske inteligencije, gubimo iz vida stvarne probleme i prilike koje današnja tehnologija nudi.

Ilustracija uz komentar: Prava istina o razvoju softvera
Analiza

Prava istina o razvoju softvera s umjetnom inteligencijom

Marketing nam prodaje gotova rješenja, ali stvarni razvoj otkriva složenost i krhkost novih alata.