Umjetna inteligencija u pravosuđu: Opasna igra s lažnim presedanima
Industrija ignorira problem halucinacija dok odvjetnici predaju nepostojeće slučajeve.
Generativna umjetna inteligencija u svom trenutnom stanju iznimno je sklona halucinacijama i izmišljanju činjenica. Unatoč jasnim dokazima o njezinoj nesavršenosti, u sudnicama diljem zemlje odvjetnici su uhvaćeni kako predaju sudske podneske koji sadrže citate slučajeva koji nikada nisu postojali. Radi se o "duhovima presedana" koje su kreirali alati umjetne inteligencije, a koji iznose apsolutne laži s tihim autoritetom.
Prevladavajuća priča
Iako su ove platforme umjetne inteligencije u trenutnom stanju vrlo podložne halucinacijama i pristranostima, te izmišljaju stvari poput citata i sudskih presedana, percepcija onih koji u njih ulažu ostaje nepromijenjena. Unatoč činjenici da suci izriču sankcije i da odvjetničke komore izdaju jasna upozorenja, ništa od toga nije usporilo veliku okladu takozvane "BigLaw" industrije na umjetnu inteligenciju.
Zašto je ta priča pogrešna ili nepotpuna
Ovakav pristup industrije je duboko pogrešan jer zanemaruje osnovne principe pravnog sustava na kojima se temelji zastupanje klijenata. Dok ljudski odvjetnici svečano polažu prisegu da će ostaviti po strani svoje osobne predrasude, pristranosti i uvjerenja kako bi vjerno podržavali zakon i zastupali svoje klijente, generativna umjetna inteligencija je samo proizvod programiranja. Ta su programiranja osmislili ljudi koji nikada nisu morali položiti takvu vrstu prisege za vjerno podržavanje zakona. Kao takvi, ti računalni sustavi su samo proizvod programiranja osmišljenog od strane ljudi koji nisu položili prisegu.
Posljedice u stvarnom svijetu
Posljedice ovog oslanjanja na tehnologiju bez prisege su stvarne i iznimno problematične. U stvarnom svijetu, suci su već prisiljeni izricati sankcije, a odvjetničke komore neprestano izdaju upozorenja. Slučajevi predaje podnesaka s duhovima presedana postaju stvarnost u sudnicama diljem zemlje. Pa ipak, ništa od ovih dokazanih opasnosti ne usporava industriju. Umjesto opreza, industrija sada udvostručava svoja ulaganja u ovakvu tehnologiju.
Završni stav
Činjenica da velika odvjetnička industrija udvostručava svoja ulaganja u ovakvu tehnologiju, čak i dok suci izriču sankcije i dok odvjetnici predaju nepostojeće slučajeve, jasno pokazuje koliko je situacija ozbiljna. Dokazi su jasni: ovi sustavi izmišljaju citate i slučajeve. Njihova raširena upotreba u pravosuđu, gdje se oslanja na programiranje umjesto na ljude koji su pod prisegom ostavili osobne predrasude po strani, ostaje iznimno opasna oklada.
Komentar objavljen na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
