Microsoftov Satya Nadella: AI modelima je potrebna kočnica
Izvršni direktor Microsofta upozorava na važnost sigurnosnih mehanizama u razvoju umjetne inteligencije
Izvršni direktor Microsofta, Satya Nadella, najnoviji je tehnološki rukovoditelj koji je ponudio opširna razmišljanja o tome kako se može poboljšati sigurnost umjetne inteligencije. U svojoj objavi na platformi X, Nadella je istaknuo da je vrijeme za preispitivanje "arhitekture povjerenja" umjetne inteligencije.
Ključni detalji
Nadella upozorava da se na "Super Intelligence", izraz koji preferira Trumpova administracija za umjetnu inteligenciju, ne smije gledati kao na skup crnih kutija te jednostavno prihvaćati ili odbacivati njene preporuke, odgovore i akcije. Njegov pristup podrazumijeva odvajanje modela od sustava koji upravlja njegovim radom, uz eksternalizaciju kontrola i sigurnosnih mehanizama.
Također je pozvao da se svaka značajna akcija modela dokumentira uz opipljive i ljudima čitljive dokaze. Posebno naglašava potrebu za sustavima u kojima bi ovlaštena osoba uvijek imala mogućnost pauziranja ili isključivanja modela usred zadatka.
"Moramo pretpostaviti da je model kompromitiran i ograničiti ga od samog početka," rekao je Nadella. "Zamislite to kao sigurnosnu kočnicu."
Zašto je to važno
Izjave izvršnog direktora Microsofta dolaze u trenutku kada vodeće tvrtke u području umjetne inteligencije priznaju sve veći broj incidenata u kojima su naizgled izgubile kontrolu nad svojim modelima. Njegova vizija nudi konkretne korake prema sigurnijem upravljanju naprednim AI sustavima, što bi moglo postaviti novi standard u industriji.
Tehnička pozadina
Nadellin prijedlog za sigurniju umjetnu inteligenciju oslanja se na nekoliko ključnih tehničkih koncepata:
- Razdvajanje samog AI modela od upravljačkog sustava koji koordinira njegov rad.
- Uvođenje vanjskih sigurnosnih kontrola i mehanizama zaštite koji nisu dio samog modela.
- Dokumentiranje svake značajne akcije sustava pomoću zapisa koje ljudi mogu čitati i koje nije moguće naknadno mijenjati.
Širi kontekst
Sve veći naglasak na sigurnosti umjetne inteligencije od strane ključnih industrijskih lidera ukazuje na sazrijevanje industrije i prepoznavanje stvarnih rizika povezanih s naprednim modelima. Nadellini komentari nadovezuju se na nedavni plan izvršnog direktora Anthropica, Darija Amodeia, koji također zagovara oprezniji razvoj umjetne inteligencije.
Što slijedi
Očekuje se da će rasprave o sigurnosnim standardima i "kočnicama u nuždi" za AI modele postati još intenzivnije. Bit će zanimljivo pratiti hoće li i kako Microsoft, ali i druge vodeće tehnološke tvrtke, implementirati predložene mehanizme u svoje buduće proizvode.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef



