Anthropic predlaže usporavanje razvoja umjetne inteligencije
Direktor Anthropica Dario Amodei predložio je tri strategije za sigurniji razvoj AI modela.
Izvršni direktor Anthropica Dario Amodei objavio je blog post u kojem poziva na usporavanje razvoja na polju umjetne inteligencije. Ovaj potez podržali su Sam Altman iz OpenAI-ja i Elon Musk.
Ključni detalji
Dario Amodei predložio je usporavanje brzine kojom se unaprjeđuju mogućnosti AI modela te je naveo tri strategije za to. Prva uključuje uvođenje ugrađenih procjenjivača (embedded evaluators) iz trećih strana poput METR-a. Anthropic se obvezuje na uvođenje ugrađenih procjenjivača koji mogu provjeriti poštuju li AI tvrtke svoje obveze vezane za sigurnost i tempo te osigurati prijavu sigurnosnih incidenata.
Zašto je to važno
Prijedlog dolazi nakon što je istraživač Jacob Coxon dao ostavku u Anthropicu zbog zabrinutosti da vodeće AI tvrtke "kockaju našim životima". Amodei ističe da je potrebno usporiti tempo kojim se poboljšavaju mogućnosti AI modela te pametno iskoristiti dobiveno vrijeme.
Tehnička pozadina
Predložene strategije uključuju konkretne mjere za praćenje i usporavanje razvoja:
- Evaluatorima bi se omogućio pristup tvrtki koji je usporediv s onim koji imaju interni timovi za procjenu rizika, uključujući radne stolove i prijenosna računala.
- Amodei je pozvao vodeće AI tvrtke unutar demokratskih država da koordiniraju zajedničke sigurnosne standarde i ograničenja napretka AI-a, napominjući da je zbog antimonopolskih razloga korisno da američka vlada posreduje u tim raspravama.
- Amodei predlaže usporavanje napretka Kine i širenje američkog vodstva odbijanjem prodaje moćnih čipova ili opreme za proizvodnju poluvodiča kineskim tvrtkama te suzbijanjem destilacije modela.
Širi kontekst
Očekuje se da će i OpenAI slijediti ovaj primjer, s obzirom na to da je Sam Altman izjavio kako će OpenAI učiniti isto. S druge strane, industrijski kritičari izražavaju sumnju u ova upozorenja, sugerirajući da su ona distrakcija od štete koju tehnologija već uzrokuje.
Što slijedi
Amodei i dalje izražava želju za ostvarivanjem prednosti umjetne inteligencije, no ističe da će one biti ostvarene samo ako se tehnologija gradi na pravi način. Ostaje za vidjeti hoće li se ostvariti šira suradnja i koordinacija oko usporavanja razvoja.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
