Florida pokreće istragu protiv OpenAI-ja zbog sigurnosnih rizika
Američka savezna država istražuje potencijalne veze tehnologije s kriminalnim radnjama i nacionalnom sigurnošću
Florida je službeno pokrenula istragu protiv tvrtke OpenAI usred rastućih briga o sigurnosti javnosti i potencijalnim rizicima za nacionalnu sigurnost. Državni odvjetnik James Uthmeier istaknuo je zabrinutost da bi podaci i tehnologija mogli završiti u rukama neprijatelja, naglašavajući da ChatGPT može biti povezan s različitim oblicima kriminalnog ponašanja. Ovaj potez dolazi u osjetljivom trenutku za OpenAI, koji se navodno priprema za prvu javnu ponudu dionica (IPO) ove godine.
Ključni detalji
Državni odvjetnik Floride, James Uthmeier, naveo je nekoliko specifičnih razloga za pokretanje ove istrage. Glavna briga proizlazi iz straha da bi napredna umjetna inteligencija i pripadajući podaci mogli dospjeti u ruke stranih protivnika. Nadalje, istraga ukazuje na to da je ChatGPT bio povezan s materijalima o seksualnom zlostavljanju djece te s poticanjem na samoozljeđivanje. Osobito je zabrinjavajuća tvrdnja da je ChatGPT navodno bio korišten od strane osumnjičenika za pucnjavu na Državnom sveučilištu Florida (FSU) u travnju 2025. godine, zbog čega je obitelj žrtve već podnijela tužbu protiv tvrtke.
Zašto je to važno
Ova istraga predstavlja značajan korak u rastućem regulatornom pritisku na vodeće tvrtke u području umjetne inteligencije. Dok se OpenAI priprema za mogući izlazak na burzu, ovakvi pravni i sigurnosni izazovi mogli bi usporiti njihov rast te utjecati na povjerenje investitora i javnosti. Pokazuje se da inovacija mora biti popraćena snažnim mehanizmima kontrole kako tehnologija ne bi služila kao alat za zlonamjerne aktivnosti.
Tehnička pozadina
Sigurnosni izazovi s kojima se susreću veliki jezični modeli uključuju više razina:
- Zaštita podataka: Sustavi moraju osigurati da osjetljivi podaci korisnika i intelektualno vlasništvo ne budu kompromitirani ili dostupni neovlaštenim stranama.
- Moderacija sadržaja: AI tvrtke suočavaju se s tehničkim poteškoćama u implementaciji filtera koji bi pouzdano spriječili generiranje nezakonitog ili štetnog sadržaja u stvarnom vremenu.
- Nadzor zloupotrebe: Potrebni su napredni sustavi za detekciju korisnika koji tehnologiju koriste za planiranje kriminalnih radnji ili širenje opasnih informacija.
Širi kontekst
Ovaj slučaj nije izoliran, već se nadovezuje na prethodne akcije regulatornih tijela. Prošle je godine američka Savezna trgovinska komisija (FTC) zatražila od OpenAI-ja i drugih tehnoloških divova informacije o tome kako njihovi chatbotovi utječu na djecu. Rastući interes vlasti za način na koji se AI sustavi treniraju, implementiraju i koriste sugerira da industrija umjetne inteligencije ulazi u razdoblje strogog nadzora, gdje će sigurnost korisnika postati ključan preduvjet za daljnji razvoj.
Što slijedi
Očekuje se da će državni odvjetnik Floride uskoro izdati službene sudske naloge povezane s istragom. Ostaje za vidjeti kako će OpenAI službeno odgovoriti na ove optužbe i hoće li istraga dovesti do konkretnih promjena u njihovim sigurnosnim politikama. Razvoj situacije pažljivo će pratiti cijela tehnološka industrija, jer bi ishod mogao postaviti presedan za buduće pravne postupke protiv AI tvrtki.
Izvor: The Verge Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
