Google zamrznuo bug bounty program zbog poplave AI prijava
Navala nevažećih automatiziranih izvještaja opteretila je inženjere
Google je odlučio privremeno obustaviti svoj program nagrađivanja za pronalaženje sigurnosnih propusta u softveru otvorenog koda. Razlog ove odluke je značajan porast automatiziranih prijava koje generira umjetna inteligencija.
Ključni detalji
Googleov Open Source Software Vulnerability Rewards Program službeno je pauziran od 1. listopada, a tvrtka obećava nove informacije u prvom kvartalu 2027. godine. Prema navodima tvrtke, velika većina novih automatiziranih prijava nije bila valjana.
Zašto je to važno
Ova situacija ukazuje na rastući problem u industriji kibernetičke sigurnosti. Iako umjetna inteligencija može pomoći u pronalaženju propusta, njezina masovna i nekontrolirana upotreba stvara previše lažnih uzbuna, čime se troši dragocjeno vrijeme stručnjaka koji te prijave moraju pregledati.
Tehnička pozadina
- Sigurnosni stručnjaci ranije su upozoravali da nekvalitetne prijave stvorene umjetnom inteligencijom predstavljaju ozbiljan rizik za ovakve programe.
- Googleovi inženjeri i održavatelji softvera otvorenog koda bili su preopterećeni izvještajima.
- Mnoge prijave bile su nevažeće ili su sadržavale halucinacije modela umjetne inteligencije.
Širi kontekst
Ovaj događaj pokazuje da integracija umjetne inteligencije u sigurnosne procese zahtijeva bolju regulaciju i filtriranje. Bug bounty programi oslanjaju se na kvalitetu prijava, a poplava beskorisnih podataka ugrožava samu svrhu ovih inicijativa. Ostali tehnološki divovi mogli bi se suočiti sa sličnim izazovima ako ne prilagode svoje sustave za prijavu propusta.
Što slijedi
Očekuje se da će Google početkom 2027. godine predstaviti nova pravila i mehanizme za filtriranje automatiziranih prijava. Do tada se sudionicima savjetuje da se usredotoče na druge Googleove programe nagrađivanja za otkrivanje sigurnosnih propusta.
Izvor: TechCrunch Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
