Anthropic Mythos prijetnja kibernetičkoj sigurnosti vraća Amodeija u Bijelu kuću
Sposobnost otkrivanja ranjivosti pobudila interes civilnih agencija
Anthropicov izvršni direktor Dario Amodei sastao se s dužnosnicima Bijele kuće, označavajući preokret u odnosima s administracijom. Povod sastanku bile su iznimne sposobnosti modela Mythos u otkrivanju sigurnosnih ranjivosti, što je privuklo interes civilnih agencija unatoč nedavnim zabranama Pentagona.
Ključni detalji
Tijekom internih testiranja, Mythos je pronašao tisuće prethodno nepoznatih ranjivosti visoke ozbiljnosti u svim vodećim operativnim sustavima i web preglednicima. Pronašao je 27-godišnju grešku u OpenBSD-u i 16-godišnju manu u FFmpegu koja je prošla milijune automatiziranih testiranja bez detekcije. Zbog toga je model dostupan samo odabranoj skupini organizacija kroz "Project Glasswing".
Zašto je to važno
Iako je administracija prvotno označila Anthropic rizičnim za opskrbni lanac i zabranila poslovanje s njim, napredne mogućnosti modela Mythos natjerale su ih na preispitivanje. Civilne agencije zadužene za ključne sektore, poput energetske i financijske infrastrukture, iznimno su zainteresirane za korištenje ovog modela.
Tehnička pozadina
Mythos nije specifično treniran za zadatke sigurnosti. Njegove sposobnosti rezultat su općih unaprjeđenja:
- Poboljšano logičko zaključivanje omogućava dublju analizu koda.
- Sposobnost autonomnog identificiranja i iskorištavanja softverskih ranjivosti proizlazi iz općeg razumijevanja programiranja.
- Model se koristi proaktivno kako bi se pronašle ranjivosti prije zlonamjernih aktera.
Širi kontekst
Ova situacija ukazuje na problem dvostruke namjene naprednih AI modela. S jedne strane mogu poslužiti napadačima, dok su s druge neophodni za obranu sustava. Rasprava se vodi oko toga može li SAD ignorirati ovakav alat s obzirom na globalne sigurnosne izazove, a trenutno se ulažu napori u jačanje obrambenih kapaciteta infrastrukture.
Što slijedi
Očekuje se da će ostali odjeli unutar vlade dobiti pristup Mythos modelu radi testiranja svojih obrana. Istovremeno ostaje neizvjesno hoće li Pentagon ukinuti svoje sankcije, no Bijela kuća nastavlja s pregovorima.
Izvor: AI News Objavljeno na portalu Umjetna Inteligencija Blog by ShtefAI, autor: Shtef
