Mākslīgais intelekts uzbrūk, mākslīgais intelekts aizstāv: jauna kiberdrošības ēra
Mēs esam nonākuši jaunā digitālās drošības ērā, kurā mākslīgais intelekts vairs nav tikai rīks aizsardzībai, bet arī potenciāls uzbrucējs. Nesenais incidents ar platformu Hugging Face, kas ir pazīstama kā atvērtā koda AI modeļu un datu kopu centrs, ir tam spilgts apliecinājums. Uzbrukumu veica autonoma AI sistēma, un interesanti, ka to lielā mērā atklāja un analizēja arī mākslīgais intelekts.
Kā AI uzbruka AI: Sīkas detaļas
Hugging Face komanda pagājušajā nedēļā atklāja iejaukšanos savā ražošanas infrastruktūrā. Atšķirībā no iepriekšējiem incidentiem, šis uzbrukums bija unikāls - to pilnībā veica autonoma AI. Uzbrucēja AI mērķēja uz datu apstrādes sistēmu un iesniedza ļaunprātīgu datu kopu. Šī datu kopa izmantoja divus koda izpildes ceļus: attālās koda datu kopas ielādētāju un veidnes injekciju datu kopas konfigurācijā. Tas ļāva uzbrucējam izpildīt savu kodu darba procesā.
Iegūstot piekļuvi sistēmas mezgliem, uzbrucējs spēja iegūt mākoņa un klastera piekļuves datus. Tālāk uzbrucējs izplatījās vairākos iekšējos klasteros, demonstrējot augstu sarežģītības pakāpi un autonomiju. Sākotnējā analīze liecina, ka partneru vai klientu dati nav ietekmēti, tomēr Hugging Face turpina izmeklēšanu un apņemas tieši sazināties ar visiem, ko tas varētu skart. Pozitīvi ir tas, ka nav atrasti pierādījumi par publisko modeļu, datu kopu vai “Spaces” manipulāciju, un programmatūras piegādes ķēde (piemēram, konteineru attēli un publicētās paketes) ir pārbaudīta un atzīta par tīru.
Uzbrucējas AI inteliģence un tās rīcības ietvars
Šo kampaņu virzīja tā sauktais “autonomā aģenta ietvars”, kas, šķiet, bija ieprogrammēts aģentūras drošības pētījumiem un izmantoja līdz šim nezināmu lielo valodu modeli (LLM). Uzbrukums tika veikts, izpildot tūkstošiem atsevišķu darbību, izmantojot īslaicīgu “smilškastu” (sandbox) kopumu. Interesanti, ka uzbrucējas AI komandu un kontroles infrastruktūra pati migrējās un paļāvās uz publiskajiem pakalpojumiem. Tas precīzi atbilst “aģenta uzbrucēja” scenārijam, ko IT drošības nozare jau sen ir prognozējusi.
Ātra reakcija un nākotnes drošība
Reaģējot uz uzbrukumu, Hugging Face nekavējoties slēdza visas ievainojamības, kas ļāva izpildīt kodu datu kopu apstrādē. Uzbrucēji tika izmesti no tīkla, un kompromitētie mezgli tika atjaunoti. Tika nomainīti un atsaukti visi apdraudētie piekļuves dati un “tokeni”. Turklāt tika ieviesti jauni drošības mehānismi un stingrākas kontroles klasteros, kā arī saasināti atklāšanas un brīdinājuma mehānismi.
Hugging Face iesaka visiem lietotājiem atsaukt un nomainīt savus piekļuves datus un “tokenus”, kā arī pārbaudīt nesenās konta darbības. Šis gadījums ir brīdinājums par to, cik ātri attīstās kiberuzbrukumu veidi un cik svarīgi ir nepārtraukti stiprināt digitālo drošību.
Kā Tu vērtē šo AI uz AI uzbrukumu? Vai tas liek Tev justies drošāk vai nedrošāk digitālajā pasaulē?
Iezīmē tekstu un spied ziņot par kļūdu.
