ASV valdība ir nākusi klajā ar jaunu, nozīmīgu testēšanas ietvaru jaudīgiem mākslīgā intelekta (KI) modeļiem, un tā mērķis ir sabalansēt inovācijas veicināšanu ar nacionālās drošības risku mazināšanu. Tomēr lēmums pagaidām izņemt no kiberdrošības pārbaudēm tā dēvētos “open-weight” modeļus raisa jautājumus par šīs stratēģijas ilgtermiņa ietekmi uz globālo KI attīstību un drošību. Ko tas patiesībā nozīmē tehnoloģiju nozarei un gala lietotājiem?
Kāpēc atvērtā koda KI modeļi paliek ārpus radara?
Vācu portāls heise.de ziņo, ka Baltais nams ir prezentējis savu jauno pārbaudes ietvaru vadošo KI uzņēmumu pārstāvjiem. Lai gan Vašingtonā pieaug bažas par arvien jaudīgākiem, brīvi pieejamiem un lētiem modeļiem (īpaši no Ķīnas), ASV valdība vēlas arī veicināt vietējo atvērto modeļu attīstību, lai nezaudētu pozīcijas tehnoloģiskajā konkurencē.
Šis lēmums izņemt “open-weight” modeļus no kiberdrošības pārbaudēm ir nedēļām ilgu debašu rezultāts Trampa administrācijas iekšienē. Šķiet, ka ir uzvarējuši tie, kas atbalsta inovācijai draudzīgāku kursu, vismaz pagaidām.
Steidzama rīcība pēc kiberincidentiem
Steidzamību šīm regulām piešķīra nesenie drošības incidenti. OpenAI un Anthropic KI modeļi testos veiksmīgi iekļuva citu uzņēmumu sistēmās, atklājot potenciālās ievainojamības, ko var radīt nepietiekami pārbaudīti AI rīki. Jaunais ietvars ir paredzēts, lai noteiktu, kā ASV valdība pārbaudīs īpaši jaudīgus KI modeļus pirms to publiskošanas.
Kā notiks brīvprātīgās pārbaudes?
Saskaņā ar mediju ziņām, uzņēmumi var brīvprātīgi iesniegt savus modeļus pārbaudei līdz 30 dienām pirms plānotās publiskošanas. Pēc iesniegšanas, valdības iestādes novērtēs modeļu kiberdrošības spējas, izmantojot slepenu etalonuzdevumu sistēmu. Modeļi tiks uzglabāti īpaši aizsargātā vidē, kur tiks reģistrēta piekļuve un tā tiks ierobežota mazam personu lokam. Lai gan dalība ir brīvprātīga, uzņēmumiem, kas atteiksies, draud ievērojami riski, ja nākotnē notiks drošības incidenti.
Kas ir “Frontier” modelis un kāpēc trūkst skaidrības?
Pārbaudes ietvars attiecas uz tā dēvētajiem “Frontier modeļiem”. Tie ir definēti kā slēgtas sistēmas ar maksimālām spējām un riskiem nacionālajai drošībai. Tomēr trūkst konkrētu sliekšņu vai kritēriju, kas padara šo definīciju neskaidru. Pašlaik tas skartu galvenokārt tādus uzņēmumus kā OpenAI un Anthropic, kamēr mazāk jaudīgas sistēmas un visi “open-weight” modeļi paliktu ārpus šī ietvara.
Slepenība rada jautājumus par uzticību
Viens no strīdīgākajiem aspektiem ir pārbaudes ietvara slepenība. Detaļas ir pieejamas tikai iesaistītajiem uzņēmumiem, kas nozīmē, ka startapi, neatkarīgi pētnieki un ārvalstu valdības paliek neziņā par konkrētajiem novērtēšanas kritērijiem. Tas var radīt neuzticību un nevienlīdzīgus konkurences apstākļus.
Šis pārbaudes ietvars ir balstīts uz prezidenta dekrētu no 2. jūnija, kas uzdeva vairākām drošības un kiberdrošības aģentūrām 60 dienu laikā izstrādāt klasificētu pārbaudes procedūru un brīvprātīgu ietvaru. Dekrēts skaidri izslēdz obligātu apstiprināšanu.
Lai gan ASV cenšas atrast līdzsvaru starp inovāciju un drošību, vai slepenība un atvērto modeļu izņēmums ir pareizākais ceļš uz drošu un atbildīgu KI nākotni? Kādu ietekmi šī politika atstās uz globālo KI ainavu un vai tā veicinās vai bremzēs tehnoloģiju attīstību?
Iezīmē tekstu un spied ziņot par kļūdu.
