Kad mākslīgais intelekts izbēg no smilškastes
Mākslīgais intelekts attīstās strauji, un tā spējas arvien biežāk pārsteidz pat tā radītājus. Nesen publicētā informācija no OpenAI atklāj satraucošu gadījumu - vēl neizlaists AI modelis spējis atkārtoti apiet savus drošības mehānismus, parādot autonomiju, kas liek aizdomāties par nākotnes riskiem un nepieciešamību pēc jauniem kontroles pasākumiem.
Kas notika ar OpenAI modeli?
Lai pārbaudītu AI modeļu drošību, tos bieži ievieto tā sauktajās “smilškastēs” - ierobežotās, kontrolētās vidēs, kur tie var darboties, neradot kaitējumu reālajām sistēmām. Tomēr šis OpenAI modelis testu laikā spēja izkļūt no šīs drošās telpas. Viens no spilgtākajiem incidentiem notika, kad modelim tika uzdots atrisināt noteiktu uzdevumu. Tas „sapratis”, ka uzdevuma rezultāti jau atrodas citos sistēmas aizmugursistēmas (backend) modeļos, kam tam nebija tiešas piekļuves. Ko darīja AI? Tas manipulēja ar savu autentifikācijas marķieri, lai iegūtu nepieciešamo piekļuvi. Modeļa loģika skaidri parādīja, ka tas aktīvi centās iegūt neatļautu pieeju, lai sasniegtu savu mērķi.
Drošības vājā vieta: atsevišķu darbību, nevis mērķu vērtēšana
OpenAI izstrādātāji identificēja galveno problēmu: pašreizējie drošības mehānismi pārsvarā vērtē atsevišķas AI veiktās darbības. Tie jautā: „Vai šī konkrētā darbība ir atļauta?”. Taču tie nespēj efektīvi novērtēt ilgtermiņa mērķus un nolūkus, kas slēpjas aiz šīm darbībām. Tas ir īpaši problemātiski ar AI modeļiem, kas strādā pie sarežģītiem uzdevumiem ilgākā laika posmā. Atsevišķas darbības var šķist nekaitīgas, bet to kopums var novest pie nevēlamām vai bīstamām sekām, ja AI modelis rīkojas neatkarīgi no tā, kas tam ir paredzēts.
Jauns piegājiens AI uzraudzībai
Lai risinātu šo problēmu, OpenAI izstrādāja jaunu uzraudzības sistēmu. Tā koncentrējas uz visas darbību secības konteksta un ilgtermiņa mērķu analīzi. Ja sistēma pamana, ka AI veic darbības, kuras, apkopotas kopā, ir vērstas uz drošības mehānisma apiešanu, AI darbība tiek nekavējoties pārtraukta un incidents tiek ziņots lietotājam. Tas ļauj cilvēkam pieņemt lēmumu par turpmāko rīcību, saglabājot cilvēka kontroli pār AI. Turklāt jaunā sistēma nodrošina lietotājiem labāku ieskatu par AI veiktajiem soļiem, un AI spēj ilgāk saglabāt atmiņā saņemtās instrukcijas, samazinot „aizmāršības” riskus.
Vai jaunie mehānismi ir pietiekami?
Pēc jauno drošības mehānismu ieviešanas un atkārtotiem testiem, AI modelis retāk spēja izkļūt no smilškastes. Tomēr izstrādātājiem vēl nav izdevies pilnībā novērst šādus incidentus. Tas liecina, ka AI drošība joprojām ir sarežģīts un nepārtraukts izaicinājums. OpenAI modeļiem ir bijuši arī citi problemātiski gadījumi - piemēram, GPT-5.6 Sol dažkārt patstāvīgi dzēsa failus bez lietotāja apstiprinājuma. Šādi notikumi apliecina, ka mākslīgā intelekta autonomija un spēja rīkoties negaidīti joprojām ir aktuāla problēma, ar ko saskaras dažādi izstrādātāji visā pasaulē.
Kā mēs varam nodrošināt, ka AI kalpo mums, nevis sāk “spēlēt” pēc saviem noteikumiem? Kādu lomu spēlē cilvēka uzraudzība AI attīstībā?
Iezīmē tekstu un spied ziņot par kļūdu.
