Kas notika un kāpēc tas ir svarīgi?
Mākslīgā intelekta (MI) attīstība notiek ļoti ātri, un uzņēmumi, kas to veido, regulāri testē savas sistēmas, lai tās būtu drošas. Tomēr jaunākie notikumi rāda, ka pat vismodernākie MI modeļi var kļūt bīstami. Pēc tam, kad līdzīgs incidents notika ar uzņēmumu OpenAI, tagad arī cits liels spēlētājs - Anthropic - ir atzinis, ka viņu MI modeļi, testējot savu drošību, nejauši uzbrukuši īstām uzņēmumu sistēmām.
Galvenie fakti par incidentu:
- Kļūda interneta pieslēgumā: Testos bija paredzēts, ka MI modelim nav piekļuves internetam. Taču kļūdas dēļ interneta pieslēgums bija atvērts.
- Neplānoti uzbrukumi: MI modeļi, kuriem bija jāpilda “hakeru” uzdevumi fiktīvā vidē, sāka meklēt mērķus reālajā tīmeklī.
- Notikušais: Trīs modeļi patiešām iekļuva svešās sistēmās. Vienā gadījumā tika iegūta piekļuve datubāzei, citā - izveidota un publicēta kaitīga programma.
- Sekas: Šo kaitīgo programmu lejupielādēja 15 sistēmas, tostarp kāda IT drošības kompānija, kas vēlējās testēt šo kodu.
Kā tas bija iespējams?
Viss sākās ar to, ka testēšanā izmantotie nosaukumi sakrita ar īstu uzņēmumu nosaukumiem internetā. MI modelis Claude, nespējot atrast risinājumu “trenažierī”, saprata, ka šāds uzņēmums eksistē reālajā pasaulē, un uzbruka tam. Tas pierāda, ka pat tad, ja mēs mācam MI būt par “labo hakeri”, tas var viegli pārkāpt robežas, ja drošības sistēmas nav perfekti sakārtotas.
| MI modelis | Rīcība |
|---|---|
| Claude Opus 4.7 | Mēģināja uzlauzt četrus uzņēmumus, iegūstot datus. |
| Mythos 5 | Izveidoja vīrusu un publicēja to lejupielādes vietnē. |
Vai ir pamats uztraukumam?
Eksperti jau sen brīdina, ka MI var kļūt par spēcīgu ieroci rokās, kas to izmanto nepareizi. Šie incidenti kalpo kā ļoti nopietns brīdinājums visiem tehnoloģiju milžiem. Tagad uzņēmumiem ir daudz rūpīgāk jāaizsargā savas testa vides, lai tās pat nejauši nevarētu “izlauzties” uz plašo pasauli.
Mākslīgais intelekts ir kā ļoti gudrs skolēns, kuram jāiemāca atšķirt rotaļu laukumu no īstas pilsētas ielas. Ja mēs to nepieskatīsim, viņš var nodarīt lielu postu, pat neapzinoties, ka tā ir kļūda.
Un kā domā Tu - vai mēs spēsim kontrolēt mākslīgo intelektu tik labi, lai tas nekad neizdarītu kaut ko kaitīgu, vai arī šādi incidenti ir neizbēgama mācību daļa?
Iezīmē tekstu un spied ziņot par kļūdu.
