Kāpēc valsts iestādēm nepieciešams īpašs AI vērtējums?
Mūsdienās mākslīgais intelekts (AI) strauji ienāk visās dzīves jomās, tostarp publiskajā pārvaldē. Taču kā nodrošināt, ka valsts iestādēs izmantotā AI sistēma kalpo sabiedrībai godīgi, droši un uzticami? Vācu ekspertu pieredze rāda, ka nepietiek ar vispārīgiem AI modeļu veiktspējas rādītājiem, kas bieži vien fokusējas uz angļu valodas izpratni, matemātiskām spējām vai vispārīgām zināšanām.
Publiskajā pārvaldē ir kritiski svarīga precīza vietējās valodas izpratne, tiesiskā paļaujamība, datu drošība un saskaņa ar valsts un Eiropas Savienības demokrātiskajām vērtībām. Piemēram, AI modelim ir jāsaprot sarežģīti juridiskie teksti un jāspēj sniegt atbildes, kas ir ne tikai loģiskas, bet arī juridiski precīzas un atbilstošas vietējai likumdošanai. Tas ir īpaši aktuāli arī Latvijai, kur valodu un tiesisko nianšu izpratne ir būtiska efektīvai un taisnīgai pārvaldei.
“Möve”: Inovatīva AI modeļu salīdzināšanas platforma
Lai risinātu šo specifisko izaicinājumu, Vācijas valsts uzņēmums “Bundesdruckerei” (kas pilnībā pieder Vācijas federālajai valdībai) uzsāka pētniecības un inovāciju projektu “Möve”. Tā nosaukums - “Modelle für die öffentliche Verwaltung evaluieren” (Modeļu novērtēšana publiskajai pārvaldei) - precīzi raksturo projekta mērķi.
Projekts, kas tika uzsākts jau 2025. gadā, ir pirmā visaptverošā AI modeļu salīdzināšanas platforma, kas pielāgota tieši valsts un pašvaldību iestāžu vajadzībām. Pašlaik tajā tiek salīdzināti vairāk nekā 50 lielo valodu modeļi (LLM), piemēram, GPT, Gemma, Llama, Claude, DeepSeek un Mistral, lai izvērtētu to piemērotību darbam ar sensitīviem datiem un sarežģītiem administratīviem procesiem.
Kritēriji, kas nodrošina uzticamību un caurspīdīgumu
“Möve” metodika apvieno veiktspējas mērījumus ar sarežģītām regulatīvām prasībām. Tiek izmantoti deviņi speciāli izstrādāti, vācu valodā veidoti testu datu kopumi, kas iegūti no reālas administratīvās prakses - juridiskie teksti, oficiālie dokumenti un federālo ministriju publikācijas. Šie dati nodrošina, ka vērtējums atspoguļo reālas pārvaldes vajadzības un izaicinājumus.
- Precizitāte: Cik labi modelis spēj precīzi apkopot garus dokumentus, atbildēt uz specifiskiem jautājumiem vai veikt tematisko analīzi, izmantojot vairākus dokumentus.
- Faktu ticamība: Tiek analizēts, cik bieži modelis “halucinē” jeb ģenerē šķietami ticamu, bet faktiski nepatiesu informāciju, kas varētu radīt kļūdainus administratīvos lēmumus.
- Ilgtspēja un resursu efektivitāte: Cik ekonomiski modelis darbojas un kādu enerģijas patēriņu tas prasa.
- Caurspīdīgums un saderība: Cik caurspīdīgs ir modeļa darbības princips un vai tas atbilst ES demokrātiskajām vērtībām un AI regulas prasībām par datu aizsardzību un ētiku.
Pašlaik labākos rezultātus vispārējā salīdzinājumā uzrāda Gemma4 un GPT-40, bet Eiropas modelis Mistral Small 3.1 ierindojas top desmitniekā. “Bundesdruckerei” izpilddirektors Frederiks Blaheta uzsver, ka starptautiskie reitingi nav pietiekami, jo svarīga ir uzticamība vietējā tiesiskajā un valodu kontekstā, ko “Möve” projekts precīzi mēra.
Sadarbība drošībai un nākotnes izaicinājumiem
Projekts tiks nepārtraukti paplašināts, īpašu uzmanību pievēršot IT drošībai. “Bundesdruckerei” cieši sadarbojas ar Vācijas Federālo informācijas drošības biroju (BSI) un Fraunhofer AISEC institūtu. Šī sadarbība ir ļoti svarīga, jo, lai gan jaudīgi AI modeļi var palīdzēt kiberaizsardzībā, tos var arī ļaunprātīgi izmantot automatizētiem uzbrukumiem. Tāpēc agrīna risku analīze ir absolūti nepieciešama.
Luīze Kraniha no BSI norāda, ka mērāmi salīdzināšanas standarti ir būtiski, lai lēmumi netiktu pieņemti, balstoties tikai uz “vēdera sajūtu”. Lai nodrošinātu maksimālu caurspīdīgumu, visa “Möve” novērtēšanas metodika ir brīvi pieejama kā atvērtā koda krātuve GitHub, un rezultāti ir publiskoti projekta mājaslapā. Tas ļauj ikvienam iepazīties ar vērtēšanas principiem un secinājumiem.
Šāds visaptverošs AI modeļu tests ir nozīmīgs solis ceļā uz uzticamāku un drošāku digitālo pārvaldi. Tas palīdz aizsargāt pilsoņus no kļūdainiem algoritmu lēmumiem, neobjektīviem rezultātiem un datu noplūdēm, veidojot pamatu viedākai un atbildīgākai valsts pārvaldei.
Kā Tev šķiet, vai Latvijai būtu nepieciešams līdzīgs AI novērtēšanas rīks publiskajai pārvaldei?
Iezīmē tekstu un spied ziņot par kļūdu.
