AI saturs drošāks: Mistral “Shieldstral” un jaunā moderācijas tehnika

AI saturs drošāks: Mistral “Shieldstral” un jaunā moderācijas tehnika

Mākslīgā intelekta (AI) radītā satura drošība un moderācija ir kļuvusi par vienu no aktuālākajām tēmām tehnoloģiju pasaulē. Kā nodrošināt, lai AI neradītu kaitīgu, neētisku vai nepiemērotu saturu? Franču AI inovāciju līderis Mistral AI ir nācis klajā ar jaunu risinājumu - modeli “Shieldstral”, kas sola revolucionizēt pieeju satura drošības klasifikācijai, padarot to elastīgāku un efektīvāku.

Kas ir Shieldstral un kā tas darbojas?

“Shieldstral” ir Mistral AI izstrādāts drošības modelis, kas vienkāršo ar AI ģenerēta satura moderāciju. Līdzšinējās sistēmas bieži balstījās uz stingriem, iepriekš definētiem kategoriju sarakstiem, kas ierobežoja to spēju pielāgoties dažādām situācijām. “Shieldstral” piedāvā pilnīgi jaunu, daudz dinamiskāku pieeju: tā vietā, lai izmantotu fiksētas kategorijas, modelis paļaujas uz elastīgu “jautājumu-atbilžu” sistēmu.

Praksē tas nozīmē, ka satura moderatori vai platformu operatori var formulēt savas moderācijas vadlīnijas kā dabiskās valodas jautājumus, piemēram: “Vai šis saturs aicina uz reālu vardarbību?” Vai “Vai šis teksts satur cieņu aizskarošus apzīmējumus?”. Pēc tam “Shieldstral” analizē attiecīgo AI ģenerēto saturu (tekstu, attēlus, utt.) un atgriež “drošības rādītāju” (Safety-Score), pamatojoties uz kuru var pieņemt lēmumu, vai saturs ir apstiprināms vai noraidāms.

Kāpēc šī pieeja ir efektīvāka?

Šāda pieeja sniedz divas būtiskas priekšrocības:

• Liela elastība un pielāgojamība: “Shieldstral” ļauj operatoriem viegli pielāgot un mainīt savas moderācijas vadlīnijas jebkurā laikā. Tas ir īpaši svarīgi strauji mainīgā digitālajā vidē, kur standartu un konteksta izpratne var ātri attīstīties.
• Labāka konteksta izvērtēšana: Modelis spēj labāk novērtēt satura kontekstu. Piemēram, vēsturisku citātu izmantošana lekcijā par koncentrācijas nometnēm ir nepieciešama un pieņemama, kamēr tas pats citāts privātā blogā varētu būt ļoti kritizējams. Iepriekšējie modeļi ar fiksētām taksonomijām bieži vien nespēja šādas nianses pareizi interpretēt, jo satura pieļaujamība bija stingri piesaistīta kategorijām, nevis kontekstam.

Tehniskā puse un veiktspēja

Mistral AI apgalvo, ka “Shieldstral” ar šo jauno pieeju sasniedz tādu pašu veiktspēju kā modeļi, kas ir septiņas reizes lielāki. Tas ir iespaidīgs sasniegums, kas nodrošina augstu efektivitāti, patērējot mazāk resursu. “Shieldstral” spēj darboties uz standarta 16 GB Nvidia GPU, padarot to pieejamāku plašākam izstrādātāju lokam.

Modelis ir balstīts uz Mistral pašu “Ministral-3B-Base-2512” kausālo valodu modeli un izmanto “Pixtral-Vision-Encoder” attēlu apstrādei. Ar 3 miljardiem parametru tas ir pieejams ar Apache-2.0 licenci kā atvērtā koda svars (Open Weights) platformā Hugging Face.

Mistral ir pazīstams ar saviem atvērtā koda AI modeļiem, un šis solis vēlreiz apliecina uzņēmuma apņemšanos veicināt AI drošību caur atvērtību un inovācijām. Nesen uzņēmums prezentēja arī “Leanstral 1.5”, kas optimizēts matemātiskiem pierādījumiem un formālai verifikācijai, parādot Mistral plašo specializāciju AI izstrādē.

Kā Tev šķiet, vai elastīgāka pieeja AI satura moderācijai ir ceļš uz priekšu?