Daudzi uzņēmumi kļūdaini domā, ka Eiropas Savienības Mākslīgā intelekta akta (AI Act) noteikumi par augsta riska mākslīgo intelektu (MI) ir atlikti līdz 2027. gadam. Realitāte ir citādāka - daži MI pienākumi, īpaši tie, kas saistīti ar pārredzamību, stājas spēkā jau ļoti drīz. Tas nozīmē, ka SAP klienti, kas izmanto rīkus kā SAP Joule vai paši izstrādātus MI aģentus, nedrīkst atlikt gatavošanos.
MI akts: Steidzami datumi, ko nedrīkst palaist garām
Tā sauktais “Digital Omnibus” patiešām atliek būtisku MI pienākumu piemērošanu augsta riska MI sistēmām: neatkarīgām augsta riska MI sistēmām (saskaņā ar III pielikumu) līdz 2027. gada 2. decembrim, bet noteiktām augsta riska MI sistēmām produktu kontekstā līdz 2028. gada 2. augustam. Taču ir būtiski atcerēties, ka pārredzamības pienākumi saskaņā ar ES MI akta 50. pantu kļūst aktuāli jau no 2026. gada 2. augusta.
Praktiski tas nozīmē, ka, sākot ar šo datumu, uzņēmumiem, kas nodrošina vai izmanto MI sistēmas, ir jāpārbauda, vai personas ir jāinformē par mijiedarbību ar MI un vai ir jāievēro īpašas pārredzamības prasības attiecībā uz mākslīgi radītu vai manipulētu saturu. Piemēram, SAP Joule saskarnē vai pašu izstrādātā aģentā varētu būt skaidrs paziņojums: “Jūs mijiedarbojaties ar MI balstītu asistentu. Pirms biznesa lēmuma pieņemšanas pārbaudiet rezultātus.” Mākslīgi radītiem vai manipulētiem attēliem, audio un video saturam, kā arī dažiem publicētiem MI ģenerētiem tekstiem var būt nepieciešamas marķēšanas vai atklāšanas prasības.
Jāņem vērā arī tas, ka Komisijas tiesības piemērot sodus attiecībā uz vispārēja lietojuma MI modeļu (GPAI modeļi) nodrošinātājiem stājas spēkā. Šeit var tikt piemēroti naudas sodi līdz 15 miljoniem eiro vai 3 procenti no pasaules gada apgrozījuma. Tas gan attiecas uz GPAI modeļu nodrošinātāju līmeni, nevis automātiski uz SAP klientu, kurš Joule izmanto savā darbībā.
Kurš ir atbildīgs par MI? SAP vai klients?
Atbildība gulstas uz abiem, bet dažādās jomās. ES MI akts atšķir divas galvenās lomas:
- Nodrošinātājs (Provider): Persona vai uzņēmums, kas izstrādā vai liek izstrādāt MI sistēmu un laiž to tirgū vai nodod ekspluatācijā ar savu nosaukumu. Nodrošinātājs ir atbildīgs par atbilstības novērtēšanu, tehnisko dokumentāciju un riska pārvaldību. SAP parasti ir nodrošinātājs attiecībā uz Joule funkcijām.
- Operatoris (Deployer): Persona vai uzņēmums, kas patstāvīgi izmanto MI sistēmu. Klients kļūst par operatoru, ja viņš izmanto Joule vai pašu izstrādātus Joule Studio aģentus savos biznesa procesos.
Atbildības apjoms klientam ir atkarīgs no konkrētā izmantošanas gadījuma, paša lomas un riska klasifikācijas. Prasības, piemēram, cilvēka uzraudzība, žurnālu glabāšana vai iespējama pamattiesību ietekmes novērtēšana, ir īpaši svarīgas augsta riska MI gadījumos. Ja klients pats izstrādā aģentus un nodod tos ekspluatācijā ar savu nosaukumu vai zīmolu (vai citiem uzņēmumiem/trešajām personām), viņš var tikt klasificēts arī kā nodrošinātājs, ar ko saistās plašāki nodrošinātāja pienākumi.
Praktiskie soļi: 4 lietas, kas jādara jau tagad
Lai sagatavotos gaidāmajām izmaiņām, SAP klientiem ir jāsāk ar četriem galvenajiem uzdevumiem:
- Skaidrība par MI vidi: Uzņēmumiem ir jāidentificē visi Joule izmantošanas gadījumi, pašu izstrādātie aģenti, kā arī pievienotie MI modeļi vai MCP serveri. Katram gadījumam ir jābūt skaidrai atbildīgajai personai, izmantotajiem datiem, atļautajām darbībām un tam, vai tas ietekmē personas vai kritiskus biznesa procesus.
- Lietošanas gadījumu juridiska un organizatoriska klasifikācija: Nav mērķis katru Joule izmantošanu steigšus klasificēt kā augsta riska MI. Drīzāk ir jānosaka uzņēmuma loma (nodrošinātājs/operators), konkrētais mērķis, riska klase un piemērojamie pārredzamības pienākumi (Art. 50).
- Riska balstīta apstiprināšanas un kontroles koncepcija: Īpaši aģentiem, kas piekļūst uzņēmuma datiem, veic procesu posmus vai sagatavo biznesam kritiski svarīgus lēmumus, ir nepieciešamas skaidras atļaujas, dokumentēti apstiprinājumi, žurnālēšana, eskalācijas ceļi un, ja riska un pielietojuma apjoms to prasa, cilvēka kontroles un lēmumu pieņemšanas punkti.
- Mākslīgā intelekta pratības veidošana: Uzņēmumiem jānodrošina, ka darbinieki, kas izmanto vai uzrauga MI sistēmas, ir pietiekami kompetenti. Tas nenozīmē obligātu sertifikācijas programmu visiem, bet gan mērķtiecīgu apmācību. Speciālistiem jāmācās pareizi interpretēt rezultātus, IT un drošības speciālistiem jākontrolē datu piekļuve un integrācijas, bet atbilstības nodaļai - jānovērtē riski.
SAP AI Agent Hub: Rīks palīdzībai
SAP AI Agent Hub var nodrošināt tehnisko pamatu pirmajiem trim punktiem. SAP to pozicionē kā ražotāja neitrālu risinājumu aģentu, kā arī MCP serveru atklāšanai, inventarizācijai un pārvaldībai. Tas atbalsta strukturētus novērtējumus, tostarp riska klasifikāciju un atbilstības piešķiršanu. Tomēr ir svarīgi saprast, ka šis rīks atbalsta pārvaldību, bet neaizstāj uzņēmuma lēmumus. Kuri aģenti tiek atļauti, kādi riski ir pieņemami un kā tiek organizēta cilvēka uzraudzība, ir jālemj katram uzņēmumam pašam.
Neatliec uz rītdienu to, ko vari darīt jau šodien! Vai Tavs uzņēmums ir gatavs jaunajām MI akta prasībām, vai arī vēl nepieciešama gatavošanās?
Iezīmē tekstu un spied ziņot par kļūdu.
