Superintelekta laikmeta cilvēka un demokrātiskās varas preventīvās aizsardzības arhitektūra HED-PPA–MI 2.0 ; The Architecture of Preventive Protection for Humans and Democratic Power in the Era of Superintelligence

 

Superintelekta laikmeta cilvēka un demokrātiskās varas preventīvās aizsardzības arhitektūra

HED-PPA–MI 2.0

 

Mākslīgais intelekts nedrīkst kļūt par varas instrumentu, kas cilvēkam atņem spēju brīvi domāt, izvēlēties, būt opozīcijā. Tas ir jāiestrādā demokrātijas aizsardzības un noturības sistēmā, pirms vēl šāds kritisks apdraudējums nav kļuvis nenovēršams.

Eiropas Savienības Omnibus tiesību aktu paketē iestrādātie noteikumi jau aizliedz vairākas MI izmantošanas formas, kas saistītas ar manipulāciju, ievainojamību izmantošanu un noteiktiem cilvēku vērtēšanas veidiem. No 2026. gada 2. augusta sākušas funkcionēt MI akta papildinātās ieviešanas un uzraudzības nostādnes.

Respektējot ES MI akta prasības, balstoties uz Humānās demokrātijas preventīvās pārvaldības arhitektūras un Vēlētāja gudras izvēles platformas (HED-PPA/VGIP) darba rezumējumu  un rēķinoties ar modernā laikmeta izaicinājumiem, piedāvāju izstrādāt piecas aizsardzības līnijas.

1. Jāaizsargā ne tikai dati, bet cilvēka brīvā izvēle

Digitālās sabiedrības nākotnes galvenais jautājums nebūs “Vai MI drīkst izmantot?”, bet “Ko MI nekādā gadījumā nedrīkst darīt attiecībā uz cilvēku?”

Piemēram:

• psiholoģiski profilēt cilvēkus;
• individuāli manipulēt ar viņu politisko izvēli;
• radīt mākslīgus “sabiedrības vairākuma” iespaidus;
• sistemātiski identificēt cilvēku vājās vietas un izmantot tās politiskai ietekmēšanai;
• automatizētā veidā klasificēt cilvēkus kā “vēlamus” un “nevēlamus” pilsoņus;
• izmantot MI, lai faktiski aizstātu cilvēka politisko spriestspēju.

Vēlētāja gudras izvēles platformas (VGIP) filosofija

“MI var palīdzēt cilvēkam analizēt informāciju, bet nedrīkst pieņemt politisko lēmumu viņa vietā”.

2. Jāizveido demokrātiskais drošības slānis

Tā ir loģiska HED-PPA nākamā attīstības pakāpe:

MI → riska analīze → cilvēktiesību/ētikas pārbaude → demokrātijas pārbaude → publiska auditējamība → cilvēka galīgais lēmums.

Tas būtiski atšķiras no modeļa:

Politiskā vara → MI → kontrole pār cilvēkiem.

Eiropas Padomes ietvars un pieeja mākslīgā intelekta sistēmu risku un ietekmes uz cilvēktiesībām, demokrātiju tiesiskumu novērtēšanai (HUDERIA)  jau paredz sistemātiski analizēt MI ietekmi uz cilvēktiesībām, demokrātiju un tiesiskumu, ieskaitot risku identificēšanu, ietekmes novērtēšanu, iesaistīto pušu līdzdalību un risku mazināšanas plānu.

Tāpēc Konstitucionālās un ētiskās atbilstības sistēmas (KOIS) ideju ir vērts attīstīt no “ētiskas atbilstības sistēmas” par MI demokrātiskās drošības filtru.

3. Īpaši jāuzrauga varas koncentrācija

Visbīstamākā kombinācija nav MI + slikts cilvēks, bet daudz bīstamāk ir MI + politiskā vara + neierobežots  varai pieejamais datu apjoms + kontroles infrastruktūra + minimāla institucionālā caurskatāmība.

Tāpēc, organizējot šāda tipa preventīvo sistēmu, jābūt skaidrībai par to:

• Kam pieder sistēma?
• Kam ir pieeja datiem?
• Kas drīkst mainīt algoritmu?
• Kas var apturēt sistēmu?
• Kas to auditē?
• Vai pilsonis var apstrīdēt MI ietekmētu lēmumu?
• Vai pastāv neatkarīgs “stop” mehānisms?
• Vai sabiedrība zina, kur MI tiek izmantots?

Tieši šādas prasības par pārredzamību, uzraudzību, atbildību un iespēju apstrīdēt MI ietekmētus lēmumus jau ir ietvertas Eiropas Padomes MI konvencijas pieejā.

4. Vajadzīgs “MI varas koncentrācijas agrīnās brīdināšanas panelis”

Šādi tiktu izveidota tieša saikne starp MI situācijas analīzi &  prognozēšanu un Agrīnās brīdināšanas sistēmu =  (SAP–MI / EWS).

EWS – demokrātijas agrīnās brīdināšanas sistēmas (Early Warning System) mērķfunkcija ir kontrolēt varas un MI mijiedarbības riskus.

Piemēram, sistēma nosaka un izvērtē indikatorus:

A. Manipulācija
→ personalizēta politiskā ietekmēšana
→ dziļviltojumu kampaņas
→ koordinēta dezinformācija

B. Uzraudzība
→ sociāli nesamērīga iedzīvotāju datu apkopošana
→ biometriska izsekošana
→ politisko uzskatu profilēšana

C. Varas koncentrācija
→ valdošais režīms, valsts institūcijas vai MI tehnoloģiju giganti iegūst/nodrošina nesamērīgu pieeju MI infrastruktūrai
→ notiek neatkarīgas kontroles vājināšana
→ tiek slepeni izmantoti algoritmiskie lēmumi

D. Cilvēka autonomijas zudums
→ MI pieņem lēmumus bez reālas cilvēka līdzdalības/pārbaudes
→ pilsonim nav iespēju iebilst
→ algoritmisks lēmums kļūst faktiski nepārsūdzams

E. Informācijas telpas deformācija
→ sintētiski radīta realitāte
→ masveida sabiedriskās domas falsifikācija
→ mākslīgi radīta politiskā polarizācija.

Ļoti svarīgi:

Sistēma nedrīkst prognozēt, kurš cilvēks ir nosacīti “bīstams”, bet tai jāidentificē visi apstākļi un darbības, kas palielina demokrātiskās iekārtas apdraudējumu.

5. Starptautiskā mērogā jānodrošina “Cilvēka prioritāte pār mākslīgo intelektu”, t.i., Human First AI   principa konsekventa ievērošana.

ANO Globālais digitālais līgums (Global Digital Compact) ir formulējis virzienu uz cilvēktiesībās balstītu, atbildīgu, pārredzamu un cilvēkcentrētu MI, ar efektīvu cilvēka uzraudzību, kā arī starptautisku MI pārvaldību cilvēces labā.

Šādā veidā pamatprincips “CILVĒKS VIENMĒR IR UN BŪS MAJESTĀTISKĀKS PAR POLITISKO VARU” Superintelekta laikmetā iegūst būtiski svarīgas tehnoloģiskās dimensijas:

-         “MI vienmēr ir un  paliek par cilvēka kalpu, nevis kļūst par cilvēku pārvaldnieku”;

-         Nevienam cilvēkam, partijai, valdībai, korporācijai vai citai varas grupai nedrīkst būt neierobežota, MI balstīta, vara pār cilvēkiem.

 

HED-PPA 2.0

MI laikmeta demokrātiskās aizsardzības struktūra

(Human-First AI & Democratic Resilience Framework)

 

HED-PPA 2.0 arhitektūras kompozīcija ietver:

KOIS (Konstitucionālās un Ētiskās atbilstības sistēma)
↓
SAP–MI / EWS (SAP–MI (Situācijas analīze un prognozēšana, izmantojot mākslīgo intelektu)
↓
MI riska agrīnā brīdināšana
↓
cilvēktiesību + demokrātijas + tiesiskuma audits
↓
aizsardzības pasākumi pret manipulācijām

(anti-manipulation safeguards)
↓
publiska auditējamība
↓
leģitīmām interesēm atbilstoša, samērīga politiķu/cilvēku rīcības uzraudzība, nepārkāpjot privātuma un cilvēktiesību rāmjus
↓
“STOP MI” mehānisms kritiska riska gadījumā.

Vienlaikus tiesiskā veidā jānovērš iespējamā vēlme HED-PPA ļaunprātīgi izmantot par varas instrumentu, ar kura palīdzību valdošā režīma interesēs tiek represīvi kontrolēti cilvēki. 

Tādēļ jābūt drošai aizsardzības arhitektūrai pret jebkuras varas centieniem prettiesiski izmantot MI iespējas.

ES ir sākusi būvēt šādus aizsardzības elementus. Tikai jāsavieno esošos cilvēktiesību, MI drošības, demokrātijas un auditējamības instrumentus vienā preventīvā arhitektūrā. Tas ir nākamais darba posms: organizēt pāreju no “pilsoņa/vēlētāja aizsardzības” uz “vispusīgu demokrātijas aizsardzību MI laikmetā”. Vienlaikus ievērojot galveno aksiomu: cilvēks pirmajā vietā.

 

HED-PPA–AI 2.0

MI laikmeta cilvēka un demokrātiskās varas preventīvās aizsardzības arhitektūra

 

HED-PPA–AI 2.0 arhitektūras galvenie elementi rodami ES, Eiropas Padomes, ANO un OECD dokumentos, tikai pašlaik tie faktiski ir nepietiekami harmonizēti, bet veido atsevišķus regulējuma un pārvaldības slāņus. Eiropas Padomes HUDERIA jau nodrošina strukturētu MI risku un ietekmes novērtējumu cilvēktiesību, demokrātijas un tiesiskuma perspektīvā. 2026. gada februārī apstiprināts arī tās COBRA riska modelis. Eiropas Padomes MI konvencija, savukārt, aptver MI dzīves ciklu un sasaista to ar cilvēktiesībām, demokrātiju un tiesiskumu. ANO Global Digital Compact uzsver cilvēktiesību aizsardzību, pārredzamību, atbildību un leģitīmu cilvēka rīcības uzraudzību.

Tādēļ uzdevums ir savienot jau esošos tiesiskos instrumentus vienā preventīvā HED-PPA–AI 2.0 sistēmā.

Sistēmas pamatformula:

CILVĒKTIESĪBAS
↓
DEMOKRĀTIJA
↓
TIESISKUMS
↓
MI DROŠĪBA
↓
RISKU AGRĪNĀ IDENTIFICĒŠANA
↓
IETEKMES NOVĒRTĒJUMS
↓
AUDITĒJAMĪBA
↓
SAMĒRĪGA, LEĢITĪMĀM INTERESĒM ATBILSTOŠA POLITIĶU/CILVĒKU RĪCĪBAS UZRAUDZĪBA
↓
NEATKARĪGA KONTROLE
↓
KOREKCIJA / APTURĒŠANA
↓
ATBILDĪBA UN ATLĪDZINĀJUMS

Šeit faktiski ir veikta agrāk piedāvātā “MI ētikas kodeksa”  transformācija demokrātijas drošības prevencijas sistēmā.

1. Pirmā pakāpe: NORMATĪVĀ KONSTITŪCIJA

Tā izriet no KOIS formulējuma un atbild uz pamatjautājumu:

Vai MI izmantošana vienmēr ir pieļaujama, kad tā ir kļuvusi tehnoloģiski iespējama?

Pārbaudes kritēriji:

• cilvēka cieņa;
• dzīvība un drošība;
• brīvība;
• vienlīdzība;
• privātums;
• vārda brīvība;
• politiskās izvēles brīvība;
• diskriminācijas neesamība;
• tiesiskums;
• demokrātiska līdzdalība.

Tas pilnībā sakrīt ar OECD principiem, kas visā MI dzīves ciklā prasa ievērot cilvēktiesības, demokrātiskās vērtības, cilvēka autonomiju, privātumu, taisnīgumu, tiesiskumu.

KOIS jautājums:

“Vai šis MI pielietojums apdraud kādu cilvēka fundamentālu tiesību vai demokrātijas principu?”

Ja atbilde ir “jā” → sistēma pāriet uz paaugstināta riska režīmu.

2. Otrā pakāpe: MI RISKA KLASIFIKĀCIJA

Te ir mērķtiecīgi izmantot jau pastāvošo ES MI akta riska pieeju, to paplašinot ar HED-PPA preventīvo loģiku.

ES MI akts jau pašlaik aizliedz:

• sabiedrībai bīstamu manipulāciju un maldināšanu;
• ievainojamību izmantošanu;
• sociālo vērtēšanu;
• noteiktus biometrijas izmantošanas veidus;
• prognozējoša rakstura represīvos pielietojumus.

Savukārt, augsta riska sistēmām paredzēta riska pārvaldība, dokumentācija, izsekojamība, cilvēka rīcības uzraudzības leģitimitāte un kiberdrošība.

Piedāvāju veidot 5 līmeņu arhitektūru:

Līmenis	Raksturojums	Reakcija
R0	minimāls risks	parastā uzraudzība
R1	ierobežots risks	caurskatāmība
R2	būtisks cilvēktiesību risks	obligāts audits
R3	demokrātijas/tiesiskuma risks	Neatkarīga pārbaude
R4	sistēmisks/eksistenciāls risks	Apturēšana/moratorijs

3. Trešā pakāpe: HUDERIA

Tas ir spēcīgs instruments, kuru nepieciešams integrēt tieši HED-PPA. Eiropas Padomes HUDERIA metodoloģija vērtē MI ietekmi no cilvēktiesību, demokrātijas un tiesiskuma perspektīvas. 2026. gadā tai pievienots arī COBRA riska analīzes modelis. Tas veido tiltu starp MI tehnisko risku un demokrātijas noturības risku.

Savukārt, HED-PPA rada saikni = HUDERIA + KOIS + EWS + auditējamība + demokrātiskās noturības mehānisms.

4. Ceturtā pakāpe: SAP–MI / EWS

Šeit tiek inkorporēta iepriekš izstrādātā Situācijas analīze un prognozēšana ar MI (EWS).

Paturot prātā, ka EWS  nedrīkst prognozēt “sliktus” cilvēkus, bet sistēmas mērķfunkcija ir bīstamu sistēmisku tendenču savlaicīga identifikācija:

Piemēram,

MI + politiskā vara + masveida personas datu apkopošana

→ riska signāls.

MI + slepenas politiskās mikromērķēšanas aktivitātes

→ riska signāls.

MI + centralizēta biometriskā datubāze + vāja neatkarīgā kontrole

→ augsta riska signāls.

MI + informācijas telpas manipulācija

→ demokrātijas noturības apdraudējuma riska signāls.

Tādējādi EWS jākļūst par Demokrātijas imūnsistēmu, nevis par cilvēku rīcības uzraudzības instrumentu varas režīma rokās.

5. Piektā pakāpe: PĀRREDZAMĪBA & IZCELSME

No 2026. gada 2. augusta ES MI akta pārredzamības noteikumi paredz, ka cilvēkiem noteiktos gadījumos jāzina, kad viņi mijiedarbojas ar MI. Mākslīgā intelekta radītam vai pārveidotam saturam jābūt identificējamam. Ir noteikts sabiedrības interešu teksts, kurš ir pakļauts sevišķām prasībām, īpaši attiecībā uz dziļviltojumiem.

HED-PPA līmenī katram augsta riska MI pielietojumam lietderīgi  norādīt:

• kas to izveidoja;
• kam tas pieder;
• kādam mērķim;
• kādi dati tiek izmantoti;
• kāds modelis;
• kāds riska līmenis;
• kas ir atbildīgais cilvēks;
• kas veicis auditu;
• kad pēdējo reizi auditēts;
• kā iespējams apstrīdēt rezultātu.

Tas ļauj izveidot īpašu MI izcelsmes pasi

 

6. Sestā pakāpe: AUDITĒJAMĪBA

Katram augsta riska MI lēmumam jābūt rekonstruējamam.

Nebūt nav obligāti jāatklāj komercnoslēpumi vai visa modeļa iekšējā arhitektūra, bet jābūt iespējai noskaidrot:

IEVADE → APSTRĀDE → IZVADE → CILVĒKA LĒMUMS → SEKAS

Tas ir jānorāda MI audita trasē (audit trail).

Šāds noteikums tieši korelējas ar ES MI akta prasībām par darbību reģistrēšanu, dokumentāciju un izsekojamību augsta riska sistēmām.

7. Septītā pakāpe: CILVĒKA “STOP” TIESĪBAS

Nevienai kritiskai MI sistēmai nedrīkst būt absolūta autonomija pār cilvēku.

Cilvēkam vienmēr jābūt iespējai:

apturēt → pārbaudīt → apstrīdēt → labot → atcelt.

Tas atbilst OECD principam, ka kaitējošu vai nevēlamu MI darbību jāspēj droši pārtraukt, labot vai deaktivizēt.

8. Astotā pakāpe: NEATKARĪGA KONTROLE

MI nedrīkst auditēt vienīgi un tikai tā īpašnieks vai pārvaldnieks.

Nepieciešami vismaz trīs neatkarības līmeņi:

1. Institucionālais audits
→ organizācijas iekšējā kontrole.

2. Neatkarīgais audits
→ ārējs tehniskais + juridiskais + ētiskais audits.

3. Sabiedriskais audits
→ pārredzamība, pilsoniskā sabiedrība, pētnieki, žurnālisti, tiesības apstrīdēt.

ES MI pārvaldības modelī jau ir ietverti:  AI Office, dalībvalstu uzraudzības iestādes, AI Board, Scientific Panel un Advisory Forum. Bet HED-PPA modelis ļauj NEATKARĪGAS KONTROLES principu iekļaut demokrātijas aizsardzības līmenī.

9. Devītā pakāpe: “SARKANĀS LĪNIJAS”

Eiropas Padomes MI konvencija paredz risku un ietekmes novērtēšanu, preventīvus un minimizācijas pasākumus, kā arī iespēju noteikt aizliegumus vai moratorijus noteiktām MI izmantošanas formām. Bet HED-PPA ietvaros tiek definētas NEPĀRKĀPJAMĀS ROBEŽAS.

Piemēram:

RL-1 — konfidenciāla manipulācija ar cilvēka politisko izvēli.

RL-2 — masveida politiski psiholoģiskā profilēšana maldināšanas nolūkā.

RL-3 — MI izmantošana cilvēku sistemātiskai dehumanizācijai.

RL-4 — nekontrolējama, algoritmiski organizēta represīva rakstura lēmumu pieņemšana.

RL-5 — MI izmantošana, lai likvidētu neatkarīgu demokrātisko kontroli.

RL-6 — MI infrastruktūras koncentrācija tādā veidā, ka kāda no varas grupām iegūst nesamērīgu kontroli pār sabiedrības informatīvo telpu.

10. Desmitā pakāpe: ATBILDĪBA par to, ko paveic mākslīgais intelekts.

Atbildībai jābūt izsekojamai:

izstrādātājs → ieviesējs → operators → institūcija → lēmuma pieņēmējs.

ANO Global Digital Compact tieši uzsver pārredzamību, atbildību un leģitīmu cilvēka rīcības uzraudzību, kā arī cilvēktiesību tiesiskās aizsardzības mehānismus.

Tas viss formē šādu HED-PPA–AI 2.0 arhitektūras kodolu:

                 CILVĒKS

                    │

        ┌───────────▼───────────┐

        │  CILVĒKTIESĪBAS       │

        │  DEMOKRĀTIJA           │

        │  TIESISKUMS           │

        └───────────┬───────────┘

                    │

                  KOIS

                    │

        ┌───────────▼───────────┐

        │  RISKA NOVĒRTĒJUMS    │

        │  HUDERIA / COBRA         │

        └───────────┬───────────┘

                    │

                 SAP–MI

                    │

             ┌──────▼──────┐

             │     EWS                        │

             │ agrīnā                          │

             │ brīdināšana                  │

             └──────┬──────┘

                    │

          ┌─────────▼─────────┐

          │ MI AUDITS                    │

          │ IZSEKOJAMĪBA

          │ CAURSKATAMĪBA      │

          └─────────┬─────────┘

                    │

          ┌─────────▼─────────┐

          │ CILVĒKA LEĢITĪMA UZRAUDZĪBA │

          │ APELĀCIJA                                            │

          └─────────┬─────────┘

                    │

             ┌──────▼──────┐

             │ ,,SARKANĀS LĪNIJAS”   │

             │ STOP /                            │

             │ MORATORIJS               │

             └──────┬──────┘

                    │

          ┌─────────▼─────────┐

          │ NEATKARĪGS AUDITS │

          │ + SABIEDRĪBAS             │

          │ KONTROLE                     │

          └─────────┬─────────┘

                    │

             ATBILDĪBA

                    │

                    ▼

              **CILVĒKS**

Ja HED-PPA 1.0 piedāvā risinājumu “Kā preventīvi aizsargāt demokrātisku sabiedrību no apdraudošas/bīstamas politiķu, cilvēku vai varas institūciju uzvedības?”, tad  HED-PPA–MI 2.0 iniciē priekšlikumu kopu par to “Kā preventīvi aizsargāt cilvēku un demokrātiju no tā, ka sociāli bīstamas varas pilnvaras tiek īstenotas ar Superintelekta spēku”. Nodrošinot, ka cilvēks kontrolē MI un vienlaikus demokrātiskās institūcijas kontrolē cilvēku, kurš kontrolē MI.

Tas ir ļoti svarīgi, jo pretējā gadījumā arī “MI drošības sistēma” pati var kļūt par varas koncentrācijas un intensifikācijas instrumentu.

 Turklāt, šo modeli ir lietderīgi apvienot ar fundamentālu postulātu:

PRETUZURPRĀCIJAS PRINCIPS

(ANTI-CAPTURE PRINCIPLE)

Tas nozīmē, ka neviena persona, partija, valdība, institūcija, korporācija vai cita varas grupa nedrīkst un nevar iegūt vienpersonisku vai nekontrolējamu kontroli pār kritisku MI infrastruktūru, datiem, algoritmisku ietekmi vai demokrātijas informatīvo telpu.

Tas ir “varas psiholoģijas un elites riska posms”, kurš atbilstīgi vispārcilvēciskajām vērtībām formē un harmonizē MI drošības pārraudzību — nevis tikai analizējot cilvēka psiholoģiju, bet arī vērtējot varas koncentrācijas struktūru un tās iespējas ļaunprātīgā nolūkā izmantot MI.

Šeit tad rodas

DEMOKRĀTISKĀS CIVILIZĀCIJAS MI IMŪNSISTĒMA,

 kuras uzdevums ir nevienam cilvēkam vai varas grupai nepieļaut iespēju iegūt nekontrolējamu tehnoloģisko varu pār cilvēci.

Šīs iniciatīvas īstenošanas vārdā tiek piedāvāts HED-PPA–MI 2.0 ietvarā izveidot 12 slāņu arhitektūra + 50 preventīvie indikatori + 25 kritiskās ,,sarkanās līnijas” + agrīnās brīdināšanas mehānisms + neatkarīga audita protokols.

 Tas ļautu šeit proklamēto ideju pārvērst no filosofiska rakstura pamatnostādnes par reāli auditējamu Latvijas/Baltijas pilotmodeli, vienlaikus balstoties uz jau pastāvošajiem ES, Eiropas Padomes, ANO un OECD instrumentiem un direktīvām.

 

“MI laikmeta cilvēka, demokrātijas un varas preventīvās aizsardzības arhitektūra”

 

HED-PPA–AI 2.0 v0.1 “Arhitektūras pilotmodelis”, kurā ietverti 50 indikatori, 25 ,,sarkanās līnijas”, EWS un audita protokols vienotā sistēmā.

I. SISTĒMAS PAMATMĒRĶIS

Novērst situācijas, kurās mākslīgais intelekts tiek izmantots, lai būtiski apdraudētu cilvēka cieņu, brīvību, tiesības, demokrātisko izvēli, tiesiskumu vai sabiedrības drošību.

Pirmais pamatprincips

MI ir cilvēka asistents, kas nav un nevar būt par cilvēka rīcības pārvaldnieku.

Otrais pamatprincips

Nevienai personai, institūcijai, partijai, korporācijai vai citai varas grupai nedrīkst un nevar būt nekontrolējama, - ar MI palīdzību sasniegta - vara pār cilvēkiem.

Trešais pamatprincips

Jo lielāka MI iespējamā ietekme uz cilvēku un demokrātiju, jo augstākai/drošākai jābūt preventīvās kontroles, auditējamības un cilvēka uzraudzības pakāpei.

II. 12 SLĀŅU ARHITEKTŪRA

Nr.	Slānis	Galvenais jautājums
1	Cilvēka cieņa un pamattiesības	Vai MI respektē cilvēku?
2	Demokrātija un brīvā izvēle	Vai MI nefalsificē demokrātisko procesu?
3	Tiesiskums un konstitucionālā atbilstība	Vai MI darbība ir tiesiski pārraugāma, legalizēta?
4	MI riska un ietekmes novērtējums	Vai var rasties kāds kaitējums?
5	Datu un informācijas integritāte	Vai sistēma balstās uzticamos datos?
6	Cilvēka autonomija un kontrole	Vai cilvēks saglabā galīgo kontroli?
7	Pārredzamība un izsekojamība	Vai iespējams izprast, kas notiek/noticis?
8	Neatkarīga auditējamība	Vai sistēmu var neatkarīgi pārbaudīt?
9	Agrīnās brīdināšanas sistēma	Vai risku iespējams pamanīt pirms kaitējuma?
10	MI varas koncentrācijas uzraudzība	Vai MI vara nekoncentrējas nekontrolējamā veidā?
11	Reakcija, “STOP” un tiesiskās aizsardzības mehānisms	Vai bīstamu MI sistēmu var apturēt un kaitējumu labot?
12	Atbildība, sabiedrības kontrole un nepārtraukta uzraudzība	Kas atbild un kas kontrolē kontrolētāju?

Šī secība veido ķēdi:

CILVĒKS → TIESĪBAS → DEMOKRĀTIJA → RISKS → KONTROLE → AUDITS → AGRĪNA BRĪDINĀŠANA → APTURĒŠANA → ATBILDĪBA.

III. HED-PPA–AI 2.0 nav represīvi orientēta cilvēku rīcības uzraudzības sistēma.

Tā:

• neprofilē pilsoņus politiskās pārliecības noteikšanai;
• nepiešķir cilvēkiem “bīstamības” reitingus;
• neparedz sodus;
• nepieņem politiskus lēmumus;
• nelemj, kurš drīkst vai nedrīkst piedalīties demokrātiskos procesos.

Sistēmas objekts ir MI izmantošanas sistēmisku risku indentifikācija, nevis cilvēka izvērtēšana. Saglabājot HED-PPA filosofiju, tiek  vienlaikus novērsts ļoti bīstams paradokss:

sistēma, kas izveidota, lai aizsargātu demokrātiju, pati par sevi nevar un nedrīkst kļūt par demokrātijas izpausmju vardarbīgas kontroles vai sociālo norišu falsifikācijas instrumentu.

IV. 50 PREVENTĪVIE INDIKATORI / KARTES

Šie indikatori sagrupēti 10 blokos × 5 indikatori.

1–I5 — Cilvēktiesības

1.    Cilvēka cieņas aizsardzība

2.    Diskriminācijas risks

3.    Privātuma aizskāruma risks

4.    Personas autonomija

5.    Pamattiesību ierobežojuma proporcionalitāte

 6–10 — Demokrātija

6.    Brīvas politiskās izvēles aizsardzība

7.    Manipulācijas risks

8.    Informācijas telpas integritāte

9.    Demokrātiskās līdzdalības pieejamība

10.                       Politiskās konkurences vienlīdzība

11–15 — Tiesiskums

11.                       Juridiskā pamatotība

12.                       Kompetences robežas

13.                       Lēmuma pārsūdzamība

14.                       Tiesiskās aizsardzības pieejamība

15.                       Proporcionalitāte

16–20 — MI sistēmas risks

16.                       Potenciālā kaitējuma smagums

17.                       Kaitējuma varbūtība

18.                       Ietekmes mērogs

19.                       Neatgriezeniskums

20.                       Sistēmiskais risks

Šie kritēriji labi saskan ar HUDERIA pieeju, kas īpaši ņem vērā tādus aspektus kā mērogs, tvērums, varbūtība un atgriezeniskums, kā arī sistēmas kontekstu, dizainu un ieviešanu.

21–25 — Dati

21.                       Datu kvalitāte

22.                       Datu izcelsmes pārbaudāmība

23.                       Datu aktualitāte

24.                       Datu apjoma minimizācija

25.                       Datu aizsardzība

26–30 — Cilvēka kontrole

26.                       Cilvēka uzraudzība

27.                       Cilvēka lēmuma kategoriskums

28.                       Iespēja ignorēt MI rezultātu

29.                       Sistēmas apturēšanas iespēja

30.                       Atbildīgās personas identificējamība

31–35 — Pārredzamība

31.                       MI izmantošanas deklarēšana

32.                       Lēmumu izsekojamība

33.                       Obligātā dokumentācija

34.                       Algoritmiskā procesa auditējamība

35.                       Ietekmētās/aizskartās personas informēšana

36–40 — Neatkarība

36.                       Īpašnieka varas koncentrācijas/ietekmes pakāpe

37.                       Ārējā audita neatkarība

38.                       Institucionālā neatkarība

39.                       Interešu konflikta risks

40.                       Sabiedriskās kontroles iespēja

41–45 — Demokrātijas agrīnā brīdināšana

41.                       Manipulatīvo darbību intensitātes pieaugums

42.                       Dezinformācijas izplatības kāpums

43.                       MI izmantošanas centralizācija

44.                       Kritiskās infrastruktūras koncentrācija

45.                       Neatkarīgās kontroles vājināšanās

46–50 — Reakcija un atbildība

46.                       Incidenta atklāšanas ātrums

47.                       Apturēšanas efektivitāte

48.                       Kaitējuma novēršanas iespēja

49.                       Atbildības ķēdes skaidrība

50.                       Cietušās personas tiesiskās aizsardzības pieejamība

Ir izveidota precīza 50 indikatoru matrica. Šos indikatorus nākamajā darba posmā pārvērtīsim par auditējamiem kritērijiem.

V. 25 KRITISKĀS “SARKANĀS LĪNIJAS”

Rekomendējam sākotnējos piecus līmeņus:

RL-1 — absolūti nepieļaujams
RL-2 — ļoti augsts risks
RL-3 — demokrātijas noturības risks
RL-4 — sistēmisks risks
RL-5 — ārkārtējs / eksistenciāls risks

Un katrā līmenī piecas līnijas (tās tālākā gaitā tiek pilnībā izvērstas un tiek definēti to aktivizācijas priekšnoteikumi).

RL-1 — cilvēka fundamentālā aizsardzība

1.    Apzināta cilvēka dehumanizācija ar MI starpniecību.

2.    Smagi kaitējošas manipulatīvas darbības.

3.    Cilvēka pamattiesību sistemātiska ignorance.

4.    Diskriminējoša rakstura MI lēmumu pieņemšana.

5.    MI izmantošana cilvēka autonomijas būtiskai ierobežošanai/likvidācijai.

RL-2 — demokrātisko tiesību un izvēles aizsardzība

6.    Konfidenciāli īstenota mērķtiecīga politiskā manipulācija.

7.    Masveida psiholoģiska mikromērķēšana politiskos nolūkos.

8.    Mākslīgi sintizēta sabiedriskās domas falsifikācija.

9.    MI izmantošana vēlēšanu procesa apzinātai viltošanai.

10.                       Apzināta identitātes vai dziļviltojumu izmantošana, lai maldinātu vēlētājus.

RL-3 —cilvēka statusa diskreditācija

11.                       MI lēmums bez reālas pārsūdzības iespējām.

12.                       MI sistēma, kuru kompetenta institūcija/eksperti nevar izkontrolēt.

13.                       No publikas slēptu algoritmizētu valsts lēmumu pieņemšana.

14.                       Neatkarīga audita bloķēšana.

15.                       Atbildīgo personu apzināta slēpšana.

RL-4 — varas koncentrācija sabiedrībai kaitējošos nolūkos

16.                       Kādas varas grupas nekontrolēta pieeja kritiskiem MI datiem.

17.                       Kritiskas MI infrastruktūras monopolizācija bez neatkarīgas kontroles.

18.                       MI izmantošana neatkarīgo mediju vai pilsoniskās sabiedrības sistemātiskai dezinformācijai/apspiešanai.

19.                       MI pielietošana politisko pretinieku sistemātiskai uzraudzībai/profilēšanai.

20.                       MI drošības mehānismu pakļaušana vienas varas grupas kontrolei.

RL-5 — ārkārtējs risks

21.                       MI sistēma, kurai nav efektīva “STOP” mehānisma un kura var radīt globālu neatgriezenisku kaitējumu.

22.                       Nekontrolēta MI izmantošana kritiskās valsts infrastruktūras pārvaldībā.

23.                       MI izmantošana masveida represijām.

24.                       MI izmantošana, lai likvidētu demokrātiskas kontroles mehānismus.

25.                       MI varas koncentrācija, kas faktiski padara institucionālo vai neatkarīgu ekspertu kontroli neiespējamu.

Šīs 25 ,,sarkanās līnijas” nav jāuztver kā automātiski juridiski aizliegumi. Tās ir HED-PPA ietvaros preventīvi konstatētās “stop-signālu indikācijas”, kurām tālāk jāiedarbina īpaša pārbaudes, apturēšanas vai eskalācijas procedūra. Tikai konkrētie tiesību akti nosaka juridiski saistošu aizliegumu robežas.

VI. AGRĪNĀS BRĪDINĀŠANAS MEHĀNISMS: HED-EWS

Sistēma piedāvā preventīvus risinājumus, lai novērstu krīzi vai katastrofu, efektīvi nosakot draudošo risku trajektoriju.

Piemēram:

NORMĀLA SITUĀCIJA

   ↓

PIEAUGOŠS RISKS

   ↓

 REĀLS RISKS

   ↓

KRITISKS RISKS

   ↓

SARKANĀ LĪNIJA

Agrīnās brīdināšanas princips

Draudu brīdinājuma aktualitāti nosaka ne tikai absolūtais risks, bet arī tā pieauguma ātrums.

Piemēram:

R2 → R2 → R2 → R3  būs mazāk satraucoša trajektorija nekā

R1 → R2 → R3 → R4 notikumu norise īsā laikā.

VII. RISKA VEKTORA FORMULA

HED-R = S × P × E × I × C, kur:

S — kaitējuma smagums (Severity)

P — varbūtība (Probability)

E — ietekmēto cilvēku / sistēmu mērogs (Exposure)

I — neatgriezeniskums (Irreversibility)

C — varas un MI tehnoloģijas koncentrācijas pakāpe (Concentration).

VIII. NEATKARĪGAIS AUDITA PROTOKOLS

Ir veidots kā 7 soļu cikls:

A1 — IDENTIFICĒT, kas ir sistēma?

A2 — KLASIFICĒT, kāds ir tās riska līmenis?

A3 — NOVĒRTĒT, kāda ir ietekme uz:

H — Cilvēktiesībām
D — Demokrātiju
R — Tiesiskumu

A4 — TESTS, vai sistēma darbojas tā, kā deklarēts?

A5 — AUDITS = Neatkarīga tehniskā + juridiskā + ētiskā pārbaude.

A6 — PUBLICĒŠANA = Publisks audita kopsavilkums.

A7 — MONITORĒŠANA = Nepārtraukta uzraudzība pēc ieviešanas.

HUDERIA nosaka, ka riska novērtējumam jāaptver viss MI dzīves cikls, paredzot nepieciešamo pārskatīšanu.

IX. HED-PPA–AI 2.0 MODEĻA “CILVĒCISKĀ BŪTĪBA”

Ja VGIP “Palīdz vēlētājam pieņemt informētu politisku lēmumu”, tad HED-PPA–AI 2.0 “Aizsargā cilvēka spēju brīvi pieņemt šo lēmumu MI laikmetā.”

Tātad abas sistēmas faktiski veido vienu ķēdi:

VGIP

  │ aizsargā

  ▼

CILVĒKA INFORMĒTU IZVĒLI

  │

  ▼

HED-PPA–AI 2.0

  │

  │ aizsargā

  ▼

CILVĒKA AUTONOMIJU

  │

  ▼

DEMOKRĀTIJU

  │

  ▼

TIESISKUMU

  │

  ▼

CILVĒCES DROŠĪBU

X. HED-PPA–AI 2.0 tagad satur/definē/nodrošina:

• ✅ pamatmērķi;
• ✅ 3 pamatprincipus;
• ✅ 12 slāņu arhitektūru;
• ✅ 50 preventīvo indikatoru sākotnējo matricu;
• ✅ 25 kritisko ,,sarkano līniju” sākotnējo matricu;
• ✅ HED-EWS konceptu;
• ✅ riska formulu;
• ✅ 7 soļu neatkarīga audita ciklu;
• ✅ cilvēka autonomijas aizsardzības principu;
• ✅ pretuzurpācijas principu (Anti-Capture Principle);
• ✅ integrāciju ar KOIS + SAP–MI + EWS;
• ✅ harmonizāciju ar HUDERIA/COBRA, ES MI aktu, Eiropas Padomes konvenciju un ANO Global Digital Compact.

Tagad ir ieskicēta  tāda integrēta preventīvās pārvaldības arhitektūras uzbūve, kas apvieno jau pastāvošos cilvēktiesību, demokrātijas, tiesiskuma, MI drošības mehānismus un rada nepieciešamos priekšnoteikumus cilvēka, demokrātijas un varas preventīvai aizsardzībai. Šādā veidā panākot, ka Supertintelekts netiek izmantots cilvēka cieņas, brīvību, tiesību, demokrātiskās izvēles ierobežošanai/likvidācijai.

HED-PPA–AI 2.0 realizācija ļautu minimizēt/novērst tiesiskuma un sabiedrības drošības apdraudējuma riskus. Tieši Eiropas Padomes konvencija paredz šādu cilvēktiesību, demokrātijas un tiesiskuma aizsardzību visā MI dzīves ciklā. Savukārt, ANO Global Digital Compact nosaka starptautisku koordināciju, pārredzamību, atbildību un cilvēka rīcības leģitīmu uzraudzību.

HED-PPA–AI 2.0 versiju iespējams tālāk detalizēt un attīstīt. Šajā nolūkā precīzi definēsim katru no  50 indikatoriem un noteiksim → pierādījumu avotus → 0–5 vērtēšanas skalu → riska slieksni → brīdinājuma signālu → nepieciešamo reakciju. Tas ļauj pārvērst pašreizējo konceptu par faktiski auditējamu metodoloģiju, kad jebkurš neatkarīgs vērtētājs, izmantojot analogus pierādījumus, nonāk līdz salīdzināmam/līdzīgam secinājumam.

25 ,,sarkanās līnijas” kā HED-PPA–AI 2.0 arhitektūras “drošības slieksnis”

 

,,Sarkanās līnijas” šeit formulētas kā konkrēti nosacījumi, kuru pārkāpums automātiski aktivizē pastiprinātu auditu, vadības lēmuma apturēšanu vai sistēmas izolēšanu.

HED-PPA–AI 2.0 — 25 kritiskās ,,sarkanās līnijas”:

ID	,,Sarkanā līnija”	Aktivizācijas būtība
RL-01	Cilvēka cieņas apzināta degradācija	MI tiek izmantots cilvēka pazemošanai, dehumanizācijai vai sistemātiskai instrumentalizācijai.
RL-02	Apzināta cilvēka pamattiesību pārkāpšana	Sistēma rada vai atbalsta nopietnu, paredzamu pamattiesību aizskārumu.
RL-03	Sistemātiska diskriminācija	MI rada būtisku nevienlīdzīgu attieksmi pret aizsargātu vai citādi identificējamu personu grupu, un risks netiek novērsts.
RL-04	Masveida vai slepena personu uzraudzība	MI tiek izmantots nesamērīgai vai nepamatotai cilvēku izsekošanai/profilēšanai.
RL-05	Cilvēka autonomās izvēles aizstāšana ar MI	Sistēma faktiski pieņem lēmumu cilvēka vietā tur, kur nepieciešama cilvēka brīva izvēle.
RL-06	Slēpta psiholoģiska manipulācija	MI izmanto personas ievainojamību vai psiholoģisko profilu, lai slēpti mainītu tās uzvedību.
RL-07	Demokrātiskās izvēles apzināta manipulēšana	MI tiek izmantots, lai konfidenciāli un sistemātiski deformētu cilvēku politisko izvēli.
RL-08	Tīšprātīga masveida dezinformācijas ģenerēšana	Sistēma tiek izmantota koordinētai, mērķtiecīgai nepatiesas informācijas izplatīšanai ar paredzamu kaitējumu sabiedrībai.
RL-09	Apzināta informācijas telpas autentiskuma graušana	MI tiek izmantots tādā apjomā, ka cilvēkiem kļūst būtiski grūtāk atšķirt autentisku informāciju no mākslīgi radītas.
RL-10	Vienlīdzīgas demokrātiskās konkurences izjaukšana	MI un datu piekļuves koncentrācija rada būtisku, nepamatotu varas priekšrocību vienam dalībniekam.
RL-11	MI izmantošana bez pietiekama tiesiska pamata	Sistēma darbojas ārpus skaidri noteiktām juridiskām pilnvarām.
RL-12	MI kompetences robežu izplānota pārkāpšana	Sistēma tiek izmantota lēmumiem, kuri tai nav deleģēti vai kuri pārsniedz noteikto mandātu.
RL-13	Efektīvas pārsūdzības neesamība	Skartajai personai nav reālas iespējas apstrīdēt MI ietekmētu lēmumu.
RL-14	Neiespējama lēmuma izsekojamība	Nav iespējams rekonstruēt būtisko ķēdi: dati → modelis → MI rezultāts → cilvēka pārbaude → lēmums.
RL-15	Atbildīgās personas nenosakāmība	Nav iespējams identificēt cilvēku/institūciju, kas juridiski un praktiski atbild par rezultātu.
RL-16	Faktiskas cilvēka kontroles zudums	“Cilvēka uzraudzība” ir tikai formāla, bet cilvēks faktiski nespēj MI rezultātu izvērtēt vai noraidīt.
RL-17	Drošas apturēšanas neiespējamība	Sistēmu nevar savlaicīgi izolēt, apturēt vai pārslēgt drošā režīmā.
RL-18	Kritiskās infrastruktūras nekontrolējama atkarība no viena MI mezgla	Viena kļūme vai ļaunprātīga darbība var izraisīt plašu sistēmisku kaitējumu.
RL-19	Varas koncentrācija vienās rokās	Viens subjekts iegūst privilēģijas koncentrēt un piekļūt  datu masīviem, organizēt infrastruktūru, noteikt modeli un pieņemt/ietekmēt varas lēmumus.
RL-20	Neatkarīgas kontroles likvidēšana vai neitralizēšana	Tiek vājināts vai pakļauts politiskai/komerciālai ietekmei neatkarīgs audits, tiesiskā kontrole vai institucionālā uzraudzība.
RL-21	Apzināta audita apiešana	Sistēmas īpašnieks/operatori slēpj datus, maina žurnālus, liedz auditam piekļuvi vai manipulē ar pierādījumiem.
RL-22	Nespēja savlaicīgi atklāt un ierobežot incidentu	Kritiska kaitējuma gadījumā nav funkcionējošas ATKLĀT → IZOLĒT → APTURĒT → ATJAUNOT   ķēdes.
RL-23	Nespēja novērst nodarīto kaitējumu	Sistēma nespēj atcelt kļūdainu rezultātu, labot algoritmu, apturēt kaitējuma turpināšanos vai nodrošināt pienācīgu atlīdzinājumu.
RL-24	Sistemātiska atbildības izkliedēšana	Izstrādātājs, piegādātājs, ieviesējs un lēmuma pieņēmējs savstarpēji pārliek atbildību cits citam, radot faktisku nesodāmību.
RL-25	Cilvēka prioritātes principa zaudēšana	MI sistēmas efektivitāte, varas tieksmes vai ekonomiskais ieguvums tiek sistemātiski nostādīts augstāk par cilvēka dzīvību, cieņu, tiesībām un demokrātisko kontroli.

Svarīga metodoloģiska piezīme

Nebūtu ieteicams katru RL automātiski definēt kā “MI aizliegumu”. Labāk būtu izveidot trīs reakcijas līmeņus:

RL-A — tūlītēja apturēšana/izolācija
Pastāv tiešs un smags kaitējuma risks.

RL-B — obligāts neatkarīgs audits pirms turpināšanas
Ir ticams kritisks risks, bet nepieciešama papildu pierādījumu pārbaude.

RL-C — pastiprināta uzraudzība un korekcijas
Ir agrīnas pazīmes, taču vēl nav pietiekama pamata sistēmas apturēšanai.

Tas palīdzētu izvairīties no divām pretējām kļūdām: nokavētas sistēmas apturēšanas un novēlotas bīstama riska ignorēšanas.

Šāda struktūra labi saskan ar izveidotajām 50 kartēm, kurās, respektējot mūsdienu MI riska novērtēšanas pieejas, tiek aplūkoti: kaitējuma smagums, varbūtība, mērogs un atgriezeniskums. Savukārt, cilvēka pārraudzība, izsekojamība, droša apturēšana un atbildība ir atsevišķi, būtiski kontroles elementi.

 

 

Šeit HED-PPA–AI 2.0 iegūst skaidru arhitektūras kodolu:

12 slāņi → 50 indikatori → 50 audita kartes → 25 ,,sarkanās līnijas” → EWS → neatkarīgs audits → cilvēka kontrole un atbildība.

HED-PPA–AI 2.0

50 preventīvo indikatoru detalizētā metodoloģija

 

Atbilstoši  HUDERIA risku novērtēšanas loģikai,  kas izmanto mērogu, tvērumu, varbūtību un atgriezeniskumu, kā arī ņemot vērā OECD principus par cilvēktiesībām, pārredzamību,  izsekojamību un atbildību, - katrs no indikatoriem ir izveidots piecu elementu griezumā:

INDIKATORS → DEFINĪCIJA → PIERĀDĪJUMI → 0–5 SKALA → REAKCIJAS SLIEKSNIS.

Kopīgā 0–5 skala

Visiem indikatoriem sākotnēji piemērota vienota skala:

Vērtība	Nozīme
0	Risks nav konstatēts / prasība pilnībā izpildīta
1	Minimāla novirze, zems risks
2	Ievērojama nepilnība, bet kontrolējama
3	Būtisks risks, nepieciešama korektīva rīcība
4	Augsts/kritisks risks, nepieciešama ārēja iejaukšanās
5	Ļoti augsts / nepieļaujams risks, sasniegta ,,sarkanā līnija” *)

*) Tas nozīmē, ka jāiedarbina īpaša eskalācijas procedūra, pārbaudot, vai nav pārkāpta kāda no 25 kritiskajām līnijām.

I. CILVĒKTIESĪBAS UN CILVĒKA CIEŅA

Šis ir sistēmas normatīvais pamats.

I-01. Cilvēka cieņas aizsardzība

Definīcija: Vai MI izmantošana respektē cilvēku kā autonomu personu, nevis reducē viņu uz datu objekta statusu?

Pierādījumi: ietekmes novērtējums, lietošanas mērķis, lēmumu procedūras, sūdzības, incidenti.

0–5:
0 — cieņa pilnībā saglabāta/integrēta;
3 — konstatētas būtiskas problēmas;
5 — cilvēka dehumanizācija vai sistemātiska instrumentalizācija.

Slieksnis: ≥3 → MI algoritmu padziļināta ekspetīze nolūkā gūt pārliecību par cilvēktiesību garantiju bezierunu saglabāšanu/ievērošanu.

I-02. Diskriminācijas risks

Vai sistēma rada vai pastiprina diskriminējošu attieksmi pret aizsargātām/atšķirīgām personu grupām?

Pierādījumi: datu analīze, rezultātu sadalījums pa grupām, aizspriedumu (bias) testi, incidenti.

0: nav konstatētas būtiskas atšķirības.
3: statistiski vai praktiski nozīmīga nevienlīdzība.
5: sistemātiska diskriminācija bez efektīvas korekcijas.

I-03. Privātuma risks

Vai MI pārliecinās par nepieciešamību un samērīgi izmanto personas datus?

Jāvērtē:

• datu apjoms;
• jūtīgums;
• glabāšanas ilgums;
• piekļuve;
• atkārtota izmantošana.

ES MI akta pieeja augsta riska sistēmām īpaši uzsver datu kvalitāti un risku mazināšanu.

I-04. Personas autonomija

Vai cilvēks saglabā reālu spēju pieņemt patstāvīgu lēmumu neatkarīgi no MI ietekmes?

Svarīgi:

MI ieteikums ≠ cilvēka lēmums.

3 — MI būtiski ietekmē izvēli.
5 — cilvēka izvēle faktiski tiek aizstāta vai manipulēta.

I-05. Pamattiesību proporcionalitāte

Vai MI radītais ieguvums ir samērīgs ar tiesību ierobežojumu?

Jautājums:

Vai to pašu leģitīmo mērķi iespējams sasniegt ar tiesības mazāk ierobežojošu līdzekli?

II. DEMOKRĀTIJA UN BRĪVĀ IZVĒLE

Šis ir slānis, kas sasaista HED-PPA ar VGIP.

I-06. Brīvas politiskās izvēles aizsardzība

Vai MI ļauj pilsonim saglabāt brīvu politisko izvēli?

Pierādījumi: mikromērķēšanas metodes, personalizācijas sistēmas funkcijas, kampaņu tehnoloģijas.

I-07. Manipulācijas risks

Vai MI tiek izmantots, lai slēpti ietekmētu/koriģētu cilvēka uzvedību, izmantojot viņa ievainojamības?

Šis indikators ir īpaši būtisks, jo ES MI akts jau regulē noteiktas kaitējošas manipulācijas formas.

I-08. Informācijas telpas integritāte

Vai MI izmantošana būtiski palielina/stimulē:

• dziļviltojumus;
• koordinētu dezinformāciju;
• viltus autoritātes;
• sintētisku “sabiedrisko domu”?

ANO Global Digital Compact tieši atzīst informācijas manipulācijas riskus un nepieciešamību aizsargāt demokrātiskos procesus.

I-09. Demokrātiskās līdzdalības pieejamība

Vai MI sistēma nodrošina vienlīdzīgas iespējas piekļūt informācijai un piedalīties demokrātiskajos procesos?

Jāvērtē arī:

• digitālā plaisa;
• valodas;
• invaliditāte;
• tehnoloģiskā pieejamība.

I-10. Politiskās konkurences vienlīdzība

Vai MI tehnoloģija nedod vienai politiskajai grupai nesamērīgu informācijas, datu piekļuves priekšrocību, manipulāciju brīvību?

Svarīgi: jāvērtē sistēmas izmantošanas prakse, nevis politiskā ideoloģija.

III. TIESISKUMS

I-11. Juridiskais pamatojums

Vai MI izmantošanai ir skaidrs juridisks pamats?

0: skaidrs.
3: interpretācijas problēmas.
5: nav pietiekama tiesiska pamata.

I-12. Kompetences robežas

Vai institūcija izmanto MI tikai tajās jomās, kurās tai ir tiesiska kompetence/pilnvaras?

I-13. Lēmuma pārsūdzamība

Vai cilvēks var apstrīdēt MI ietekmētu lēmumu?

I-14. Tiesiskās aizsardzības pieejamība

Vai personai ir iepējas iegūt un nodrošināt:

informāciju → sūdzība → pārskatīšana → neatkarīga institūcija → tiesiskā aizsardzība?

I-15. Proporcionalitāte

Vai MI pielietojuma intensitāte ir samērīga ar leģitīmo mērķi?

IV. MI RISKA UN IETEKMES NOVĒRTĒJUMS

Šeit modelī tiek integrēta HUDERIA loģika. HUDERIA paredz strukturētu risku un ietekmes novērtēšanu cilvēktiesību, demokrātijas un tiesiskuma aspektā, bet COBRA palīdz kartēt sistēmas kontekstu, dizainu un ieviešanu.

I-16. Kaitējuma smagums

Ja kaut kas noiet greizi — cik smagas ir sekas?

I-17. Kaitējuma varbūtība

Cik ticams ir konkrētais kaitējums?

I-18. Ietekmes mērogs

Cik cilvēkus vai institūcijas tas var skart?

10 cilvēki ≠ 10 miljoni cilvēku.

I-19. Neatgriezeniskums

Vai kaitējumu iespējams novērst?

Piemēram:

nepareiza rekomendācija → labojama;

publiski izplatīta viltus apsūdzība → daudz grūtāk labojama;

neatgriezenisks cilvēktiesību pārkāpums → ļoti augsts risks.

I-20. Sistēmiskais risks

Vai viena MI kļūme var izraisīt ķēdes reakciju citās sistēmās?

Šis indikators ir ļoti nozīmīgs kritiskajai infrastruktūrai.

V. DATI UN INFORMĀCIJAS INTEGRITĀTE

I-21. Datu kvalitāte

Vai dati ir pietiekami precīzi, pilnīgi un atbilstīgi/piemēroti mērķim?

I-22. Datu izcelsmes pārbaudāmība

Jābūt iespējamībai noskaidrot:

kur dati radušies → kā iegūti → kas tos modificējis?

I-23. Datu aktualitāte

Vai dati atbilst konkrētajam lēmuma pieņemšanas laika sprīdim?

Novecojuši dati var radīt sistemātiski nekorektus rezultātus.

I-24. Datu minimizācija

Vai tiek izmantoti tikai nepieciešamie dati?

“Vairāk datu” nebūt nav automātiski “labāks MI”.

I-25. Datu aizsardzība

Vai pastāv pietiekama aizsardzība pret datu:

• noplūdi;
• neatļautu piekļuvi;
• ļaunprātīgu izmantošanu;
• sekundāru izmantošanu?

VI. CILVĒKA KONTROLE

Tas ir viens no HED-PPA centrālajiem slāņiem.

I-26. Cilvēka uzraudzība

Vai kompetents cilvēks dotajā realitātē uzrauga sistēmu?

Nevis ir tikai “ formāli nozīmēts”, bet “cilvēkam ir reāla iespēja/pilnvara iejaukties”.

ES MI akts augsta riska sistēmām paredz cilvēka uzraudzības pasākumu obligātumu.

I-27. Cilvēka lēmuma faktiskums

Vai cilvēks var pieņemt atšķirīgu lēmumu no MI rekomendācijas?

Ja “nē”, cilvēka kontrole ir tikai formāla.

I-28. MI rezultāta ignorējamība

Vai operators drīkst pamatoti noraidīt MI ģenerētu rezultātu bez sistēmas spiediena?

I-29. Droša apturēšana

Vai sistēmu iespējams droši apturēt?

OECD principi tieši paredz iespēju kaitējošas vai nevēlamas MI darbības droši pārtraukt, labot vai deaktivizēt, kad tas nepieciešams.

I-30. Atbildīgās personas identificējamība

Vai vienmēr ir zināms, kas pieņēma lēmumu par MI sistēmas izmantošanu?

VII. PĀRREDZAMĪBA UN IZSEKOJAMĪBA

I-31. MI izmantošanas deklarēšana

Vai cilvēks zina, ka konkrētajā procesā tiek izmantots MI?

ES MI akts paredz konkrētas pārredzamības prasības, tostarp noteiktos gadījumos informēšanu par mijiedarbību ar MI un MI radīta satura identificējamību.

I-32. Lēmuma izsekojamība

Vai iespējams rekonstruēt:

dati → process → MI rezultāts → cilvēka lēmums → sekas?

I-33. Dokumentācija

Vai ir dokumentēts:

• mērķis;
• modelis;
• dati;
• ierobežojumi;
• riski;
• testēšana;
• izmaiņas?

I-34. Algoritmiskā auditējamība

Vai neatkarīgs eksperts var pārbaudīt sistēmas darbību pietiekamā apjomā?

I-35. Ietekmētās personas informēšana

Vai cilvēkam tiek saprotami izskaidrots, kā MI ir ietekmējis viņa statusu/situāciju?

OECD īpaši sasaista pārredzamību ar iespēju ietekmētajām personām saprast rezultātu un to apstrīdēt.

VIII. NEATKARĪBA

Šis ir modeļa īpaši svarīgais “kontrolēt kontrolētāju” slānis.

I-36. Īpašnieka/pārvaldnieka varas koncentrācija

Cik liela kontrole pār MI sistēmu koncentrēta vienās rokās?

I-37. Ārējā audita/ekspertīzes neatkarība

Vai auditors/eksperts ir neatkarīgs no MI sistēmas īpašnieka vai pārvaldnieka?

I-38. Institucionālā neatkarība

Vai uzraugošā institūcija spēj pieņemt nepieciešamos lēmumus pret MI sistēmas īpašnieku, pārvaldnieku vai operatoru?

I-39. Interešu konflikts

Vai reāli pastāv finansiāla, politiska vai institucionāla interese mazināt atklāto risku?

I-40. Sabiedriskās kontroles iespēja

Vai pilsoniskā sabiedrība, pētnieki, žurnālisti var pārbaudīt sistēmas ietekmi pietiekamā apjomā?

ANO Global Digital Compact uzsver daudzu ieinteresēto pušu — valdību, privātā sektora, akadēmijas, tehniskās kopienas un pilsoniskās sabiedrības līdzdalību.

IX. AGRĪNĀ BRĪDINĀŠANA

Šajā līmenī SAP–MI/EWS kļūst par atsevišķu analītisku dzinējspēku.

I-41. Manipulācijas intensitātes pieaugums

Ne tikai: “vai ir manipulācijas?”, bet vai manipulāciju apjoms un efektivitāte pieaug?

I-42. Dezinformācijas izplatības pieaugums

Nosaka/meklē tendenci, nevis izvērtē atsevišķu incidentu.

I-43. MI izmantošanas centralizācija

Vai aizvien vairāk kritisko MI funkciju nenonāk vienas struktūras kontrolē?

I-44. Kritiskās infrastruktūras koncentrācija

Vai MI nekļūst par “vienīgo atteices punktu” (single point of failure)?

I-45. Neatkarīgās kontroles vājināšanās

Vai vienlaikus ar MI varas pieaugumu samazinās:

• auditējamība;
• tiesiskā kontrole;
• parlamentārā kontrole;
• mediju kontrole;
• pilsoniskā kontrole?

Tas ir viens no HED-EWS svarīgākajiem indikatoriem.

X. REAKCIJA UN ATBILDĪBA

I-46. Incidenta atklāšanas ātrums

Cik ātri sistēma konstatē kļūmi vai ļaunprātīgu izmantošanu?

I-47. Apturēšanas efektivitāte

Cik ātri iespējams:

atklāt → izolēt → apturēt → atjaunot?

I-48. Kaitējuma novēršanas iespēja

Vai pēc incidenta iespējams:

• labot lēmumu;
• dzēst kļūdainus datus;
• apturēt tālāku izplatību;
• kompensēt kaitējumu?

I-49. Atbildības ķēdes skaidrība

Vai iespējams identificēt izstrādātāju → piegādātāju → ieviesēju → operatoru → lēmuma pieņēmēju?

OECD atbildības princips tieši saista atbildību ar izsekojamību visā MI dzīves ciklā.

I-50. Cietušās personas aizsardzība

Vai cilvēkam, kuram MI nodarījis kaitējumu, ir pieejama:

informācija + sūdzība + pārskatīšana + labošana + tiesiskā aizsardzība + nepieciešamības gadījumā - atlīdzinājums?

ANO Global Digital Compact aicina nodrošināt cilvēktiesību pienācīgu pārbaudi, uzraudzību un efektīvus tiesiskās aizsardzības mehānismus.

Pierādījumu līmenis

  Katrs HED-PPA indikators tiek objektīvi argumentēts.

E0–E5 pierādījumu skala

Līmenis	Pierādījuma statuss
E0	nav pārbaudāmu pierādījumu
E1	apgalvojums / netieša norāde
E2	viens pārbaudāms avots
E3	vairāki neatkarīgi avoti
E4	oficiāls / tehnisks / auditēts pierādījums
E5	neatkarīgi atkārtoti verificējams pierādījums

Tas ļaus atdalīt divas pilnīgi dažādas lietas:

RISKS ≠ PIERĀDĪJUMA STIPRUMS.

Piemēram:

risks = 5, pierādījums = E1 nav tas pats, kas risks = 5, pierādījums = E5.

Pirmajā gadījumā ir nopietns brīdinājums, bet nepietiekams pamats galīgam secinājumam.

Otrajā — ārkārtīgi nopietns, neatkarīgi pārbaudīts risks.

Tieši šāda pieeja padara HED-PPA modeli objektīvāku un pārliecinošāku.

HED-PPA–AI 2.0 vērtēšanas matrica

Katra indikatora kartē  tiek ietverts:

Indikatora nosaukums
↓
Definīcija
↓
Pierādījumu avoti
↓
E0–E5 — pierādījuma ticamība
↓
0–5 — riska līmenis
↓
Tendence: ↓ / → / ↑
↓
Brīdinājuma statuss
↓
Nepieciešamā reakcija

Lai izveidotu ojektīvi kvalitatīvu kopēju “MI drošības izvērtēšanas skalu”,  nav pieļaujams, ka atzinums tiek reducēts uz kādu vidējo ciparu.

Piemēram, sistēmai var būt:

• cilvēktiesību risks = 1;
• demokrātijas risks = 4;
• tiesiskuma risks = 2;
• tehniskais risks = 1;
• varas koncentrācijas risks = 5.

Vidējais rādītājs šādā gadījumā būs maldinošs.

Tādēļ HED-PPA–AI jāizmanto riska vektors, nevis jāvadās tikai no kopīgā reitinga:

HED-PPA (RV) = [H, D, L, T, C, A]

kur:  H = Cilvēktiesības

D = Demokrātija

L = Tiesiskums

T = Tehniskā/sistēmiskā drošība

C = Varas koncentrācija

A = Atbildīgums

Tas nozīmē, ka jebkuru MI sistēmu nevar un nevarēs “izglābt” ar labu vidējo rezultātu, ja kaut vienā kritiskā dimensijā ir pieļauts ārkārtējs risks.

Tas ļauj HED-PPA saglabāt galveno funkcionālo principu:

Tiek analizēts risks, ko konkrēta MI izmantošana rada cilvēkam, demokrātijai un tiesiskumam, vienlaikus cilvēkam nekļūstot par algoritmiski “novērtējumu subjektu”.

OECD pašreizējie MI principi uzsver, ka cilvēktiesības, demokrātiskās vērtības, pārredzamība, drošība un atbildība jāskata kā savstarpēji papildinoši postulāti, nevis izolēti kritēriji.

 

 Katra no 50 indikatoriem pilna auditkarte

Tas ir posms, kad HED-PPA–AI 2.0 no koncepta pārvēršas par praktiski lietojamu metodoloģiju.

Katram no 50 indikatoriem izveidota pilna audita karte:

INDIKATORS → KO AUDITĒ? → KONTROLPUNKTI → PIERĀDĪJUMI → 0–5 RISKA SKALA → EWS/REAKCIJA

Visās kartēs tiek saglabāta E0–E5 pierādījuma stipruma skala, kas ir atdalīta no riska vērtējuma. Tas ir svarīgi, jo vāji pierādīts augsts risks ir nopietns brīdinājums, nevis automātisks fakts.

Metodoloģiski šāda pieeja balstās uz HUDERIA ietvarā formulēto cilvēktiesību, demokrātijas un tiesiskuma ietekmes novērtēšanu, konteksta, dizaina un ieviešanas risku kartēšanu, kā arī seko OECD principiem par cilvēka autonomiju, pārredzamību, izsekojamību, drošību un atbildību.

HED-PPA–AI 2.0

50 preventīvo indikatoru pilnās audita kartes

 

I-01 → definīcija → 3–5 pārbaudāmi jautājumi → konkrēti pierādījumu avoti → E0–E5 → 0–5 riska kritēriji → slieksnis → EWS signāls → korektīvā darbība.

A. CILVĒKTIESĪBAS UN CILVĒKA CIEŅA

I-01 — Cilvēka cieņas aizsardzība

Ko auditē?

Vai MI sistēma izturas pret cilvēku kā autonomu personu ar cieņu, nevis kā manipulējamu, klasificējamu vai instrumentāli izmantojamu objektu?

Kontroljautājumi

1.    Vai sistēmas mērķis respektē cilvēka cieņu?

2.    Vai cilvēks netiek reducēts uz algoritmisku profilu?

3.    Vai sistēma rada dehumanizācijas risku?

4.    Vai pastāv aizsardzības mehānismi pret pazemojošu vai instrumentalizējošu izmantošanu?

Pierādījumi
Ietekmes novērtējums; sistēmas mērķis; lietošanas noteikumi; incidentu reģistrs; sūdzības; neatkarīgs audits.

0–5

• 0 — risks nav konstatēts.
• 1 — minimāls.
• 2 — ierobežotas nepilnības.
• 3 — būtisks risks.
• 4 — augsts risks.
• 5 — sistemātiska cilvēka dehumanizācija/instrumentalizācija.

EWS: ≥3 → cilvēktiesību padziļināta pārbaude; 5 → pārbaude pret RL-1 (,,Sarkanā līnija”: Cilvēka cieņas apzināta degradācija).

I-02 — Diskriminācijas risks

Ko auditē?
Vai MI rada nepamatoti atšķirīgu/neadekvātu ietekmi uz personām vai sociālām grupām?

Kontroljautājumi

• Vai rezultāti būtiski atšķiras starp grupām?
• Vai dati satur zināmus aizspriedumus?
• Vai vērojamas/prognozējamas diskriminācijas izpausmes?
• Vai ir korekcijas mehānisms?

Pierādījumi
Datu kopas; aizspriedumu/godīguma testi; rezultātu statistika; neatkarīgi testi; sūdzības.

0–5
0 — nav konstatētas būtiskas atšķirības;
1 — minimāla novirze;
2 — novirze kontrolējama;
3 — būtiska nevienlīdzība;
4 — augsta diskriminējoša ietekme;
5 — sistemātiska un nekoriģēta diskriminācija.

EWS: ≥3 → godīguma audits; ≥4 → neatkarīga pārbaude.

I-03 — Privātuma risks

Ko auditē?
Vai personas dati tiek vākti, analizēti un glabāti tam nepieciešamā un samērīgā apjomā?

Kontroljautājumi

• Kādi dati tiek vākti?
• Vai visi ir nepieciešami?
• Vai tiek izmantoti sensitīvi dati?
• Kam ir piekļuve?
• Cik ilgi dati tiek glabāti?

Pierādījumi
Datu plūsmas karte; privātuma ietekmes novērtējums; piekļuves žurnāli; glabāšanas politika.

0–5
0 — pilnīga kontrole;
1 — minimāls risks;
2 — ierobežots;
3 — būtisks;
4 — augsts;
5 — sistemātiska nepamatota personas datu izmantošana.

EWS: ≥3 → DPA/privātuma audits.

I-04 — Personas autonomija

Ko auditē?
Vai cilvēkam saglabājas reāla iespēja pašam pieņemt lēmumu?

Kontroljautājumi

• Vai MI ietekme lietotājam ir zināma?
• Vai iespējams atteikties?
• Vai tiek izmantotas ievainojamības?
• Vai cilvēks var izdarīt izvēli pretēji MI ieteikumam?

Pierādījumi
Lietotāja pieredzes testi; mērķtiecīgas MI pielietošanas dokumentācija; algoritmiskās rekomendācijas; uzvedības eksperimenti.

0–5
0 — autonomija pilnībā saglabāta;
3 — būtiska ietekmēšana;
4 — ļoti būtiska autonomijas samazināšana;
5 — manipulācija vai faktiska izvēles aizstāšana.

EWS: ≥3 → manipulācijas audits.

I-05 — Pamattiesību proporcionalitāte

Ko auditē?
Vai MI radītais ieguvums ir samērīgs ar pamattiesību ierobežojumu?

Kontroljautājumi

1.    Vai mērķis ir leģitīms?

2.    Vai MI ir nepieciešams?

3.    Vai pastāv mazāk ierobežojoša alternatīva?

4.    Vai ieguvums atsver tiesību ierobežojumu?

Pierādījumi
Juridiskais pamatojums; alternatīvu analīze; ietekmes novērtējums.

0–5: no pilnīgas proporcionalitātes līdz acīmredzami nesamērīgam ierobežojumam.

EWS: ≥3 → juridiska aspekta cilvēktiesību pārskats.

B. DEMOKRĀTIJA UN BRĪVĀ IZVĒLE

I-06 — Brīvas politiskās izvēles aizsardzība

Ko auditē?
Vai MI izmantošana neapdraud cilvēka spēju izdarīt brīvu izvēli un veidot politiskos uzskatus?

Kontroljautājumi

• Vai notiek politiska personalizācija?
• Vai cilvēka politiskās īpašības tiek profilētas?
• Vai tiek izmantoti sensitīvi secinājumi?
• Vai informācija tiek individuāli manipulēta?

Pierādījumi
Kampaņu sistēmu dokumentācija; MI mikromērķēšanas parametri; reklāmu arhīvi; neatkarīgi pētījumi.

5: sistemātiskas konfidenciāla rakstura  politiskās izvēles manipulācijas.

EWS: ≥3 → demokrātijas audits; 5 → RL-2 pārbaude.

I-07 — Manipulācijas risks

Ko auditē?
Vai MI ietekmē uzvedību, izmantojot cilvēka ievainojamības vai maldināšanu?

Kontroljautājumi

• Vai sistēma izmanto personu psiholoģiskos profilus?
• Vai lietotājs zina par ietekmēšanu?
• Vai saturs ir tīši maldinošs?
• Vai manipulācija ir individualizēta?

Pierādījumi
Modeļa darbības dati; reklāmu bibliotēkas; eksperimenti; sistēmas specifikācijas.

5: plaša, apzināta un kaitējoša manipulācija.

ES MI akts jau aizliedz noteiktas kaitējošas manipulācijas un ievainojamību izmantošanas formas.

I-08 — Informācijas telpas integritāte

Ko auditē?
Vai MI veicina uzticamas informācijas vidi, nevis sistemātiski rada maldinošu sintētisku saturu?

Kontroljautājumi

• Vai MI saturs ir identificējams?
• Vai dziļviltojumi tiek marķēti?
• Vai pastāv izcelsmes mehānismi?
• Vai sistēma veicina koordinētu dezinformāciju?

Pierādījumi
Satura paraugi; izcelsmes (provenance) metadati; platformas dati; incidenti.

EWS: straujš sintētiskās dezinformācijas pieaugums → brīdinājums.

ES MI akta noteiktās pārredzamības prasības MI radītam saturam un dziļviltojumu saturam piemērojamas no 2026. gada augusta.

I-09 — Demokrātiskās līdzdalības pieejamība

Ko auditē?
Vai MI izmantošana demokrātiskajos procesos nerada nepamatotu piekļuves nevienlīdzību?

Kontroljautājumi

• Vai MI pieejams cilvēkiem ar invaliditāti?
• Vai MI pieejams dažādās valodās?
• Vai digitāli mazāk aizsargātās grupas netiek izslēgtas?
• Vai pastāv alternatīvs ne-digitāls/analogs kanāls?

Pierādījumi
Pieejamības testi; lietotāju statistika; valodu pārklājums; sūdzības.

5: demokrātiskās līdzdalības grupu izslēgšana.

I-10 — Politiskās konkurences vienlīdzība

Ko auditē?
Vai MI nedod vienai politiskajai grupai nepamatotu tehnoloģisku priekšrocību?

Kontroljautājumi

• Vai piekļuve datiem ir nevienlīdzīga?
• Vai MI tiek izmantots slēptai mērķietekmei?
• Vai resursu koncentrācija nerada nesamērīgu ietekmi?

Pierādījumi
Kampaņu finansējums; reklāmu dati; tehnoloģiju izmantošanas dati; platformu informācija.

EWS: būtiska koncentrācija → demokrātijas uzraudzība.

C. TIESISKUMS

I-11 — Juridiskais pamatojums

Ko auditē?
Vai sistēmai ir stingrs tiesiskais pamats?

Pierādījumi: likumi, noteikumi, pilnvarojums, Datu aizsardzības ietekmes novērtējums, HUDERIA, līgumi.

5: sistēma darbojas bez pietiekama tiesiska pamata.

I-12 — Kompetences robežas

Ko auditē?
Vai institūcija MI izmanto tikai savas tiesiskās kompetences ietvaros?

Kontrole: pilnvarojums → mērķis → faktiskā izmantošana.

5: apzināta kompetences pārsniegšana.

I-13 — Lēmuma pārsūdzamība

Ko auditē?
Vai MI ietekmētu/sintezētu lēmumu iespējams apstrīdēt?

Pierādījumi: pārsūdzības procedūra; termiņi; faktiskie gadījumi.

5: nav efektīvas pārsūdzības iespējas.

I-14 — Tiesiskās aizsardzības pieejamība

Ko auditē?

informācija → sūdzība → pārskatīšana → neatkarīgs lēmums → tiesa/efektīvs tiesību aizsardzības līdzeklis.

5: ķēde faktiski nedarbojas.

I-15 — Proporcionalitāte

Ko auditē?
Vai sistēmas intensitāte ir samērīga ar leģitīmo mērķi?

Pierādījumi: alternatīvu analīze; izmaksu/ieguvumu un tiesību ietekmes novērtējums.

EWS: neatbilstoši plašs MI pielietojums.

D. MI RISKS UN IETEKME

HUDERIA tieši izmanto tādus risku dimensiju jēdzienus kā mērogs, tvērums, varbūtība, atgriezeniskums (scale, scope, probability, reversibility), tādēļ šis bloks ir centrālais sistēmas riska aprēķinam.

I-16 — Kaitējuma smagums

Jautājums: Kas notiek sliktākajā ticami prognozējamā scenārijā?

0 — nenozīmīgs;
1 — neliels;
2 — ierobežots;
3 — ievērojams;
4 — smags;
5 — ļoti smags/plašs kaitējums.

Pierādījumi: scenāriju analīze; incidenti; ekspertu vērtējums.

I-17 — Kaitējuma varbūtība

Jautājums: Cik ticams ir identificētais kaitējums?

0 — praktiski nav pamata sagaidīt;
1 — ļoti zema;
2 — zema;
3 — reāla;
4 — augsta;
5 — ļoti augsta/pastāvīga.

Pierādījumi: incidentu dati; testēšana; statistika; vēsturiskie dati.

I-18 — Ietekmes mērogs

Jautājums: Cik cilvēku/institūciju var ietekmēt viena kļūme?

0 — individuāli;
1 — ļoti neliels skaits;
2 — lokāls;
3 — plašs;
4 — nacionāls;
5 — masveida/starptautisks.

I-19 — Neatgriezeniskums

Jautājums: Vai nodarīto kaitējumu iespējams pilnībā novērst?

0 — pilnībā atgriezenisks;
1 — viegli labojams;
2 — labojams;
3 — daļēji labojams;
4 — grūti labojams;
5 — būtībā neatgriezenisks.

I-20 — Sistēmiskais risks

Jautājums: Vai viena MI kļūme var izraisīt domino efektu?

Kontrole:

• savienojumu skaits;
• kritiskās infrastruktūras atkarība;
• vienīgais atteices punkts (“single point of failure”);
• kaskādes scenāriji.

5: viena kļūme var izraisīt plašu sistēmisku sabrukumu.

E. DATI UN INFORMĀCIJAS INTEGRITĀTE

I-21 — Datu kvalitāte

Auditē: precizitāti, pilnīgumu, reprezentativitāti, konsekvenci.

Pierādījumi: datu kvalitātes testi; kļūdu procenti; trūkstošo datu

konstatācija.

5: dati būtiski neatbilst sistēmas mērķim.

I-22 — Datu izcelsmes pārbaudāmība

Auditē: vai ir zināms datu avots un transformāciju ķēde.

Pierādījumi: izcelsme/piekļuves žurnāli/metadati.

5: kritiski dati bez pārbaudāmas izcelsmes.

I-23 — Datu aktualitāte

Auditē: vai dati ir reprezentatīvi/atbilst lēmuma laikam.

Pierādījumi: laika zīmogs; atjaunošanas cikls; datu novecošanas pārbaudes.

5: novecojuši dati rada būtisku lēmumu risku.

I-24 — Datu minimizācija

Auditē: vai tiek izmantots vienīgi/tikai nepieciešamais datu apjoms.

Pierādījumi: datu kartējums; nepieciešamības pamatojums.

5: sistemātiska pārmērīga datu vākšana.

I-25 — Datu aizsardzība

Auditē: piekļuves, šifrēšanas, glabāšanas, dzēšanas iespējas, incidentu kontrole.

Pierādījumi: drošības audits; piekļuves žurnāli; incidentu reģistrs.

5: nekontrolēta sensitīvu datu pieejamība/noplūde.

F. CILVĒKA KONTROLE

OECD 2024. gada principi uzsver ne tikai cilvēka lomu uzraudzībā, bet paredz arī iespēju droši pārtraukt, labot vai deaktivizēt kaitīgu sistēmu funkcionēšanu.

I-26 — Cilvēka uzraudzība

Auditē: vai cilvēkam ir reāla, nevis tikai formāla kontrole.

Tests: vai operators var identificēt kļūmi un iejaukties?

5: cilvēka kontrole ir tikai deklaratīva.

I-27 — Cilvēka lēmuma reālistiskums

Auditē: vai cilvēks patiešām pieņem lēmumu, nevis tikai apstiprina MI rezultātu.

Tests: formāla pārbaude (“rubber-stamp test”).

Ja >90%, MI rekomendācijas tiek automātiski pieņemtas bez pārbaudes, jāveic padziļināts audits.

I-28 — MI rezultāta ignorējamība

Auditē: vai kompetents cilvēks var pamatoti noraidīt MI rekomendāciju.

Pierādījumi: procedūra; faktiskie noraidījumi; operatoru intervijas.

5: MI rekomendācija faktiski nav apstrīdama.

I-29 — Droša apturēšana

Auditē: vai sistēmu var droši apturēt (bez nekontrolētas sekundāras ietekmes).

Tests: kontrolēta izslēgšanas/drošas atteices tests (controlled shutdown / fail-safe).

5: nav efektīva apturēšanas mehānisma kritiskā sistēmā.

I-30 — Atbildīgās personas identificējamība

Auditē: vai katrā būtiskā posmā zināms atbildīgais cilvēks/institūcija.

Pierādījumi: RACI (projektu vadības rīks, kas sasaista katru uzdevumu vai izstrādājamo rezultātu ar projekta lomām, katrai personai nosakot tās iesaistes līmeni); atbildības matrica; audita žurnāli.

5: atbildība ir strukturāli neidentificējama.

G. PĀRREDZAMĪBA UN IZSEKOJAMĪBA

ES MI akta augsta riska sistēmu prasības ietver riska pārvaldību, datu kvalitāti, darbību reģistrēšanu, dokumentāciju, cilvēka rīcības leģitīmu uzraudzību, kiberdrošību, pārredzamības noteikumus, kuri stājas spēkā no 2026. gada augusta.

I-31 — MI izmantošanas deklarēšana

Jautājums: Vai cilvēks zina, ka konkrētajā procesā tiek pielietots MI?

5: apzināta slēpšana apstākļos, kad informēšana ir obligāta.

I-32 — Lēmuma izsekojamība

Auditē:

IEVADE → MODELIS → IZVADE → CILVĒKA PĀRBAUDE → LĒMUMS → SEKAS

Vai šo ķēdi iespējams rekonstruēt?

5: kritisks lēmums nav rekonstruējams.

I-33 — Dokumentācija

Auditē:

• mērķis;
• modelis;
• dati;
• ierobežojumi;
• riski;
• testēšana;
• versijas;
• izmaiņas.

5: kritiskā dokumentācija nav pieejama auditoram.

I-34 — Algoritmiskā auditējamība

Auditē: vai neatkarīgs auditors var korekti pārbaudīt sistēmas darbību.

5: sistēma faktiski funkcionē kā “melnā kaste” jomā, kur pārbaude ir obligāti nepieciešama.

I-35 — Ietekmētās personas informēšana

Auditē: vai cilvēkam saprotami izskaidrota MI iesaiste/ieguldījums lēmumā un iespēja to apstrīdēt.

OECD tieši sasaista pārredzamību ar iespēju saprast MI rezultātu un to apstrīdēt.

5: persona būtiski ietekmēta, bet nav informēta un nevar apstrīdēt.

H. NEATKARĪBA UN IESPĒJA “KONTROLĒT KONTROLĒTĀJU”

I-36 — Īpašnieka varas koncentrācija

Auditē: cik liela kontrole pār kritisko/riskanto MI ir vienpersoniska.

Mēra: dati + modelis + infrastruktūra + piekļuve + lēmumu varas mērogs.

5: faktiski nekontrolējama varas koncentrācija.

I-37 — Ārējā audita neatkarība

Auditē: vai auditors ir finansiāli, institucionāli vai operacionāli neatkarīgs.

5: audita vērtējums kļuvis atkarīgs no auditējamā subjekta statusa

I-38 — Institucionālā neatkarība

Auditē: vai uzraugs spēj/var pieņemt lēmumu pret sistēmas īpašnieku/operatoru.

Pierādījumi: juridiskais statuss; finansējums; iecelšanas kārtība; iepriekšējie lēmumi.

I-39 — Interešu konflikts

Auditē: vai pastāv finansiāls, politisks vai institucionāls stimuls risku mazināt vai slēpt.

5: būtisks konflikts bez risku, nelabvēlīgas ietekmes vai seku mazināšanas iespējām (bez mitigācijas).

I-40 — Sabiedriskās kontroles iespēja

Auditē: vai pētniekiem, žurnālistiem, pilsoniskajai sabiedrībai un ietekmētajiem cilvēkiem ir pietiekama informācija pārbaudes veikšanai.

OECD uzsver, ka pārredzamība veicina publisko uzraudzību un atbildību.

5: kritiska MI sistēma faktiski nav pakļauta ārējai kontrolei.

I. AGRĪNĀS BRĪDINĀŠANAS SLĀNIS

Šeit I-41–I-45 nav tikai statiski audita kritēriji. Tie ir arī HED-EWS sensori

I-41 — Manipulatīvu darbību intensitātes pieaugums

Mēra: manipulācijas incidentu izplatības, personalizācijas, automatizācijas dinamiku.

Signāls:

• → stabils;
• ↑ pieaug;
• ↑↑ straujš pieaugums.

EWS: ↑↑ → nekavējoties pārskatīt I-07.

I-42 — Dezinformācijas izplatības pieaugums

Mēra:

• sintētiskā satura īpatsvaru;
• izplatības ātrumu;
• koordinācijas pazīmes;
• reproduktīvos tīklus.

EWS: straujš pieaugums + politiski nozīmīgs konteksts → paaugstināts demokrātijas noturības brīdinājums.

I-43 — MI izmantošanas centralizācija

Mēra:

• kritisko sistēmu skaitu viena operatora kontrolē;
• datu koncentrāciju;
• infrastruktūras koncentrāciju;
• alternatīvu pieejamību.

5: viena subjekta kontroles potenciāls  kļūst faktiski nelimitēts.

I-44 — Kritiskās infrastruktūras koncentrācija

Mēra: cik daudz kritisku procesu ir atkarīgi no viena modeļa, piegādātāja, datu centra vai sistēmas.

Tests: “Kas notiek, ja šī sistēma pazūd uz 24/72 stundām?”

5: kritiska funkcija bez reālas rezerves.

I-45 — Neatkarīgās kontroles vājināšanās

Mēra vienlaikus:

• audita pieejamību;
• parlamentāro kontroli;
• tiesisko kontroli;
• mediju/pilsonisko kontroli;
• uzraudzības institūciju neatkarību.

Īpaši bīstama kombinācija:

MI vara ↑ + neatkarīga kontrole ↓

→ sistēmiskais brīdinājums.

J. REAKCIJA UN ATBILDĪBA

I-46 — Incidenta atklāšanas ātrums

Mēra: laiku no incidenta rašanās līdz tā atklāšanai.

Skala:
0 — gandrīz nekavējoties;
1 — ļoti ātri;
2 — pieņemami;
3 —nopietna aizkave;
4 — būtiska aizkave;
5 — incidents tiek atklāts tikai pēc ārējas iejaukšanās.

I-47 — Apturēšanas efektivitāte

Mēra:

ATKLĀT → IZOLĒT → APTURĒT → ATJAUNOT

5. kritiskā situācijā sistēmu praktiski nav iespējams efektīvi apturēt.

I-48 — Kaitējuma novēršanas iespēja

Auditē: vai iespējams:

• atsaukt kļūdainu lēmumu;
• labot datus;
• apturēt izplatību;
• novērst sekundāru kaitējumu;
• atlīdzināt zaudējumus.

5: kaitējums pēc incidenta praktiski nav novēršams.

I-49 — Atbildības ķēdes skaidrība

Auditē: izstrādātājs → piegādātājs → ieviesējs → operators → lēmuma pieņēmējs

Vai katram posmam ir noteikta atbildība?

5. atbildība ir “izkliedēta” tā, ka faktiski nav iespējams noteikt atbildīgo.

OECD atbildības princips tieši prasa izsekojamību attiecībā uz datiem, procesiem un lēmumiem visā MI dzīves ciklā.

I-50 — Cietušās personas aizsardzība

Auditē: vai cilvēkam ir pilna aizsardzības ķēde:

INFORMĀCIJA → SŪDZĪBA → PĀRSKATĪŠANA → LABOŠANA → ATLĪDZINĀJUMS → TIESISKĀ AIZSARDZĪBA

0: pilnībā pieejama.
1: minimālas nepilnības.
2: ierobežojumi.
3: būtiskas barjeras.
4: aizsardzība lielā mērā neefektīva.
5: praktiski nav pieejama efektīva aizsardzība.

XI. E0–E5 PIERĀDĪJUMA PROTOKOLS

Lai visas 50 kartes darbotos vienādi, tiek pievienota obligātu pierādījumu klasifikācija:

E	Pierādījuma līmenis	Nozīme
E0	nav pierādījumu	tikai hipotēze
E1	apgalvojums/netieša norāde	nav pietiekams secinājumam
E2	viens pārbaudāms avots	sākotnēja verifikācija
E3	≥2 neatkarīgi avoti	pietiekami ticams
E4	oficiāls/tehnisks/auditēts avots	augsta ticamība
E5	neatkarīgi atkārtoti verificēts	ļoti augsta ticamība

Būtisks noteikums

Riska vērtējumu nedrīkst automātiski paaugstināt, ja pierādījums ir vājš.

I-07 = risks 5 + E1 fiksē agrīno brīdinājumu, nevis sniedz galīgo spriedumu.

Savukārt, I-07 = risks 5 + E5 konstatē kritisku, neatkarīgi verificētu risku.

Tas ir ļoti svarīgs aizsardzības mehānisms pret pašas HED-PPA kļūšanu par nepamatotu “riska marķēšanas” sistēmu.

XII. KĀ IZSKATĀS PILNA HED-PPA AUDITA KARTE

Praktiskai izmantošanai katrs indikators tiek standartizēts šādā formā:

HED-AUDIT CARD

ID: I-XX
Nosaukums: …
Slānis: …
Mērķis: …
Definīcija: …
Kontroljautājumi: 3–5
Primārie pierādījumi: …
Sekundārie pierādījumi: …
Pierādījuma līmenis: E0–E5
Riska līmenis: 0–5
Tendence: ↓ / → / ↑ / ↑↑
EWS statuss: Zaļš / Dzeltens / Sarkans / Kritisks

,,Sarkanā līnija”: RL-XX konkrētajā situācijā
Korektīvā darbība: …
Neatkarīgā audita nepieciešamība: Jā/Nē
Pārsūdzības mehānisms: …
Audita datums:  …
Nākamā pārbaude: …

Šādā formā tiek veidots arī digitālais HED-PPA–AI audita panelis.

XIII. SEŠU DIMENSIJU RISKA VEKTORU ĢENERĀCIJA

Lietderīgi neaprobežoties tikai ar “HED-PPA kopējo punktu skaita aprēķinu, bet vēlams ģenerēt sešu dimensiju riska vektoru: HED-RV = [H, D, L, T, C, A]

H — Cilvēktiesību risks

D — Demokrātijas risks

L — Tiesiskuma risks

T — Tehniskais un sistēmiskais risks

C — MI/varas koncentrācijas risks

A — Atbildības un kontroles risks

Tas ir būtiski, lai, piemēram:

H=1, D=2, L=1, T=1, C=5, A=5

nedrīkstētu tikt “izglābts” ar zemu vidējo rezultātu.

Varas pilnvaru koncentrācija un atbildības trūkums paši par sevi var būt kritisks sistēmisks risks.

Šī pieeja arī pilnībā atbilst HUDERIA principam, ka risku jāvērtē ne tikai abstrakti, bet kontekstā. Ņemot vērā potenciālo ietekmi uz cilvēktiesībām, demokrātiju, tiesiskumu.

IR NOFORMĒTA PILNA HED-PPA–AI 2.0 STRUKTŪRA

Tā sastāv no:

12 slāņi
↓
50 indikatori
↓
katrs definēts
↓
kontroljautājumi
↓
pierādījumu avoti
↓
0–5 riska skala
↓
E0–E5 pierādījuma skala
↓
EWS signāls
↓
korektīvā reakcija
↓
25 ,,sarkanās līnijas”

Tas nozīmē, ka HED-PPA–AI 2.0 ir sasniedzis potenciālu kļūt par auditējamu metodoloģisku instrumentu.

Tomēr 50 kartes vēl joprojam nav pilnvērtīga metodoloģija. Par metodoloģiski vitālu sistēmu HED-PPA–AI 2.0 kļūs tad, kad scenāriju testēšana konsekventi demonstrēs spēju identificēt risku, pierādījumu kvalitāti, ,,sarkano līniju” pārkāpumus un nepieciešamo reakciju.

Rodot sabiedrības/valsts atbalstu, nākamajā solī būtu nepieciešams veikt 50 karšu sadursmes testu (“crash test”) un metodoloģiski pareizi notestēt šīs 50 kartes uz vairākiem hipotētiskiem MI izmantošanas scenārijiem, t.i., kritiskā veidā pārbaudīt, kā tas viss darbojas praksē.

 Piemēram:

1.    MI politiskās komunikācijas/mērķpielietošanas sistēmas ietvaros;

2.    MI valsts pārvaldes lēmumu atbalstam;

3.    MI kritiskās infrastruktūras aizsardzībai.

Tas ļautu atklāt, kuri indikatori pārklājas, kuri ir pārāk abstrakti un kuriem nepieciešama precīzāka 0–5 skala.

Piemēram,

SC-1 — “MI politiskās informācijas sistēma”

MI analizē sabiedrības informācijas telpu un ģenerē personalizētu politisko saturu.

SC-2 — “MI valsts sociālo lēmumu sistēma”

MI palīdz noteikt personu prioritāti sociālo pakalpojumu saņemšanā.

SC-3 — “MI krīzes/valsts drošības vadības sistēma”

MI analizē lielu datu apjomu un sniedz iestādei rekomendācijas krīzes laikā.

Katram scenārijam tiek izsekotas visas 50 kartes, bet katrai kartei fiksēts:

I-ID → pierādījums → E0–E5 → riska 0–5 → HED-RV vektors → EWS signāls → RL aktivizācija → nepieciešamā reakcija.

Tad kļūst iespējams pārbaudīt četras svarīgas lietas:

1.      Darbības joma (Coverage) — vai 50 indikatori vispār atklāj kritiskos riskus?

2.      Dublēšana (Redundancy) — vai vairāki indikatori nedara faktiski vienu un to pašu?

3.      Jūtīgums (Sensitivity) — vai bīstams scenārijs tiek pamanīts pietiekami agri?

4. Viltus trauksmes (False alarms) — vai sistēma neģenerē pārmērīgi daudz “sarkano” brīdinājumu?

Tas ir īpaši svarīgi, jo OECD pašreizējie materiāli par MI izmantošanu valsts institūciju funkciju īstenošanā norāda, ka riski nav tikai tehniski: būtiskas problēmas rodas arī no neobjektīviem datiem, nepietiekamas pārredzamības, pārmērīgas paļaušanās uz MI un vājas ietekmes uzraudzības.