Kāpēc Portugāles prokurori nodod mākslīgā intelekta „melno kasti” auditoriem

Ilgi pirms apsūdzētais sper kāju tiesas zālē vai pat pirms tiek atvērta lietas mape, neredzama digitāla roka, iespējams, jau ir sašķirojusi, analizējusi un atzīmējusi pierādījumus. Klusajos tiesu sistēmas koridoros algoritmi arvien biežāk ir tie, kas veic smago darbu. Taču gadiem ilgi šīs sistēmas darbojās „melnās kastes” ietvaros — telpā, kur kods palika necaurredzams un lēmumi tika pieņemti bez skaidras atbildības pēctecības.

Šis nekontrolētās automatizācijas laikmets Rietumeiropā tuvojas beigām. Uzreiz pēc ES MI akta (EU AI Act) ieviešanas Portugāles Ģenerālprokuratūra (Ministério Público) ir spērusi izšķirošu soli, lai atvērtu priekškaru. Pieņemot visaptverošu Mākslīgā intelekta ētiskas izmantošanas hartu un Tehnisko audita un uzraudzības politiku, dienests signalizē, ka, lai gan MI var būt spēcīgs instruments, tas nekad nebūs tas, kurš turēs tiesneša āmuru.

Tiesiskuma aizsargmūri: kāpēc harta ir svarīga tieši tagad

Regulatīvajā kontekstā Portugāles Ģenerālprokuratūras solis nav tikai birokrātisks atjauninājums; tā ir fundamentāla pārkārtošanās tajā, kā tehnoloģijas mijiedarbojas ar likumu. Jaunpieņemtā harta attiecas uz visām dienestā izmantotajām MI sistēmām, taču tajā īpašs uzsvars likts uz to, ko ES MI akts definē kā augsta riska sistēmas.

Augsta riska MI attiecas uz programmatūru, kurai ir būtiska ietekme uz indivīda dzīvi, piemēram, sistēmām, ko izmanto darbā pieņemšanā, kredītspējas novērtēšanā vai, šajā gadījumā, tiesībsargājošajās iestādēs un tiesu sistēmā. Tā kā šie rīki var ietekmēt to, vai pret kādu tiek sākta izmeklēšana vai kā tiek prioritizēti pierādījumi, kļūdas iespējamība šeit nedrīkst pastāvēt.

Būtībā harta darbojas kā aizsargbarjeru komplekts uz kalnu ceļa. Tā ļauj transportlīdzeklim — MI — pārvietoties ātri, taču neļauj tam nogāzties no aizspriedumu vai nelikumības klints. Izstrādājot šos noteikumus savlaicīgi, Portugāle mēģina novērst „melnās kastes” problēmu, kur pat izstrādātāji nespēj izskaidrot, kāpēc algoritms nonācis pie konkrēta secinājuma.

Pamatprincipi: cilvēka kontroles saglabāšana

Hartas pamatā ir seši pamatprincipi, kuriem jāatbilst katrai MI sistēmai, pirms tai tiek atļauts pieskarties lietas materiāliem.

1. Pamattiesību ievērošana: MI ir jāievēro Portugāles Konstitūcijā un ES Pamattiesību hartā nostiprinātā cieņa un tiesības.
2. Nediskriminācija: Sistēmas ir stingri jāpārbauda, lai nodrošinātu, ka tās nerada aizspriedumainus rezultātus, pamatojoties uz rasi, dzimumu, reliģiju vai sociālekonomisko statusu.
3. Pārredzamība: Citiem vārdiem sakot, mašīnas rezultāta „kāpēc” un „kā” ir jābūt izskaidrojamam cilvēkam-novērotājam.
4. Datu aizsardzība: MI izmantošanai jāatbilst VDAR (GDPR), nodrošinot, ka ar personas datiem rīkojas tikpat rūpīgi kā ar fizisku pierādījumu glabātuvi.
5. Cilvēka uzraudzība: Šis ir „cilvēks-cilpā” (human-in-the-loop) princips. Cilvēkam vienmēr ir jāpieder galavārdam un pilnvarām atcelt mašīnas ieteikumu.
6. Drošība un robustums: Sistēmām jābūt izturīgām pret uzlaušanu un tehniskiem kļūmēm.

No atbilstības viedokļa šie principi kalpo kā kompass prokuroriem. Tie nodrošina, ka tehnoloģija paliek pakļauts partneris, nevis autonoms lēmumu pieņēmējs.

Lielais aizliegums: nekādu prognozējošu spriedumu

Interesanti, ka viena no nozīmīgākajām hartas daļām nav par to, ko MI var darīt, bet gan par to, ko tam ir stingri aizliegts darīt. Ģenerālprokuratūra ir novilkusi nepārprotamu robežu: MI nevar aizstāt cilvēka spriedumu, un prognozējošie novērtējumi ir aizliegti.

Dažās jurisdikcijās „prognozējošās policijas darba” vai „prognozējošo spriedumu” rīki ir izmantoti, lai aplēstu iespējamību, ka persona nākotnē izdarīs noziegumu. Portugāle ir noraidījusi šo ceļu. Saskaņā ar šo sistēmu algoritmu nevar izmantot, lai noteiktu apsūdzētā „riska rādītāju” vai ieteiktu konkrētu sodu, pamatojoties uz vēsturiskajiem datiem.

Tā ir kritiska uzvara digitālajām tiesībām. Tas atzīst, ka algoritmi pēc savas būtības ir vērsti uz pagātni — tie mācās no pagātnes, tostarp no pagātnes aizspriedumiem. Atļaut tiem prognozēt nākotni tiesu sistēmā būtu tas pats, kas izmantot atpakaļskata spoguli, lai vadītu automašīnu cauri pārpildītam krustojumam. Tas ir pēc būtības bīstami un regulatīvajā kontekstā — juridiski nedroši.

Audita politika: vairāk nekā tikai uzticēšanās

Kamēr harta nosaka „ko”, Tehniskā audita un uzraudzības politika nosaka „kā”. Praksē daudzas organizācijas pieņem ētikas vadlīnijas un pēc tam ļauj tām gulēt plauktā. Portugāle izvairās no šī slazda, izveidojot Daudznozaru MI uzraudzības komiteju.

Šīs komitejas uzdevums ir nepārtraukta atbilstības pārbaude. Tā nav vienreizēja apskate; tas ir dzīvs institucionālās veselības process. Katra MI sistēma, ko izmanto prokurori, tiks pakļauta detalizētiem auditiem, kuros pārbauda apmācībai izmantotās datu kopas, algoritmu loģiku un faktiskos reālās pasaules rezultātus, ko tie rada.

Domājiet par to kā par digitālo liecinieku aizsardzības programmu datu integritātei. Auditori nodrošina, ka MI ievadītie dati nav „saindēti” ar neprecizitātēm un ka sistēmas darbība laika gaitā nav „novirzījusies”, kļūstot mazāk precīza vai aizspriedumaināka.

Ko tas nozīmē privātajam sektoram

Lai gan šī politika attiecas tieši uz Portugāles Ģenerālprokuratūru, tās atskaņas būs jūtamas visā privātajā sektorā. Uzņēmumiem, kas izstrādā juridiskās tehnoloģijas vai MI rīkus valsts pārvaldes vajadzībām, tagad ir ļoti skaidrs prasību saraksts.

Turklāt tas kalpo kā paraugs jebkurai organizācijai — neatkarīgi no tā, vai tā ir banka, slimnīca vai mazumtirdzniecības gigants —, kas izmanto augsta riska MI. Pāreja no „darbojies ātri un salauz lietas” uz „darbojies uzmanīgi un dokumentē visu” tagad ir globālais standarts. Organizācijas, kas nepieņems līdzīgas ētikas vadlīnijas un audita politiku, kļūs arvien neaizsargātākas gan pret juridiskiem izaicinājumiem, gan sabiedrības uzticības zaudēšanu.

Galu galā privātumu aizsargājošs MI nav saistīts tikai ar likuma ievērošanu; tas ir par to, lai, virzoties uz automatizētu nākotni, mēs neatstātu novārtā savu fundamentālo cilvēcību.

Praktiski soļi MI atbilstības nodrošināšanai

Ja jūsu organizācija pašlaik ievieš vai izstrādā MI sistēmas, ņemiet piemēru no Portugāles pieredzes, lai nodrošinātu, ka jūsu „digitālais māceklis” paliek uz pareizā ceļa:

• Veiciet riska inventarizāciju: Kategorizējiet savas MI sistēmas. Vai kāda no tām ir „augsta riska” saskaņā ar ES MI aktu? Ja tās ietekmē pieņemšanu darbā, kreditēšanu vai juridiskās tiesības, atbilde, visticamāk, ir apstiprinoša.
• Ieviesiet cilvēka uzraudzību: Nodrošiniet, lai būtu „avārijas slēdzis” vai ignorēšanas mehānisms. Neviens automatizēts lēmums, kas ietekmē personas tiesības, nedrīkst būt galīgs bez cilvēka pārbaudes.
• Auditējiet savus datu avotus: Pārbaudiet apmācības datus, vai tajos nav vēsturisku aizspriedumu. Ja jūsu dati ir „toksisks aktīvs”, kas piepildīts ar veciem aizspriedumiem, jūsu MI vienkārši automatizēs šo toksiskumu.
• Izveidojiet daudznozaru komandu: Atbilstība nav domāta tikai juristiem, un tā nav domāta tikai IT speciālistiem. Jums ir nepieciešams tilts starp abiem, lai saprastu, kā kods ietekmē likumu.
• Publicējiet savu pārredzamības manifestu: Esiet atklāti pret saviem lietotājiem vai klientiem par to, kā jūs izmantojat MI. Pārredzamība ir labākais pretlīdzeklis bailēm no „melnās kastes”.

Avoti

• EU AI Act (Regulation (EU) 2024/1689): Visaptverošais mākslīgā intelekta ietvars Eiropas Savienībā.
• GDPR Article 5 & 22: Principi attiecībā uz personas datu apstrādi un aizsardzību pret automatizētu individuālu lēmumu pieņemšanu.
• Charter for the Ethical Use of AI (Ministério Público de Portugal): Galvenais dokuments, kas nosaka ētikas robežas Portugāles prokuroriem.
• Technical Audit and Monitoring Policy for Institutional AI Systems: Procesuālā rokasgrāmata MI uzraudzībai Portugāles tiesu sistēmā.

Atruna: Šis raksts ir paredzēts tikai informatīviem un žurnālistikas mērķiem. Tajā tiek pētīta tiesību un tehnoloģiju krustpunkts, taču tas nav uzskatāms par oficiālu juridisku konsultāciju. Konkrētu atbilstības prasību gadījumā konsultējieties ar kvalificētu juristu, kas specializējas MI un datu aizsardzībā.