Kodėl Portugalijos prokurorai perduoda DI „juodąją dėžę“ auditoriams

Dar gerokai prieš tai, kai atsakovas žengia į teismo salę arba dar net neatvėrus bylos, nematoma skaitmeninė ranka jau gali būti surūšiavusi, išanalizavusi ir pažymėjusi įrodymus. Tyliuose teisingumo sistemos koridoriuose algoritmai vis dažniau atlieka sunkiausią darbą. Tačiau ilgus metus šios sistemos veikė „juodojoje dėžėje“ – erdvėje, kurioje kodas liko neskaidrus, o sprendimai buvo priimami be aiškių atskaitomybės pėdsakų.

Ši nekontroliuojamos automatizacijos era Vakarų Europoje baigiasi. Po to, kai buvo įgyvendintas ES DI aktas, Portugalijos viešojo kaltinimo tarnyba (Ministério Público) žengė ryžtingą žingsnį, kad atskleistų užkulisius. Priimdama išsamią Etiško dirbtinio intelekto naudojimo chartiją bei Techninio audito ir stebėsenos politiką, tarnyba duoda ženklą, kad nors DI gali būti galingas įrankis, jis niekada nebus tas, kuris laiko teisėjo plaktuką.

Teisingumo apsauginiai atitvarai: kodėl Chartija svarbi dabar

Reguliavimo kontekste Portugalijos viešojo kaltinimo tarnybos žingsnis nėra tik biurokratinis atnaujinimas; tai esminis technologijų ir teisės sąveikos pertvarkymas. Naujai priimta Chartija taikoma visoms tarnyboje naudojamoms DI sistemoms, tačiau joje didelis dėmesys skiriamas tam, ką ES DI aktas apibrėžia kaip didelės rizikos sistemas.

Didelės rizikos DI reiškia programinę įrangą, kuri turi didelę įtaką asmens gyvenimui, pavyzdžiui, sistemos, naudojamos įdarbinimui, kredito reitingų nustatymui arba, šiuo atveju, teisėsaugai ir teismams. Kadangi šios priemonės gali turėti įtakos tam, ar asmuo bus tiriamas, arba kaip bus prioritetizuojami įrodymai, klaidų tikimybė čia negalima.

Iš esmės Chartija veikia kaip apsauginiai atitvarai kalnų kelyje. Ji leidžia transporto priemonei – DI – judėti greitai, tačiau neleidžia jai nulėkti nuo šališkumo ar neteisėtumo skardžio. Anksti nustatydama šias taisykles, Portugalija bando užkirsti kelią „juodosios dėžės“ problemai, kai net kūrėjai negali paaiškinti, kodėl algoritmas priėmė konkrečią išvadą.

Pagrindiniai principai: žmogaus kontrolės išlaikymas

Chartijos pagrindą sudaro šeši esminiai principai, kuriuos turi atitikti kiekviena DI sistema, kad jai būtų leista prisiliesti prie bylos medžiagos.

1. Pagarba pagrindinėms teisėms: DI privalo gerbti orumą ir teises, įtvirtintas Portugalijos Konstitucijoje ir ES pagrindinių teisių chartijoje.
2. Nediskriminavimas: Sistemos turi būti griežtai tikrinamos siekiant užtikrinti, kad jos nepateiktų šališkų rezultatų dėl rasės, lyties, religijos ar socioekonominio statuso.
3. Skaidrumas: Kitaip tariant, mašinos rezultato „kaip“ ir „kodėl“ turi būti paaiškinami žmogui stebėtojui.
4. Duomenų apsauga: DI naudojimas turi atitikti BDAR, užtikrinant, kad asmens duomenys būtų tvarkomi taip pat kruopščiai kaip fizinių įrodymų saugykla.
5. Žmogiškoji priežiūra: Tai „žmogaus grandinėje“ (human-in-the-loop) principas. Žmogus visada turi turėti galutinį žodį ir galią atšaukti mašinos pasiūlymą.
6. Saugumas ir atsparumas: Sistemos turi būti atsparios įsilaužimams ir techniniams gedimams.

Atitikties požiūriu šie principai prokurorams tarnauja kaip kompasas. Jie užtikrina, kad technologijos liktų pavaldžiu partneriu, o ne autonomišku sprendimų priėmėju.

Didysis draudimas: jokio prognozuojamo nuosprendžių priėmimo

Įdomu tai, kad viena reikšmingiausių Chartijos dalių yra ne apie tai, ką DI gali daryti, o apie tai, kas jam yra griežtai draudžiama. Viešojo kaltinimo tarnyba nubrėžė griežtą ribą: DI negali pakeisti žmogaus sprendimo, o prognozuojamieji vertinimai yra draudžiami.

Kai kuriose jurisdikcijose „prognozuojamos policijos veiklos“ arba „prognozuojamo nuosprendžių priėmimo“ priemonės buvo naudojamos siekiant įvertinti tikimybę, kad asmuo ateityje įvykdys nusikaltimą. Portugalija atmetė šį kelią. Pagal šią sistemą algoritmas negali būti naudojamas nustatant atsakovo „rizikos balą“ arba siūlant konkrečią bausmę remiantis istoriniais duomenimis.

Tai kritinė pergalė skaitmeninėms teisėms. Pripažįstama, kad algoritmai iš prigimties žiūri atgal – jie mokosi iš praeities, įskaitant praeities šališkumą. Leisti jiems prognozuoti ateitį teisingumo sistemoje būtų tas pats, kas naudoti galinio vaizdo veidrodėlį vairuojant automobilį per sausakimšą sankryžą. Tai iš esmės pavojinga ir, reguliavimo kontekste, teisiškai rizikinga.

Audito politika: žengiant už pasitikėjimo ribų

Nors Chartija nurodo „kas“, Techninio audito ir stebėsenos politika nurodo „kaip“. Praktikoje daugelis organizacijų priima etikos gaires, o tada palieka jas dulkėti lentynose. Portugalija vengia šių spąstų kurdama Daugiadalykį DI priežiūros komitetą.

Šiam komitetui pavesta nuolatinė atitikties patikra. Tai nėra vienkartinis patikrinimas; tai gyvas institucinės sveikatos procesas. Kiekviena prokurorų naudojama DI sistema bus nuodugniai audituojama, tiriant mokymui naudojamus duomenų rinkinius, algoritmų logiką ir faktinius realaus pasaulio rezultatus, kuriuos jie sukuria.

Galvokite apie tai kaip apie skaitmeninę liudytojų apsaugos programą duomenų vientisumui užtikrinti. Auditoriai užtikrina, kad į DI tiekiami duomenys nebūtų „užnuodyti“ netikslumų ir kad sistemos veikimas laikui bėgant „nenukryptų“ ir netaptų mažiau tikslus ar labiau šališkas.

Ką tai reiškia privačiam sektoriui

Nors ši politika skirta Portugalijos viešojo kaltinimo tarnybai, jos atgarsiai bus juntami visame privačiame sektoriuje. Įmonės, kuriančios teisinės technologijos (legal-tech) ar DI įrankius vyriausybiniam naudojimui, dabar turi labai aiškų reikalavimų sąrašą.

Be to, tai tarnauja kaip pavyzdys bet kuriai organizacijai – nesvarbu, ar tai būtų bankas, ligoninė, ar mažmeninės prekybos milžinė – kuri naudoja didelės rizikos DI. Perėjimas nuo „veik greitai ir laužyk standartus“ prie „veik atsargiai ir dokumentuok viską“ dabar yra pasaulinis standartas. Organizacijos, kurios nesugebės priimti panašių etikos gairių ir audito politikos, taps vis labiau pažeidžiamos tiek teisinių iššūkių, tiek visuomenės pasitikėjimo praradimo atžvilgiu.

Galiausiai, privatumą tausojantis DI yra ne tik įstatymų laikymasis; tai užtikrinimas, kad žengdami į automatizuotą ateitį, nepaliktume nuošalyje savo esminio žmogiškumo.

Veiksmai DI atitikčiai užtikrinti

Jei jūsų organizacija šiuo metu diegia ar kuria DI sistemas, pasinaudokite Portugalijos pavyzdžiu, kad užtikrintumėte, jog jūsų „skaitmeninis mokinys“ eitų teisingu keliu:

• Atlikite rizikos inventorizaciją: Kategorizuokite savo DI sistemas. Ar kurios nors iš jų yra „didelės rizikos“ pagal ES DI aktą? Jei jos daro įtaką įdarbinimui, skolinimui ar teisinėms teisėms, atsakymas tikriausiai yra „taip“.
• Įdiekite žmogiškąją priežiūrą: Užtikrinkite, kad būtų „avarinio išjungimo“ (Kill Switch) arba perėmimo mechanizmas. Joks automatizuotas sprendimas, turintis įtakos asmens teisėms, neturėtų būti galutinis be žmogaus peržiūros.
• Audituokite savo duomenų šaltinius: Ištirkite savo mokymo duomenis dėl istorinio šališkumo. Jei jūsų duomenys yra „toksiškas turtas“, užpildytas senais prietarais, jūsų DI tiesiog automatizuos tą toksiškumą.
• Suburkite daugiadalykę komandą: Atitiktis skirta ne tik teisininkams ir ne tik IT specialistams. Jums reikia tilto tarp jų abiejų, kad suprastumėte, kaip kodas veikia teisę.
• Paskelbkite savo skaidrumo manifestą: Būkite atviri su savo vartotojais ar klientais apie tai, kaip naudojate DI. Skaidrumas yra geriausias priešnuodis „juodosios dėžės“ baimei.

Šaltiniai

• ES DI aktas (Reglamentas (ES) 2024/1689): Bendroji dirbtinio intelekto sistema Europos Sąjungoje.
• BDAR 5 ir 22 straipsniai: Principai, susiję su asmens duomenų tvarkymu ir apsauga nuo automatizuoto atskirų sprendimų priėmimo.
• Etiško DI naudojimo chartija (Portugalijos Ministério Público): Pagrindinis dokumentas, nustatantis etines ribas Portugalijos prokurorams.
• Institucinių DI sistemų techninio audito ir stebėsenos politika: Procedūrinis DI priežiūros vadovas Portugalijos teisingumo sistemoje.

Atsakomybės apribojimas: Šis straipsnis yra skirtas tik informaciniams ir žurnalistiniams tikslams. Jame nagrinėjama teisės ir technologijų sankirta, tačiau jis nėra oficiali teisinė konsultacija. Dėl konkrečių atitikties reikalavimų kreipkitės į kvalifikuotą teisininką, besispecializuojantį DI ir duomenų apsaugos srityse.