Daugelį metų technologijų pramonė veikė po patogiu teisiniu skydu, teigdama, kad jos yra tik neutralios platformos vartotojų kuriamam turiniui. Tačiau trečiadienį Los Andželo prisiekusiųjų taryba sugriovė šią gynybą priimdama istorinį sprendimą, kuris gali iš naujo apibrėžti reguliavimo aplinką visai kartai. Prisiekusieji pripažino „Meta“ ir „YouTube“ atsakingomis už sąmoningą priklausomybę sukeliančių produktų kūrimą, kurie pakenkė jaunai vartotojai, ir priteisė ieškovei 6 milijonus JAV dolerių žalos atlyginimo.
Tai nebuvo byla apie tai, ką žmonės sakė internete; tai buvo byla apie tai, kaip internetas buvo sukurtas. Prisiekusieji nustatė, kad technologijų milžinės buvo aplaidžios ir nesugebėjo pateikti tinkamų įspėjimų apie jų platformoms būdingus sisteminius pavojus. Atitikties požiūriu tai perkelia diskusiją nuo turinio moderavimo prie atsakomybės už produktą. Tai rodo, kad algoritmai, pritaikyti išnaudoti pažeidžiamo nepilnamečio psichologiją, nebėra tik programinė įranga – jie yra potencialiai nekokybiški produktai.
Ieškovė, 20 metų moteris, įvardijama kaip KGM, atsidūrė šešias savaites trukusio teismo proceso centre, kuris labiau priminė Silicio slėnio sielos teismo ekspertizę. Po devynių dienų svarstymo prisiekusieji 70 % atsakomybės priskyrė „Meta“ ir 30 % – „YouTube“. Pateikti įrodymai buvo įvairiapusiai, apimantys informatorių ir aukščiausio lygio vadovų parodymus, kurie buvo priversti atsakyti už smulkiausias savo įtraukimo rodiklių detales.
Savo, kaip skaitmeninio detektyvo, darbe dažnai pastebiu, kad labiausiai atskleidžianti informacija yra ne tai, ką įmonė sako savo blizgiuose pranešimuose spaudai, o tai, ką ji slepia nepermatomuose privatumo politikos kampuose ir vidaus memorandumuose. Šio teismo proceso metu buvo atskleista, kaip šios platformos naudoja protarpinį pastiprinimą – tą patį psichologinį mechanizmą, naudojamą lošimo automatuose – kad vartotojai nenustotų slinkti per turinį. Įdomu tai, kad gynyba teigė, jog šios funkcijos buvo tiesiog tai, ko norėjo vartotojai. Tačiau prisiekusieji įžvelgė pavojingą disbalansą tarp įmonės pelno ir vartotojų saugumo.
Kaip žmogus, pasisakantis už privatumą pagal projektą (angl. privacy by design), bet kurio skaitmeninio produkto pagrindą vertinu kaip namą. Jei pamatai pastatyti remiantis duomenų minimizavimo ir vartotojo autonomijos principu, namas yra saugus. Tačiau kai pamatai statomi siekiant bet kokia kaina maksimaliai padidinti „praleistą laiką“, struktūra tampa toksišku turtu.
Praktikoje teismo procesas išryškino esminę nesėkmę diegiant tvirtas saugos priemones. Prisiekusiųjų nustatytas aplaidumas rodo, kad įmonės žinojo – arba turėjo žinoti – jog jų sąsajos neatitinka pagrindinių nepilnamečių priežiūros standartų. Kitaip tariant, platformos buvo sukurtos taip, kad būtų įkyrios iš prigimties, apeinant išsamų sutikimą, kuris turėtų reglamentuoti, kaip renkamas jauno žmogaus dėmesys.
Prisimenu, kaip tyriau pažeidimą dideliame banke, kur problema buvo ne tik įsilaužimas, bet ir sisteminė nesėkmė elgtis su biometriniais duomenimis su derama pagarba. Savaitę aiškinau skaitytojams, kad praradus biometrinius duomenis, jie prarandami visam laikui. Šis teismas jaučiasi panašiai. Kai jauno žmogaus psichinei sveikatai pakenkia grįžtamojo ryšio kilpa, kurios jis nepasirinko, žala nėra lengvai atitaisoma. Informacija šiame kontekste yra ne tik turtas; tai yra atsakomybė, jei su ja elgiamasi be griežto etikos kompaso.
Nepaisant tiesioginio 6 milijonų JAV dolerių priteisimo finansinio poveikio, šio verdikto ekstrateritorinės pasekmės yra didžiulės. Šiuo metu matome reguliavimo aplinką, kuri primena lopinių antklodę, kur skirtingos valstijos ir šalys bando susiūti savo saugos standartus. Šis Los Andželo sprendimas suteikia naują giją: idėją, kad pats produkto dizainas yra įstatyminis rūpestis.
Pagal šią sistemą technologijų įmonės nebegali slėptis už gynybos „paslaugų teikimo sąlygos kaip labirintas“. Per ilgai šie dokumentai buvo naudojami siekiant paslėpti algoritminio manipuliavimo riziką. Kaip žurnalistas, kuris kruopščiai tikrina kiekvieną ekrano kopiją, ieškodamas paslėptų asmens duomenų – nuo geolokacijos iki nuotraukų metaduomenų – džiaugiuosi matydamas, kad teismas reikalauja tokio paties skaidrumo lygio iš didžiausių pasaulio korporacijų.
Galiausiai šis verdiktas tarnauja kaip kompasas būsimiems teismo procesams. Jis atitolina mus nuo binarinių debatų apie „žodžio laisvę prieš cenzūrą“ ir perkelia į labiau niuansuotą „saugaus dizaino prieš grobuonišką architektūrą“ teritoriją. Jis vertina privatumą ir psichinį vientisumą kaip pagrindines žmogaus teises, o ne tik varneles atitikties formoje.
Kai redaguoju istoriją, mano pirmasis instinktas yra pašalinti tai, kas nereikalinga, kad apsaugočiau subjektą. Klausiu: „Ar skaitytojui tikrai reikia šios asmeninės detalės, kad suprastų problemą?“ Panašią logiką taikau ir savo skaitmeninei higienai, naudodamas tik šifruotus kanalus, tokius kaip Signal ir PGP raktus. Šis teismas rodo, kad technologijų įmonės turėjo užduoti panašų klausimą: „Ar ši funkcija tikrai turi būti tokia sukelianti priklausomybę, kad būtų naudinga?“
Tėvams, pedagogams ir teisės specialistams šis sprendimas yra raginimas veikti. Turime siekti sudėtingesnio supratimo apie tai, kaip skaitmeninė aplinka veikia žmogaus psichiką.
„Nepermatomo algoritmo“ era baigiasi. Einant į priekį, dėmesys turi išlikti skaitmeninio pasaulio kūrimui, kuris būtų ir tvirtas, ir pagarbus jame gyvenantiems asmenims.
Šaltiniai:



Pašto ir debesies saugojimo sprendimas suteikia galingiausias saugaus keitimosi duomenimis priemones, užtikrinančias jūsų duomenų saugumą ir privatumą.
/ Sukurti nemokamą paskyrą