Gadiem ilgi tehnoloģiju nozare ir darbojusies zem ērta tiesiskā vairoga, apgalvojot, ka tās ir tikai neitrālas platformas lietotāju radītam saturam. Tomēr trešdien Losandželosas zvērināto tiesa sagrāva šo aizstāvību vēsturiskā lēmumā, kas varētu pārdefinēt regulatīvo vidi veselai paaudzei. Zvērinātie atzina Meta un YouTube par atbildīgiem par apzinātu atkarību izraisošu produktu izstrādi, kas kaitēja jaunai lietotājai, piespriežot prasītājai 6 miljonu dolāru kompensāciju.
Šī nebija lieta par to, ko cilvēki teica internetā; tā bija lieta par to, kā internets tika uzbūvēts. Zvērinātie noteica, ka tehnoloģiju milži bija nolaidīgi un nesniedza pienācīgus brīdinājumus par sistēmiskajām briesmām, kas piemīt to platformām. No atbilstības viedokļa tas pārvirza sarunu no satura moderācijas uz atbildību par produktu. Tas liecina, ka algoritmi, ja tie ir pielāgoti, lai izmantotu neaizsargāta nepilngadīgā psiholoģiju, vairs nav tikai programmatūra — tie ir potenciāli defektīvi produkti.
Prasītāja, 20 gadus veca sieviete, kas identificēta kā KGM, bija centrālā persona sešu nedēļu ilgā tiesas procesā, kas vairāk atgādināja Silīcija ielejas dvēseles tiesu medicīnisko auditu. Pēc deviņu dienu apspriešanās zvērinātie 70% atbildības piešķīra Meta un 30% — YouTube. Prezentētie pierādījumi bija daudzpusīgi, ietverot trauksmes cēlēju un augstākā līmeņa vadītāju liecības, kuriem bija jāatbild par detalizētu informāciju saistībā ar viņu iesaistes rādītājiem.
Savā darbā kā digitālais detektīvs es bieži secinu, ka visatklājošākā informācija nav tā, ko uzņēmums saka savos spožajos sabiedrisko attiecību paziņojumos, bet gan tas, ko tas slēpj savu privātuma politiku un iekšējo memorandu necaurredzamajos stūros. Šī procesa laikā tika atvērts priekškars tam, kā šīs platformas izmanto periodisku pastiprināšanu — to pašu psiholoģisko mehānismu, ko izmanto spēļu automātos —, lai liktu lietotājiem turpināt ritināšanu. Interesanti, ka aizstāvība apgalvoja, ka šīs funkcijas ir vienkārši tas, ko lietotāji vēlējās. Tomēr zvērinātie saskatīja bīstamu nelīdzsvarotību starp korporatīvo peļņu un lietotāju drošību.
Kā cilvēks, kurš iestājas par privātumu pēc konstrukcijas (privacy by design), es uzskatu jebkura digitālā produkta pamatu par māju. Ja pamats ir būvēts uz datu minimizēšanas un lietotāja autonomijas principa, māja ir droša. Bet, ja pamats ir būvēts uz maksimālu "pavadītā laika" palielināšanu par katru cenu, struktūra kļūst par toksisku aktīvu.
Praksē tiesas process izgaismoja fundamentālu nespēju ieviest robustus drošības pasākumus. Zvērināto atzinums par nolaidību liecina, ka uzņēmumi zināja — vai tiem vajadzēja zināt —, ka to saskarnes neatbilst pamata rūpības standartiem attiecībā uz nepilngadīgajiem. Citiem vārdiem sakot, platformas tika izstrādātas tā, lai tās pēc savas būtības būtu uzbāzīgas, apejot detalizētu piekrišanu, kurai būtu jāpārvalda tas, kā tiek ievākta jauniešu uzmanība.
Es atceros, kā izmeklēju pārkāpumu kādā lielā bankā, kur problēma bija ne tikai uzlaušana, bet gan sistēmiska nespēja izturēties pret biometriskajiem datiem ar pelnīto cieņu. Es pavadīju nedēļu, skaidrojot lasītājiem, ka tad, kad biometriskie dati ir zuduši, tie ir zuduši uz visiem laikiem. Šī tiesas prāva šķiet līdzīga. Tiklīdz jaunieša garīgo veselību ir ietekmējusi atgriezeniskās saites cilpa, kuru viņš nav izvēlējies, kaitējums nav viegli novēršams. Informācija šajā kontekstā nav tikai aktīvs; tā ir saistības, ja ar to rīkojas bez stingra ētiskā kompasa.
Neskatoties uz tūlītējo finansiālo ietekmi, ko rada 6 miljonu dolāru kompensācija, šī sprieduma eksteritoriālās sekas ir dziļas. Pašlaik mēs vērojam regulatīvo ainavu, kas atgādina ielāpu segu, dažādām valstīm un štatiem mēģinot sašūt kopā savus drošības standartus. Šis Losandželosas spriedums sniedz jaunu pavedienu: ideju, ka pats produkta dizains ir likumā noteikta problēma.
Saskaņā ar šo sistēmu tehnoloģiju uzņēmumi vairs nevar paslēpties aiz aizstāvības "pakalpojumu sniegšanas noteikumi kā labirints". Pārāk ilgi šie dokumenti ir izmantoti, lai apraktu algoritmisko manipulāciju riskus. Kā žurnālists, kurš rūpīgi pārbauda katru ekrānuzņēmumu, meklējot slēptos personas datus — no ģeogrāfiskās atrašanās vietas līdz fotoattēlu metadatiem —, es uzskatu par atsvaidzinošu redzēt, ka tiesa pieprasa tādu pašu caurskatāmības līmeni no pasaules lielākajām korporācijām.
Galu galā šis spriedums kalpo kā kompass turpmākajām tiesvedībām. Tas mūs attālina no binārajām debatēm par "vārda brīvību pret cenzūru" un ieved niansētākā teritorijā — "drošs dizains pret plēsonīgu arhitektūru". Tas uztver privātumu un garīgo integritāti kā pamata cilvēktiesības, nevis tikai kā atzīmes rūtiņas atbilstības veidlapā.
Kad es rediģēju stāstu, mans pirmais instinkts ir noņemt nevajadzīgo, lai aizsargātu subjektu. Es jautāju: "Vai lasītājam tiešām ir vajadzīga šī personīgā detaļa, lai saprastu problēmu?" Es piemēroju līdzīgu loģiku savai digitālajai higiēnai, izmantojot tikai šifrētus kanālus, piemēram, Signal un PGP atslēgas. Šī tiesas prāva liecina, ka tehnoloģiju uzņēmumiem vajadzēja uzdot līdzīgu jautājumu: "Vai šai funkcijai tiešām ir jābūt tik atkarību izraisošai, lai tā būtu noderīga?"
Vecākiem, pedagogiem un tieslietu speciālistiem šis lēmums ir aicinājums rīkoties. Mums ir jāvirzās uz sarežģītāku izpratni par to, kā digitālā vide ietekmē cilvēka psihi.
Necaurredzamo algoritmu ēra beidzas. Virzoties uz priekšu, uzmanības centrā jāpaliek digitālās pasaules veidošanai, kas ir gan robusta, gan cienoša pret indivīdiem, kuri tajā mīt.
Avoti:



Mūsu end-to-end šifrētais e-pasta un mākoņdatu glabāšanas risinājums nodrošina visefektīvākos līdzekļus drošai datu apmaiņai, garantējot jūsu datu drošību un konfidencialitāti.
/ Izveidot bezmaksas kontu