Programėlių parduotuvių saugumo pažadas visada buvo tik iliuzija

Prieš kelerius metus programėlės paieškos procesas buvo paprastas. Vartotojas atidarydavo skaitmeninę parduotuvę, įrašydavo raktinį žodį paieškos juostoje ir tikėjo, kad rezultatai yra saugūs, nes juos patikrino trilijonų dolerių vertės korporacija. Tai buvo pagrindinis „aptverto sodo“ (angl. walled garden) patrauklumas. Jis siūlė sanitarizuotą alternatyvą laukiniam, nenuspėjamam atvirajam internetui. Šiandien tas saugumo jausmas išnyko. Kai vartotojas ieško paprasto nuotraukų redaktoriaus, algoritmas dažnai siūlo įrankius, skirtus be sutikimo „nurengti“ žmones nuotraukose. Būtent ši realybė paskatino San Fransisko miesto prokurorą Davidą Chiu nurodyti „Apple“ ir „Google“ pašalinti dešimtis „nudify“ programėlių iš savo platformų.

Pokytis nuo neutralių vamzdžių iki aktyvių tarpininkų

Istoriškai technologijų milžinai veikė saugomi teisinių sistemų, kurios juos laikė neutraliais tarpininkais. Jie buvo vamzdžiai, o ne vanduo. Jei vartotojas pasidalindavo kuo nors neteisėtu, kaltas būdavo vartotojas, o ne paslaugų teikėjas. Ši paradigma pasikeitė. Kalifornijos įstatymai dabar kriminalizuoja veiklą, kuria sąmoningai palengvinamas arba neatsakingai padedamas kurti nepageidaujamas giliųjų klastočių (angl. deepfake) pornografinis turinys. 2025 m. įstatymas dar labiau leidžia aukoms kelti civilines bylas trečiųjų šalių platformoms, kuriose talpinama ši medžiaga. San Fransisko miestas dabar teigia, kad „Apple“ ir „Google“ nebėra pasyvūs šeimininkai. Apdorodamos mokėjimus ir siūlydamos šias programėles per paieškos algoritmus, šios bendrovės yra aktyvios grobuoniškos ekonomikos dalyvės.

Žvelgiant plačiau pramonės lygmeniu, šis teisinis spaudimas žymi „nesikišimo“ eros programėlių moderavimo srityje pabaigą. Praeityje įmonės pasikliovė automatiniais filtrais, kad sugautų draudžiamą turinį; šiandien šie filtrai nepajėgia susidoroti su milžinišku generatyvinio dirbtinio intelekto įrankių kiekiu. „Tech Transparency Project“ nustatė, kad abi bendrovės apie šias programėles buvo įspėtos dar 2026 m. sausį. Nepaisant šių įspėjimų, programėlės išliko prieinamos mėnesius. Šis delsimas rodo, kad programėlių peržiūros infrastruktūra neatlaiko savo pačios masto svorio. Kai platformoje talpinami milijonai programinės įrangos vienetų, rankinė peržiūra tampa kliūtimi, kurią dauguma korporacijų pasirenka ignoruoti vardan augimo.

Nesutikimo kodo ekonomika

Už šių programėlių buvimo slypi finansinė logika. „Apple“ ir „Google“ paprastai ima 30 procentų komisinį mokestį už pirkinius programėlėse. Kai „nudify“ programėlė apmokestina vartotoją už kreditus vaizdui sugeneruoti, dalis tų pinigų keliauja tiesiai platformos savininkui. Davidas Chiu skaičiuoja, kad šios įmonės iš šių operacijų uždirbo milijonus dolerių. Tai sukuria interesų konfliktą tarp saugumo ir pajamų. Kasdieniais terminais tariant, tai panašu į prekybos centrą, kuris ima dalį pelno iš parduotuvės, prekiaujančios vogtomis prekėmis. Prekybos centras turi visas paskatas laikyti parduotuvę atvirą tol, kol mokama nuoma ir valdžios atstovai nesibeldžia į duris.

Techniškai kalbant, problema yra ne tik programėlių egzistavimas, bet ir tai, kaip parduotuvės jas reklamuoja. „Tech Transparency Project“ pastebėjo, kad „Google“ ir „Apple“ tyčia nukreipdavo vartotojus link šių įrankių per paieškos pasiūlymus. Tai yra algoritminio kuravimo šalutinis produktas. Parduotuvės paieškos variklis sukurtas rodyti vartotojams tai, ką jie tikriausiai atsisiųs, o ne tai, ką etiška talpinti. Jei tūkstančiai žmonių ieško konkretaus tipo išnaudojimo įrankio, algoritmas teikia pirmenybę tam įrankiui, kad maksimaliai padidintų sandorio tikimybę. Kodas neturi moralinio kompaso; jis turi tik konversijos rodiklį.

Algoritminio vartų sargo žlugimas

Žvelgiant giliau, „nudify“ programėlės dažnai naudoja sudėtingus metodus, kad apeitų pradinį peržiūros procesą. Kūrėjai patvirtinimui gali pateikti iš pažiūros nekenksmingą nuotraukų filtrų programėlę. Kai programėlė jau veikia, ji gali atsisiųsti naują kodą arba pasiekti nuotolinius DI modelius, kurie atlieka tikrąjį vaizdo manipuliavimą. Tai yra techninė skola moderavimo sistemoje. Peržiūros procesas vyksta vienu laiko momentu, tačiau programinė įranga yra dinamiška. Kūrėjas gali pakeisti programėlės elgseną po to, kai ji jau yra vartotojo telefone. Dėl to vienkartinis patikrinimas prie vartų tampa neefektyvia saugumo priemone.

Paradoksalu, bet tos pačios įmonės, kurios reklamuoja savo įrenginius kaip į privatumą orientuotus įrankius, yra tos, kurios užtikrina privatumą pažeidžiančios programinės įrangos platinimą. „Apple“ dažnai naudojasi savo ekosistemos kontrole, kad apribotų dalijimąsi duomenimis tarp teisėtų programėlių, tačiau jai sunkiai sekėsi atpažinti programinę įrangą, kuri naudoja DI nusitaikymui į asmenis. Tai atspindi fragmentišką požiūrį į platformos saugumą. Viena įmonės dalis kuria tvirtą šifravimą; kita įmonės dalis apdoroja mokėjimus už programėles, kurios generuoja nepageidaujamus intymius vaizdus. Šios dvi verslo pusės ne visada bendrauja tarpusavyje.

Pasenusios sistemos DI pasaulyje

Daugelis įrankių, naudojamų programėlių parduotuvėms stebėti, yra pasenusios sistemos. Jos buvo sukurtos erai, kai programėlės buvo statiniai kodo paketai. Dabartinėje aplinkoje programėlė dažnai yra tik plonas apvalkalas aplink internetinį API. Pagrindinis DI apdorojimo darbas vyksta nuotoliniame serveryje, kurio programėlių parduotuvių peržiūros specialistai nemato. Dėl to pati programėlė tampa „juodąja dėže“. Jei API yra restorano padavėjas, programėlių parduotuvė mato tik užsakymą priimantį asmenį. Ji neturi galimybės sužinoti, kas vyksta virtuvėje, kol patiekalas jau nėra ant stalo.

Todėl atsakomybė už saugumą persikėlė nuo platformos ant visuomenės pečių. Kai „Apple“ ir „Google“ teigia, kad imasi skubių veiksmų po to, kai pranešama apie pažeidimus, jos pripažįsta, kad jų proaktyvios sistemos nepavyko. Jos pasikliauja vartotojais, žurnalistais ir miesto prokurorais, kurie už jas atlieka moderavimo darbą. Tai sukuria reaktyvią aplinką, kurioje žala jau būna padaryta dar prieš pašalinant programėlę. Giliųjų klastočių pornografijos aukoms sustabdymas, įvykstantis praėjus mėnesiams po to, kai programėlė buvo atsisiųsta tūkstančius kartų, yra tuščia pergalė.

Skaitmeninės parduotuvės kontrolės atgavimas

Galiausiai San Fransisko nurodymas yra priminimas, kad mūsų gyvenimus valdanti programinė įranga nėra bevaldė teritorija. Kodas, valdantis „iPhone“ ar „Android“ įrenginį, paklūsta toms pačioms visuomenės taisyklėms kaip ir bet kuris kitas produktas. Pasiekėme tašką, kai skaitmeninis raštingumas reikalauja, kad žvelgtume toliau nei intuityvi programėlių parduotuvės sąsaja ir matytume už jos slypinčias verslo taisykles. Mums pažadėta kuruojama patirtis yra rinkodaros konstrukcija. Praktiškai parduotuvė yra atvira rinka, kurioje pagrindinis tikslas yra sandoris.

Turėtume stebėti savo skaitmeninius įpročius ir paklausti, kodėl taip aklai pasitikime šiomis platformomis. Programėlės buvimas oficialioje parduotuvėje nėra kokybės ar saugumo ženklas. Tai ženklas, kad kūrėjas laikėsi tam tikrų techninių specifikacijų ir sutiko dalytis savo pajamomis. Kaip vartotojai, privalome reikalauti daugiau nei reaktyvaus moderavimo. Turėtume tikėtis, kad įmonės, kontroliuojančios mūsų skaitmeninio gyvenimo infrastruktūrą, bus tokios pat budrios dėl mūsų saugumo, kaip ir dėl savo pelno maržų. San Fransisko miestas aiškiai parodė, kad technologijų milžinų tikėtino neigimo era baigėsi.

Šaltiniai:
San Fransisko miesto prokuroro biuro oficiali korespondencija
„Tech Transparency Project“ 2026 m. balandžio mėn. ataskaita
Kalifornijos civilinio kodekso 1708.85 skirsnis
„TechCrunch“ ir „Wired“ tyrimų ataskaitos