Ispanija nurodė atlikti tyrimą dėl „X“, „Meta“ ir „TikTok“ dėl DI sugeneruotos vaikų išnaudojimo medžiagos

Ispanija imasi veiksmų prieš technologijų milžinus

Ispanija nurodė prokurorams pradėti tyrimus dėl pagrindinių socialinių tinklų platformų „X“ (buvęs „Twitter“), „Meta“ ir „TikTok“ dėl įtarimų, kad per jų paslaugas buvo platinama dirbtinio intelekto (DI) sugeneruota vaikų seksualinio išnaudojimo medžiaga. Tai žymi reikšmingą Europos pastangų stiprinimą siekiant patraukti technologijų įmones atsakomybėn už jų platformose pasirodantį žalingą ir neteisėtą turinį.

Šis žingsnis žengtas Europos Sąjungos reguliuotojams stiprinant technologijų įmonių turinio moderavimo priežiūrą, ypač todėl, kad dirbtinis intelektas leidžia lengviau kurti tikroviškus, tačiau sintetiškus vaizdus ir vaizdo įrašus. Ispanijos sprendimas rodo, kad vyriausybės nebežada laukti, kol platformos pačios pradės reguliuoti savo veiklą, kai kalbama apie vaikų apsaugą internete.

Auganti DI sugeneruotos išnaudojimo medžiagos grėsmė

Dirbtinis intelektas pakeitė saugumo internete grėsmių pobūdį. Šiuolaikiniai generatyvinio DI įrankiai gali sukurti fotorealistiškus vaizdus ir vaizdo įrašus, kuriuos vis sunkiau atskirti nuo autentiško turinio. Nors šios technologijos turi teisėtų panaudojimo būdų pramogų, dizaino ir švietimo srityse, jos taip pat atvėrė šiurpų naują būdą kurti vaikų seksualinio išnaudojimo medžiagą tiesiogiai nekenkiant vaikui gamybos proceso metu.

Tačiau ekspertai ir teisėsaugos institucijos pabrėžia, kad tokia medžiaga vis tiek yra labai žalinga. Ji normalizuoja vaikų seksualizaciją, gali būti naudojama viliojant realias aukas ir apsunkina tyrėjų darbą nustatant bei gelbstint tikras aukas, nes aptikimo sistemos užtvindomos sintetiniu turiniu. Šios medžiagos egzistavimas, nepriklausomai nuo jos kilmės, palaiko vaikų išnaudojimo rinką.

Ispanijos tyrime daugiausia dėmesio skiriama tam, ar „X“, „Meta“ ir „TikTok“ turi tinkamas apsaugos priemones šiam DI sugeneruotam turiniui aptikti ir pašalinti, ir ar jos pakankamai operatyviai reagavo į pranešimus apie tokią medžiagą savo platformose.

Teisinė bazė pagal Skaitmeninių paslaugų aktą

Ispanijos veiksmai vyksta Europos Sąjungos Skaitmeninių paslaugų akto (SPA) kontekste, kuris visiškai įsigaliojo 2024 m. Šis svarbus teisės aktas reikalauja, kad interneto platformos prisiimtų atsakomybę už neteisėtą turinį ir įdiegtų patikimas sistemas žalingai medžiagai atpažinti, pašalinti ir jos plitimui užkirsti.

Pagal SPA, labai didelėms interneto platformoms – toms, kurios ES turi daugiau nei 45 mln. aktyvių vartotojų per mėnesį – taikomi specialūs įpareigojimai. Jos privalo atlikti rizikos vertinimus, įgyvendinti rizikos mažinimo priemones ir atlikti nepriklausomus auditus. „X“, „Meta“ (valdanti „Facebook“, „Instagram“ ir „WhatsApp“) bei „TikTok“ patenka į šią kategoriją.

Už SPA reikalavimų nesilaikymą gali būti skiriamos baudos iki šešių procentų įmonės metinių pasaulinių pajamų. Įmonei „Meta“, kuri pranešė apie daugiau nei 130 mlrd. JAV dolerių pajamas 2024 m., tai gali reikšti milijardines baudas. Statymai yra milžiniški tiek finansiškai, tiek reputacijos prasme.

Kaip reaguoja platformos

Trys įmonės, kurioms nukreiptas Ispanijos tyrimas, viešai įsipareigojo kovoti su vaikų seksualinio išnaudojimo medžiaga, nors jų požiūriai ir pasiekimai skiriasi.

„Meta“ daug investavo į aptikimo technologijas, naudodama DI valdomų nuskaitymo įrankių ir žmonių moderatorių derinį. Įmonė kasmet praneša apie milijonus vaikų išnaudojimo turinio vienetų Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC). Tačiau kritikai teigia, kad „Meta“ sistemos vis dar praleidžia per daug žalingo turinio, ypač šifruotose susirašinėjimo paslaugose.

„X“, priklausanti Elonui Muskui, susidūrė su didesne turinio moderavimo patikra. 2023 m. platforma drastiškai sumažino savo pasitikėjimo ir saugumo komandas, o tai sukėlė susirūpinimą dėl jos gebėjimo aptikti ir pašalinti neteisėtą turinį. Nors „X“ teigia, kad netoleruoja vaikų seksualinio išnaudojimo medžiagos, kelios tyrimų organizacijos dokumentavo atvejus, kai praneštas turinys ilgą laiką išliko pasiekiamas.

„TikTok“ pabrėžė savo automatizuoto aptikimo ir žmonių atliekamos peržiūros derinį bei partnerystę su vaikų saugos organizacijomis. Platforma taip pat įdiegė funkcijas, skirtas apsaugoti jaunesnius vartotojus, pavyzdžiui, numatytuosius privatumo nustatymus nepilnamečių paskyroms. Nepaisant to, kasdien įkeliamo turinio kiekis – šimtai milijonų vaizdo įrašų – kelia milžiniškų iššūkių bet kuriai moderavimo sistemai.

Ką tai reiškia technologijų reguliavimui

Ispanijos tyrimas atspindi platesnį pokytį vyriausybių požiūryje į platformų atsakomybę. Užuot laikę socialinių tinklų įmones neutraliais tarpininkais, reguliuotojai vis dažniau jas vertina kaip leidėjus, turinčius redakcinę atsakomybę už turinį, kurį jos talpina ir platina.

Ši byla gali sukurti svarbius precedentus dėl kelių priežasčių. Pirma, joje konkrečiai nagrinėjamas DI sugeneruotas turinys – sritis, kurioje taisyklės ir vykdymo praktika vis dar formuojasi. Antra, tai rodo, kad atskiros ES valstybės narės yra pasirengusios savarankiškai vykdyti tyrimus, net kai Europos Komisija atlieka savo SPA vykdymo veiksmus.

Tyrimas taip pat išryškina įtampą pačioje turinio moderavimo šerdyje: vartotojų privatumo ir saugumo pusiausvyrą. Galinis šifravimas (end-to-end encryption), saugantis vartotojų komunikaciją nuo sekimo, taip pat apsunkina neteisėto turinio aptikimą. Sprendimų, kurie išsaugotų privatumą ir kartu užkirstų kelią piktnaudžiavimui, paieška išlieka viena sudėtingiausių technologijų politikos problemų.

Praktiniai patarimai vartotojams ir tėvams

Kol platformos ir reguliuotojai sprendžia šias problemas, tėvai ir vartotojai gali imtis kelių žingsnių saugumui internete padidinti:

Įjunkite integruotas saugos funkcijas. Visos trys platformos siūlo tėvų kontrolę, riboto naudojimo režimus ir turinio filtrus. Skirkite laiko tinkamai sukonfigūruoti šiuos nustatymus jaunesniems vartotojams.

Palaikykite atvirą bendravimą. Kalbėkitės su vaikais apie tai, su kuo jie susiduria internete, ir sukurkite aplinką, kurioje jie jaustųsi patogiai pranešdami apie nerimą keliantį turinį ar bendravimą.

Nedelsdami praneškite apie įtartiną turinį. Visos pagrindinės platformos turi pranešimo mechanizmus. Naudokitės jais. Pranešimai padeda mokyti aptikimo sistemas ir įspėja moderatorius apie probleminį turinį.

Sekite informaciją apie platformų politiką. Įmonės reguliariai atnaujina savo saugos funkcijas ir turinio politiką. Šių pakeitimų peržiūra padeda suprasti, kokios apsaugos priemonės taikomos.

Apsvarstykite trečiųjų šalių stebėjimo įrankius. Įvairios tėvų kontrolės programėlės gali suteikti papildomų apsaugos sluoksnių ir matomumą, kaip vaikai naudojasi socialiniais tinklais.

Kas bus toliau

Ispanijos prokurorai dabar rinks įrodymus, kad nustatytų, ar platformos pažeidė Ispanijos įstatymus ar ES reglamentus. Šis procesas gali užtrukti mėnesius ar net metus. Jei tyrėjai nustatys pažeidimų, įmonėms gali grėsti didelės baudos, nurodymai pakeisti savo praktiką arba abu šie dalykai.

Tuo tarpu kitos Europos šalys atidžiai stebi situaciją. Panašūs tyrimai gali būti pradėti ir kitur, jei Ispanijos tyrimas atskleis sisteminių klaidų. Europos Komisija, kuriai tenka pagrindinė atsakomybė už SPA vykdymą prieš labai dideles platformas, taip pat gali sugriežtinti priežiūrą, remdamasi Ispanijos išvadomis.

Platesnei technologijų pramonei ši byla pabrėžia, kad DI sugeneruotas turinys bus vertinamas taip pat griežtai kaip ir tradicinė neteisėta medžiaga. Toliau tobulėjant generatyvinio DI galimybėms, platformoms reikės daug investuoti į aptikimo technologijas, galinčias atpažinti sintetinį turinį ir atskirti jį nuo teisėto DI naudojimo.

Tyrimas taip pat kelia klausimų dėl pačios turinio moderavimo ateities. Ar turint milijardus turinio vienetų, kasdien skelbiamų pagrindinėse platformose, bet koks DI ir žmonių moderatorių derinys tikrai gali suspėti? Kai kurie ekspertai teigia, kad norint tinkamai spręsti šiuos iššūkius, gali prireikti esminių platformų veikimo pokyčių, pavyzdžiui, apriboti algoritminį turinio, kuris nebuvo peržiūrėtas, stiprinimą.

Šaltiniai

• Europos Komisijos oficiali dokumentacija apie Skaitmeninių paslaugų aktą
• Meta Transparency Center pranešimai apie vaikų saugos priemones
• TikTok Safety Center politikos dokumentacija
• X Safety Center gairės ir vykdymo ataskaitos
• National Center for Missing and Exploited Children (NCMEC) pranešimų statistika
• Technology policy research iš Stanford Internet Observatory
• Europos Sąjungos reguliavimo vykdymo pranešimai