Hispaania algatas uurimise X-i, Meta ja TikToki suhtes seoses tehisintellekti loodud laste väärkohtlemise materjaliga

Hispaania astub samme tehnoloogiahiidude vastu

Hispaania on andnud prokuröridele korralduse alustada uurimist suurte sotsiaalmeediaplatvormide X (endine Twitter), Meta ja TikTok suhtes seoses süüdistustega, et nende teenuste kaudu on levitatud tehisintellekti loodud laste seksuaalse väärkohtlemise materjali. See tähistab olulist eskaleerumist Euroopa jõupingutustes panna tehnoloogiaettevõtted vastutama nende platvormidel ilmuva kahjuliku ja ebaseadusliku sisu eest.

Samm astutakse ajal, mil Euroopa Liidu regulaatorid tõhustavad kontrolli selle üle, kuidas tehnoloogiaettevõtted sisu modereerivad, eriti kuna tehisintellekt muudab realistlike, kuid sünteetiliste kujutiste ja videote loomise lihtsamaks. Hispaania otsus annab märku, et valitsused ei soovi enam oodata platvormide eneseregulatsiooni, kui tegemist on laste kaitsmisega internetis.

Tehisintellekti loodud väärkohtlemise materjali kasvav oht

Tehisintellekt on muundanud veebiohutuse ohtude maastikku. Kaasaegsed generatiivse tehisintellekti tööriistad suudavad luua fotorealistlikke kujutisi ja videoid, mida on üha raskem eristada autentsest sisust. Kuigi neil tehnoloogiatel on legitiimne kasutus meelelahutuses, disainis ja hariduses, on need avanud ka häiriva uue tee laste seksuaalse väärkohtlemise materjali loomiseks, ilma et last tootmise käigus otseselt kahjustataks.

Eksperdid ja õiguskaitseorganid rõhutavad siiski, et selline materjal on endiselt sügavalt kahjulik. See normaliseerib laste seksualiseerimist, seda saab kasutada reaalsete ohvrite peibutamiseks ning see muudab uurijate jaoks tegelike ohvrite tuvastamise ja päästmise raskemaks, ujutades tuvastussüsteemid üle sünteetilise sisuga. Sellise materjali olemasolu, sõltumata selle päritolust, hoiab üleval laste ekspluateerimise turgu.

Hispaania uurimine keskendub sellele, kas X-il, Metal ja TikTokil on piisavad kaitsemeetmed sellise tehisintellekti loodud sisu tuvastamiseks ja eemaldamiseks ning kas nad on piisavalt kiiresti reageerinud teadetele sellise materjali ilmumise kohta nende platvormidel.

Digiteenuste määruse õigusraamistik

Hispaania tegevus toimub Euroopa Liidu digiteenuste määruse (DSA) kontekstis, mis jõustus täielikult 2024. aastal. See märgiline seadusandlus nõuab veebiplatvormidelt vastutuse võtmist ebaseadusliku sisu eest ning tugevate süsteemide rakendamist kahjuliku materjali tuvastamiseks, eemaldamiseks ja leviku tõkestamiseks.

DSA kohaselt on väga suurtel veebiplatvormidel — neil, millel on EL-is üle 45 miljoni aktiivse kasutaja kuus — erilised kohustused. Nad peavad läbi viima riskihindamisi, rakendama leevendusmeetmeid ja läbima sõltumatuid auditeid. X, Meta (mis haldab Facebooki, Instagrami ja WhatsAppi) ning TikTok kuuluvad kõik sellesse kategooriasse.

DSA nõuete täitmata jätmine võib kaasa tuua trahvi kuni kuus protsenti ettevõtte ülemaailmsest aastasest käibest. Meta puhul, mis teatas 2024. aastal enam kui 130 miljardi dollari suurusest käibest, võib see tähendada miljardite dollarite suuruseid karistusi. Panused on tohutud, nii rahaliselt kui ka mainekujunduslikult.

Kuidas platvormid reageerivad

Kõik kolm Hispaania uurimise sihikul olevat ettevõtet on avalikult lubanud võidelda laste seksuaalse väärkohtlemise materjaliga, kuigi nende lähenemisviisid ja tulemused on erinevad.

Meta on investeerinud oluliselt tuvastustehnoloogiasse, kasutades tehisintellektil põhinevate skaneerimisvahendite ja inimmoderaatorite kombinatsiooni. Ettevõte edastab igal aastal miljoneid laste ekspluateerimise sisu puudutavaid teateid Kadunud ja Ärakasutatud Laste Riiklikule Keskusele (NCMEC). Kriitikud väidavad aga, et Meta süsteemid lubavad siiski liiga palju kahjulikku sisu läbi, eriti selle krüpteeritud sõnumiteenustes.

X on Elon Muski omanduses olnud suurema kontrolli all seoses sisu modereerimisega. Platvorm vähendas 2023. aastal drastiliselt oma usalduse ja ohutuse meeskondi, tekitades muret oma suutlikkuse pärast tuvastada ja eemaldada ebaseaduslikku sisu. Kuigi X kinnitab, et neil on laste seksuaalse väärkohtlemise materjali suhtes nulltolerants, on mitmed uurimisorganisatsioonid dokumenteerinud juhtumeid, kus teatatud sisu jäi pikaks ajaks kättesaadavaks.

TikTok on rõhutanud oma automaatse tuvastamise ja inimkontrolli kombinatsiooni ning partnerlust lasteohutuse organisatsioonidega. Platvorm on rakendanud ka funktsioone, mis on loodud nooremate kasutajate kaitsmiseks, näiteks vaikimisi privaatsusseaded alaealistele kuuluvatele kontodele. Sellegipoolest esitab iga päev üleslaaditava sisu tohutu maht — sajad miljonid videod — igale modereerimissüsteemile tohutuid väljakutseid.

Mida see tähendab tehnoloogia reguleerimisele

Hispaania uurimine esindab laiemat nihet selles, kuidas valitsused suhtuvad platvormide vastutusse. Selle asemel, et käsitleda sotsiaalmeediaettevõtteid neutraalsete vahendajatena, peavad regulaatorid neid üha enam väljaandjateks, kellel on toimetusvastutus nende poolt majutatava ja võimendatava sisu eest.

See juhtum võib luua olulisi pretsedente mitmel põhjusel. Esiteks käsitleb see konkreetselt tehisintellekti loodud sisu — valdkonda, kus regulatsioonid ja jõustamistavad on alles kujunemisjärgus. Teiseks näitab see, et EL-i liikmesriigid on valmis uurimisi iseseisvalt läbi viima, isegi kui Euroopa Komisjon viib läbi oma DSA jõustamismeetmeid.

Uurimine tõstab esile ka pingeid sisu modereerimise keskmes: kasutajate privaatsuse ja turvalisuse tasakaalustamist. Otsast lõpuni krüpteerimine, mis kaitseb kasutajate suhtlust jälgimise eest, muudab ka ebaseadusliku sisu tuvastamise raskemaks. Lahenduste leidmine, mis säilitavad privaatsuse, vältides samas kuritarvitusi, on tehnoloogiapoliitika üks keerulisemaid probleeme.

Praktilised juhised kasutajatele ja vanematele

Kuni platvormid ja regulaatorid nende küsimustega tegelevad, saavad vanemad ja kasutajad astuda mitmeid samme veebiohutuse suurendamiseks:

Lubage sisseehitatud turvafunktsioonid. Kõik kolm platvormi pakuvad vanemlikku järelevalvet, piiratud režiime ja sisufiltreid. Võtke aega, et need seaded nooremate kasutajate jaoks sobivalt konfigureerida.

Hoidke avatud suhtlust. Rääkige lastega sellest, millega nad internetis kokku puutuvad, ja looge keskkond, kus nad tunnevad end mugavalt häirivast sisust või suhtlusest teatamisel.

Teatage kahtlasest sisust kohe. Kõigil suurematel platvormidel on teatamismehhanismid. Kasutage neid. Teated aitavad treenida tuvastussüsteeme ja hoiatada inimmoderaatoreid probleemse sisu eest.

Olge kursis platvormi eeskirjadega. Ettevõtted uuendavad regulaarselt oma turvafunktsioone ja sisueeskirju. Nende muudatuste ülevaatamine aitab teil mõista, millised kaitsemeetmed on olemas.

Kaaluge kolmandate osapoolte jälgimisvahendeid. Erinevad vanemliku järelevalve rakendused võivad pakkuda täiendavaid kaitsekihte ja nähtavust sellesse, kuidas lapsed sotsiaalmeediat kasutavad.

Mis saab edasi

Hispaania prokurörid koguvad nüüd tõendeid, et teha kindlaks, kas platvormid rikkusid Hispaania seadusi või EL-i määrusi. See protsess võib kesta kuid või isegi aastaid. Kui uurijad leiavad rikkumisi, võivad ettevõtteid oodata kopsakad trahvid, korraldused oma tavasid muuta või mõlemad.

Samal ajal jälgivad teised Euroopa riigid olukorda tähelepanelikult. Sarnased uurimised võivad alata mujal, kui Hispaania uurimine paljastab süsteemseid tõrkeid. Euroopa Komisjon, millel on esmane vastutus DSA jõustamise eest väga suurte platvormide suhtes, võib samuti Hispaania leidude põhjal oma kontrolli tõhustada.

Laiema tehnoloogiatööstuse jaoks rõhutab see juhtum, et tehisintellekti loodud sisu koheldakse sama tõsiselt kui traditsioonilist ebaseaduslikku materjali. Kuna generatiivse tehisintellekti võimekused arenevad edasi, peavad platvormid investeerima palju tuvastustehnoloogiatesse, mis suudavad tuvastada sünteetilist sisu ja eristada seda tehisintellekti legitiimsest kasutusest.

Uurimine tekitab küsimusi ka sisu modereerimise tuleviku kohta. Kas miljardite sisuüksuste puhul, mida iga päev suurematesse platvormidesse postitatakse, suudab ükski tehisintellekti ja inimmoderaatorite kombinatsioon tõesti sammu pidada? Mõned eksperdid väidavad, et nende väljakutsetega adekvaatseks tegelemiseks võib olla vajalik teha põhimõttelisi muudatusi platvormide toimimises — näiteks piirata kontrollimata sisu algoritmilist võimendamist.

Allikad

• Euroopa Komisjoni ametlik dokumentatsioon digiteenuste määruse kohta
• Meta Transparency Centeri aruanded lasteohutuse meetmete kohta
• TikToki turvakeskuse poliitikadokumentatsioon
• X-i turvakeskuse juhised ja jõustamisaruanded
• Kadunud ja Ärakasutatud Laste Riikliku Keskuse (NCMEC) aruandlusstatistika
• Tehnoloogiapoliitika uuringud Stanfordi Interneti-observatooriumist
• Euroopa Liidu regulatiivsete jõustamismeetmete teated