Spānija uzdod izmeklēt X, Meta un TikTok saistībā ar MI radītiem bērnu izmantošanas materiāliem

Spānija vēršas pret tehnoloģiju milžiem

Spānija ir uzdevusi prokuroriem sākt izmeklēšanu pret lielākajām sociālo mediju platformām X (bijušais Twitter), Meta un TikTok saistībā ar apsūdzībām, ka ar mākslīgā intelekta (MI) palīdzību radīti bērnu seksuālas izmantošanas materiāli ir izplatīti, izmantojot to pakalpojumus. Tas iezīmē būtisku eskalāciju Eiropas centienos saukt tehnoloģiju uzņēmumus pie atbildības par kaitīgu un nelegālu saturu, kas parādās to platformās.

Šis solis sperts laikā, kad regulatori visā Eiropas Savienībā pastiprina uzraudzību pār to, kā tehnoloģiju uzņēmumi moderē saturu, jo īpaši tāpēc, ka mākslīgais intelekts atvieglo reālistisku, taču sintētisku attēlu un video izveidi. Spānijas lēmums signalizē, ka valdības vairs nevēlas gaidīt, kamēr platformas pašas sevi regulēs, kad runa ir par bērnu aizsardzību tiešsaistē.

MI radītu izmantošanas materiālu pieaugošie draudi

Mākslīgais intelekts ir mainījis tiešsaistes drošības apdraudējumu ainavu. Mūsdienīgi ģeneratīvie MI rīki var izveidot fotoreālistiskus attēlus un video, kurus kļūst arvien grūtāk atšķirt no autentiska satura. Lai gan šīm tehnoloģijām ir leģitīms pielietojums izklaidē, dizainā un izglītībā, tās ir atvērušas arī satraucošu jaunu ceļu bērnu seksuālas izmantošanas materiālu radīšanai, tieši nekaitējot bērnam ražošanas procesā.

Tomēr eksperti un tiesībsargājošās iestādes uzsver, ka šādi materiāli joprojām ir dziļi kaitīgi. Tie normalizē bērnu seksualizāciju, tos var izmantot reālu upuru pavedināšanai, un tie apgrūtina izmeklētāju darbu reālu upuru identificēšanā un glābšanā, pārpludinot noteikšanas sistēmas ar sintētisku saturu. Šādu materiālu eksistence, neatkarīgi no to izcelsmes, uztur bērnu ekspluatācijas tirgu.

Spānijas izmeklēšanā galvenā uzmanība pievērsta tam, vai X, Meta un TikTok ir atbilstoši aizsardzības pasākumi, lai atklātu un noņemtu šo MI radīto saturu, un vai tie ir pietiekami reaģējuši uz ziņojumiem par šādu materiālu parādīšanos to platformās.

Tiesiskais regulējums saskaņā ar Digitālo pakalpojumu aktu

Spānijas rīcība notiek Eiropas Savienības Digitālo pakalpojumu akta (DPA) kontekstā, kas pilnībā stājās spēkā 2024. gadā. Šis nozīmīgais tiesību akts pieprasa tiešsaistes platformām uzņemties atbildību par nelegālu saturu un ieviest stabilas sistēmas, lai identificētu, noņemtu un novērstu kaitīgu materiālu izplatīšanos.

Saskaņā ar DPA ļoti lielām tiešsaistes platformām — tām, kurām ES ir vairāk nekā 45 miljoni aktīvo lietotāju mēnesī — ir īpaši pienākumi. Tām jāveic riska novērtējumi, jāievieš mazināšanas pasākumi un jāveic neatkarīgi auditi. X, Meta (kas pārvalda Facebook, Instagram un WhatsApp) un TikTok ietilpst šajā kategorijā.

DPA prasību neievērošana var izraisīt naudas sodus līdz pat sešiem procentiem no uzņēmuma globālā gada apgrozījuma. Uzņēmumam Meta, kura ieņēmumi 2024. gadā pārsniedza 130 miljardus ASV dolāru, tas varētu nozīmēt miljardiem dolāru lielas soda naudas. Likmes ir milzīgas gan finansiāli, gan reputācijas ziņā.

Kā platformas reaģē

Visi trīs uzņēmumi, pret kuriem vērsta Spānijas izmeklēšana, ir publiski apņēmušies cīnīties pret bērnu seksuālas izmantošanas materiāliem, lai gan to pieejas un sasniegumi atšķiras.

Meta ir ieguldījusi ievērojamus līdzekļus noteikšanas tehnoloģijās, izmantojot MI darbinātu skenēšanas rīku un cilvēku-moderatoru kombināciju. Uzņēmums katru gadu ziņo par miljoniem bērnu ekspluatācijas satura vienību Nacionālajam pazudušo un ekspluatēto bērnu centram (NCMEC). Tomēr kritiķi apgalvo, ka Meta sistēmas joprojām pieļauj pārāk daudz kaitīga satura noplūdi, jo īpaši tās šifrētajos ziņapmaiņas pakalpojumos.

X, kopš tā nonākšanas Īlona Maska īpašumā, ir saskārusies ar pastiprinātu uzraudzību attiecībā uz satura moderēšanu. Platforma 2023. gadā krasi samazināja savas uzticamības un drošības komandas, radot bažas par tās spēju atklāt un noņemt nelegālu saturu. Lai gan X apgalvo, ka tai ir nulles tolerance pret bērnu seksuālas izmantošanas materiāliem, vairākas pētniecības organizācijas ir dokumentējušas gadījumus, kad ziņotais saturs palika pieejams ilgāku laiku.

TikTok ir uzsvēris savu automatizētās noteikšanas un cilvēku veiktās pārskatīšanas kombināciju, kā arī partnerības ar bērnu drošības organizācijām. Platforma ir ieviesusi arī funkcijas, kas paredzētas jaunāku lietotāju aizsardzībai, piemēram, noklusējuma privātuma iestatījumus nepilngadīgo kontiem. Tomēr milzīgais katru dienu augšupielādētā satura apjoms — simtiem miljonu video — rada milzīgus izaicinājumus jebkurai moderācijas sistēmai.

Ko tas nozīmē tehnoloģiju regulējumam

Spānijas izmeklēšana atspoguļo plašākas izmaiņas tajā, kā valdības pieiet platformu atbildībai. Tā vietā, lai pret sociālo mediju uzņēmumiem izturētos kā pret neitrāliem starpniekiem, regulatori arvien biežāk uzskata tos par izdevējiem ar redakcionālu atbildību par saturu, ko tie mitina un pastiprina.

Šī lieta varētu radīt svarīgus precedentus vairāku iemeslu dēļ. Pirmkārt, tā īpaši pievēršas MI radītam saturam — jomai, kurā noteikumi un izpildes prakse joprojām attīstās. Otrkārt, tā parāda, ka atsevišķas ES dalībvalstis ir gatavas veikt izmeklēšanu neatkarīgi, pat ja Eiropas Komisija veic savas DPA izpildes darbības.

Izmeklēšana arī izgaismo saspīlējumu satura moderēšanas pamatā: lietotāju privātuma līdzsvarošanu ar drošību. Pilnīga šifrēšana (end-to-end encryption), kas aizsargā lietotāju saziņu no uzraudzības, arī apgrūtina nelegāla satura atklāšanu. Risinājumu rašana, kas saglabā privātumu, vienlaikus novēršot ļaunprātīgu izmantošanu, joprojām ir viena no sarežģītākajām problēmām tehnoloģiju politikā.

Praktiski ieteikumi lietotājiem un vecākiem

Kamēr platformas un regulatori risina šos jautājumus, vecāki un lietotāji var veikt vairākus pasākumus tiešsaistes drošības uzlabošanai:

Iespējojiet iebūvētās drošības funkcijas. Visas trīs platformas piedāvā vecāku kontroli, ierobežotos režīmus un satura filtrus. Veltiet laiku, lai pareizi konfigurētu šos iestatījumus jaunākiem lietotājiem.

Uzturiet atklātu saziņu. Runājiet ar bērniem par to, ar ko viņi saskaras tiešsaistē, un izveidojiet vidi, kurā viņi jūtas ērti ziņot par satraucošu saturu vai mijiedarbību.

Nekavējoties ziņojiet par aizdomīgu saturu. Visām lielākajām platformām ir ziņošanas mehānismi. Izmantojiet tos. Ziņojumi palīdz apmācīt noteikšanas sistēmas un brīdina cilvēkus-moderatorus par problemātisku saturu.

Esiet informēti par platformas politiku. Uzņēmumi regulāri atjaunina savas drošības funkcijas un satura politikas. Šo izmaiņu pārskatīšana palīdz saprast, kādi aizsardzības pasākumi ir spēkā.

Apsveriet trešo pušu uzraudzības rīkus. Dažādas vecāku kontroles lietotnes var nodrošināt papildu aizsardzības slāņus un redzamību tajā, kā bērni izmanto sociālos medijus.

Kas notiks tālāk

Spānijas prokurori tagad vāks pierādījumus, lai noteiktu, vai platformas ir pārkāpušas Spānijas likumus vai ES noteikumus. Šis process var ilgt mēnešus vai pat gadus. Ja izmeklētāji konstatēs pārkāpumus, uzņēmumiem var tikt piemēroti ievērojami naudas sodi, rīkojumi mainīt savu praksi vai abi.

Tikmēr citas Eiropas valstis uzmanīgi vēro situāciju. Līdzīgas izmeklēšanas varētu sākties arī citur, ja Spānijas izmeklēšana atklās sistēmiskas kļūmes. Eiropas Komisija, kurai ir galvenā atbildība par DPA izpildi pret ļoti lielām platformām, var arī pastiprināt savu uzraudzību, pamatojoties uz Spānijas atradumiem.

Plašākai tehnoloģiju nozarei šī lieta uzsver, ka MI radīts saturs tiks uztverts tikpat nopietni kā tradicionālie nelegālie materiāli. Tā kā ģeneratīvā MI iespējas turpina attīstīties, platformām būs lielā mērā jāiegulda noteikšanas tehnoloģijās, kas spēj identificēt sintētisku saturu un atšķirt to no leģitīmiem MI izmantošanas veidiem.

Izmeklēšana arī rada jautājumus par pašas satura moderēšanas nākotni. Vai ar miljardiem satura vienību, kas katru dienu tiek publicētas lielākajās platformās, jebkura MI un cilvēku-moderatoru kombinācija patiešām spēj tikt līdzi? Daži eksperti apgalvo, ka, lai pienācīgi risinātu šos izaicinājumus, var būt nepieciešamas fundamentālas izmaiņas platformu darbībā, piemēram, ierobežojot tāda satura algoritmisko pastiprināšanu, kas nav ticis pārskatīts.

Avoti

• European Commission official documentation on the Digital Services Act
• Meta Transparency Center reports on child safety measures
• TikTok Safety Center policy documentation
• X Safety Center guidelines and enforcement reports
• National Center for Missing and Exploited Children (NCMEC) reporting statistics
• Technology policy research from Stanford Internet Observatory
• European Union regulatory enforcement announcements