Tehisintellekti treeningprojekti sisevaade: kuidas iga hiireklõps muudetakse ettevõtte varaks

Mõni kuu tagasi said Meta töötajad Ameerika Ühendriikides teavituse uue siseprojekti kohta nimega Model Capability Initiative ehk MCI. Pealiskaudselt kõlas see tavapärase tehnilise uuendusena: tööriist, mis on loodud aitama ettevõttel luua paremaid tehisintellekti agente. Kuid kui tarkvara hakkas tuhandete tööarvutite taustal tööle, hakkas projekti tegelikkus sarnanema vähem uuenduse ja rohkem digitaalse püügivõrguga.

Meta eesmärk on ambitsioonikas. Nad soovivad treenida tehisintellekti mudeleid tegutsema autonoomsete agentidena — tarkvarana, mis suudab navigeerida keerulistes liidestes, täita vorme ja hallata töövooge täpselt nii, nagu seda teeks inimene. Selleks vajavad nad andmeid. Ja mitte lihtsalt andmeid, vaid teadmustöötajate detailseid, sekundipõhiseid liigutusi. Iga hiireklõps, iga kerimine rippmenüüs ja iga üleminek rakenduste vahel kogutakse kokku õppematerjalina ettevõtte järgmise põlvkonna tehisintellekti jaoks.

Kuid see, mis algas USA-põhise algatusena, on kiiresti triivinud regulatiivsele miiniväljale teisel pool Atlandi ookeani. Hiljuti avalikuks tulnud sisedokumendid viitavad sellele, et see tööriist jäädvustab enamat kui lihtsalt klõpse; see imeb endasse ka Euroopa kolleegide interaktsioone, kes pole kunagi selle eksperimendiga liitunud. See piiriülene andmete lekkimine valmistab ette pinda oluliseks õiguslikuks vastasseisuks Euroopa Liidu andmekaitse regulaatoritega.

Digitaalne labor: kuidas MCI toimib

Õigusliku hõõrdumise mõistmiseks peame esmalt vaatama tööriista tehnilist ulatust. MCI ei ole pelgalt ekraanisalvesti. See on vaatleja, mis asub enam kui 200 erineva rakenduse ja veebisaidi kohal, mida Meta töötajad kasutavad. Siseatruannete kohaselt jälgib tööriist kasutaja "teekonda" — kuidas nad liiguvad Jira piletilt koodikeskkonda, seejärel sõnumirakendusse nagu Slack või WhatsApp.

Mõelge oma digitaalsest jalajäljest kui leivapurust jäetud jäljest. Tavaliselt on need purud laiali puistatud ja pühitakse lõpuks minema. MCI raames jälgib Meta tõhusalt pagarit, salvestades iga puru täpse kaalu, nurga, mille all see kukkus, ja aja, mis kulus selle kukkumiseks. See loob inimkäitumisest ülitäpse kaardi, mida saab kasutada selle käitumise kopeerimiseks tehisintellekti abil.

Huvitaval kombel on tööriista rakendamine olnud kõike muud kui nähtamatu. Mõned töötajad teatasid, et andmete neelamine oli nii mahukas, et see kulutas nende koduse interneti mahupiirangud vaid mõne päevaga. Veelgi murettekitavamad olid Meta töötaja siseanalüüsi tulemused, mis viitasid sellele, et MCI kasutas turvatarkvara, et pääseda ligi lõikelaua sisule (tekst, mida kopeerite ja kleebite) ja isegi töötajate tegevuse krüpteerimata logidele. Sisuliselt muutis tööriist töökoha massiivseks reaalajas toimuvaks laboriks, kus töötajad olid katsealused.

Kokkupõrkekurss isikuandmete kaitse üldmäärusega (GDPR)

Kuigi USA tööseadused annavad tööandjatele üldiselt laiad volitused töötajate jälgimiseks ettevõtte seadmetes, tegutseb Euroopa Liit palju rangema raamistiku alusel: isikuandmete kaitse üldmäärus (GDPR). Hetkel, mil Meta USA-põhine tööriist jäädvustab Dublini, Pariisi või Berliini kolleegi jagatud sõnumi või dokumendi, käivitub GDPR-i jurisdiktsioon.

Vastavuse seisukohast on kolm peamist takistust, mille Meta peab ületama, ning praegu tundub, et nad komistavad nende kõigi otsa.

1. Eesmärgi piiramise test
Euroopa õiguses kehtib põhimõte nimega eesmärgi piirang. See tähendab, et kui kogute andmeid ühel põhjusel — näiteks töökoha suhtluse hõlbustamiseks —, ei tohi te äkitselt otsustada kasutada neid täiesti muul eesmärgil, näiteks kaubandusliku tehisintellekti mudeli treenimiseks, ilma uue õigusliku aluseta. Kahe kolleegi vahelise projektiarutelu võtmine ja selle söötmine tehisintellekti treeningkomplekti on paljude regulaatorite silmis selle reegli põhiline rikkumine.

2. Granulaarse nõusoleku puudumine
Kuigi Meta väidab, et andmed on tuvastatavast teabest "eraldatud", on GDPR selliste väidete suhtes skeptiline. Kui andmeid saab konkreetse isikuni tagasi viia nende unikaalsete käitumismustrite või sõnumite sisu kaudu, jäävad need isikuandmeteks. Euroopa töötajate puhul peab nõusolek olema vabatahtlik, konkreetne ja teadlik. Nende andmete kaudne jäädvustamine seetõttu, et nad juhtusid saatma e-kirja USA kolleegile, ei vasta sellele künnisele.

3. Proportsionaalsus ja sekkumine
GDPR nõuab, et andmetöötlus oleks proportsionaalne. Kas tehisintellekti agendi loomiseks on tõesti vaja jälgida iga hiireliigutust? Või on selle eesmärgi saavutamiseks vähem invasiivne viis? Regulatiivses kontekstis vaadeldakse MCI "alati sees" olemust, mis jäädvustab klõpse sadades rakendustes, sageli kui ebaproportsionaalset sekkumist töötajate eraellu.

Anonümiseeritud klõpsu müüt

Meta on neile muredele vastu vaielnud, väites, et tööriist keskendub sellele, kuidas inimesed arvuteid kasutavad, mitte sellele, mida nad teevad (sisu). Nad väidavad, et andmete eraldamisega konkreetsetest nimedest kaitsevad nad privaatsust. Kuid suure kiirusega andmete maailmas on tõeline anonümiseerimine sageli miraaž.

Privaatsuseksperdid nimetavad seda sageli "digitaalse tunnistajakaitse programmi" probleemiks. Te võite muuta nime ja nägu, kuid kui subjekt kõnnib ikka samamoodi, külastab samu kohti ja räägib sama rütmiga, on ta kergesti uuesti tuvastatav. Teadmustöötaja jaoks on tema "rütm" see, kuidas ta koodis navigeerib, spetsiifiline žargoon, mida ta sõnumites kasutab, ja tema igapäevane rutiin. Lõikelaua ja URL-ide jäädvustamisega neelab Meta väga spetsiifilisi identifikaatoreid, mis muudavad "andmete eraldamise" väga õhukeseks kilbiks juriidilise kontrolli ees.

Lisaks tekitab asjaolu, et tööriist jäädvustab otsesõnumeid ja e-kirju väljaspool USA-d asuvatelt saatjatelt, eksterritoriaalse ulatuse. Kui Prantsusmaa töötaja saadab privaatsõnumi USA kolleegile ja see sõnum neelatakse Meta tehisintellekti treeninghoidlasse USA-s, on Meta sisuliselt eksportinud Euroopa isikuandmeid ilma EL-i nõutavate vajalike kaitsemeetmete või avalikustamisteta.

"Töötajate andmete ekstraheerimise tehas"

Võib-olla kõige silmapaistvam aspekt selle loo juures on sisemine reaktsioon. Mõned Meta töötajad on sildistanud ettevõtte "töötajate andmete ekstraheerimise tehaseks". Selles on tuntav iroonia, kui palutakse esitada just neid andmeid, mida lõpuks kasutatakse teie enda tööülesannete automatiseerimiseks.

Varem oli töökoha jälgimine suunatud peamiselt turvalisusele või tootlikkusele — tagamaks, et töötajad ei lekitaks ärisaladusi ega viiliks tööst. MCI esindab nihket "generatiivse jälgimise" suunas. Siin ei ole eesmärk jälgida töötajat; eesmärk on koguda töötaja teadmisi ja muuta need ettevõtte varaks. See loob ebakindla keskkonna töötajatele, kes tunnevad, et nende unikaalset professionaalset intuitsiooni muudetakse kaubaks klõps-klõpsu haaval.

Tehisintellekti tuleviku navigeerimine tööl

Kuna Iirimaa andmekaitsevolinik (DPC) hakkab neid praktikaid uurima, saab sellest juhtumist tõenäoliselt märgiline näide selle kohta, kuidas tehisintellekti korporatiivmaailmas treenitakse. See rõhutab kasvavat pinget: ettevõtted vajavad massiivseid andmekogumeid, et jääda tehisintellekti võidujooksus konkurentsivõimeliseks, kuid kõige väärtuslikumad andmed on sageli kõige privaatsemad.

Ettevõtetele, kes soovivad vältida Meta praegust täbarat olukorda, on õppetunnid selged. Läbipaistvus ei ole lihtsalt linnuke kirjas; see on vundament. Kui juurutate tööriistu, mis jälgivad käitumist, peavad need tööriistad olema loodud lõimitud andmekaitse (Privacy by Design) põhimõttel. See tähendab andmete minimeerimise integreerimist algusest peale — kogudes ainult seda, mis on rangelt vajalik, ja tagades, et kaitstud piirkondade (nagu EL) andmed filtreeritakse välja enne, kui need üldse treening-serverisse jõuavad.

Peamised järeldused digiõiguste ja vastavuse kohta:

• Auditeerige oma seotust: Ettevõtted peavad mõistma, et ühes jurisdiktsioonis kogutud andmed võivad kergesti kaasata subjekte teises jurisdiktsioonis. Kui teie USA meeskond kasutab jälgimistööriista, peate hindama, kas see jäädvustab andmeid teie globaalsetest kontoritest.
• Määratlege eesmärk varakult: Sõnastage selgelt, miks andmeid kogutakse. Kui liigute "turvaseirelt" "tehisintellekti treenimisele", vajate uut õiguslikku raamistikku ja tõenäoliselt uut nõusolekut asjaomastelt isikutelt.
• Kontrollige anonümiseerimise väiteid: Ärge uskuge pimesi tarnija või IT-osakonna sõnu, et andmed on "anonüümsed". Viige läbi uuesti tuvastamise teste, et näha, kas kasutaja käitumismustrid võivad paljastada nende isiku.
• Austage õigust olla unustatud: Kui töötaja lahkub või vastustab oma andmete kasutamist tehisintellekti treenimiseks, kas saate tegelikult nende "klõpsud" mudelist kustutada? Kui vastus on ei, võite rikkuda GDPR-i artiklit 17.

Tehisintellekti ajastusse süvenedes jätkub piiri hägustumine meie töö ja meie andmete vahel. Selle piiri kaitsmine ei ole enam ainult juriidilise osakonna töö; see on põhinõue usalduse säilitamiseks kaasaegses töökohas.

Allikad:

• Isikuandmete kaitse üldmäärus (GDPR), artikkel 5 (Isikuandmete töötlemise põhimõtted).
• Isikuandmete kaitse üldmäärus (GDPR), artikkel 6 (Isikuandmete töötlemise seaduslikkus).
• Isikuandmete kaitse üldmäärus (GDPR), artikkel 17 (Õigus andmete kustutamisele).
• Euroopa Kohtu kohtuasi C-311/18 (Schrems II) seoses rahvusvahelise andmeedastusega.
• Euroopa Andmekaitsenõukogu (EDPB) suunised isikuandmete töötlemise kohta tehisintellekti treenimiseks.

Hoiatus: See artikkel on esitatud ainult informatiivsel ja ajakirjanduslikul eesmärgil. See ei kujuta endast ametlikku juriidilist nõuannet ega juriidilist arvamust. Töökoha jälgimise või tehisintellekti juurutamisega seotud konkreetsete vastavusjuhiste saamiseks konsulteerige kvalifitseeritud õigusnõustajaga.