Kāpēc OpenAI jaunais digitālais ūdenszīmju rīks nepasargās jūs no apmānīšanas

Kamēr pasaule pieprasa skaidrību par to, kas ir cilvēka un kas — mašīnas radīts, OpenAI nupat ir laidis klajā rīku, kas sola caurspīdīgumu, taču sniedz kaut ko daudz trauslāku. Uzņēmums nesen paziņoja, ka ChatGPT turpmāk pēc noklusējuma pievienos ūdenszīmes saviem teksta izvadiem lietotājiem Eiropas Savienībā. Šīs izmaiņas seko ES Mākslīgā intelekta akta prasībām, kas nosaka, ka MI ģenerētam saturam jābūt atpazīstamam. Tomēr realitāte "zem pārsega" liecina, ka šis jaunais digitālais zīmogs ir mazāk līdzīgs paliekošam zīmolam un vairāk atgādina vieglu zīmuļa atzīmi, ko bērns varētu izdzēst ar vienu vēzienu.

OpenAI savu jauno metodi sauc par textGrain. Vienkāršoti izsakoties, tā ir patentēta sistēma, kas MI izvēlētajos vārdos iegulst statistiskus modeļus. Vidusmēra lietotājam teksts izskatās identisks jebkurai citai atbildei. Gramatika ir pareiza, tonis ir konsekvents un informācija ir tā pati. Taču specializētam detektora rīkam šīs vārdu izvēles kalpo kā pirkstu nospiedums. Šī sistēma darbojas kā nenogurdināms praktikants, kuram likts izmantot konkrētu sinonīmu kopu ikreiz, kad viņš raksta ziņojumu. Ja jūs zināt šo modeli, jūs varat atpazīt praktikantu. Ja jūs to nezināt, ziņojums izskatās pilnīgi standarta.

Neredzamo modeļu trauslums

Raugoties uz kopējo ainu, textGrain efektivitāte pilnībā ir atkarīga no tā, vai teksts paliek neskarts. Pašas OpenAI dati atklāj pārsteidzošu ievainojamību, ko lielākā daļa korporatīvo preses relīžu labprātāk noklusētu. Ideālos apstākļos rīkam ir 92 procentu panākumu līmenis, identificējot savu rakstīto. Tas izklausās iespaidīgi, līdz tiek pieliktas vismazākās cilvēka pūles.

Mainot tikai 10 procentus no ģenerētā teksta, noteikšanas rādītājs nokrītas par gandrīz 30 procentiem. Ja lietotājs nomaina 20 procentus vārdu — iespējams, mainot dažas īpašības vārdus vai pārfrāzējot pāris teikumus —, panākumu līmenis samazinās par gandrīz 75 procentiem. Praktiski runājot, ikviens, kuram ir pamata zināšanas par sinonīmu vārdnīcu, var apiet šo sistēmu dažu sekunžu laikā. Tas padara ūdenszīmi par atbilstības rīku regulatoriem, nevis par uzticamu drošības tīklu sabiedrībai. Tas izpilda likuma burtu ES, faktiski neatrisinot visaptverošo MI krāpniecības problēmu.

Stāsts par divām korporatīvajām stratēģijām

Tirgus pusē kontrasts starp OpenAI un tā galveno konkurentu Anthropic ir kliedzošs. Anthropic ieviesa savu ūdenszīmju sistēmu šī gada sākumā, taču izvēlējās to iespējot visiem lietotājiem visā pasaulē. OpenAI ir izvēlējies selektīvāku ceļu, ieslēdzot šo funkciju pēc noklusējuma tikai tur, kur to pieprasa likums. Lietotājiem Amerikas Savienotajās Valstīs, Āzijā un citos reģionos joprojām būs "tīri" izvadi, ja vien viņi vai viņu organizācijas manuāli nepieteiksies, izmantojot API.

Šis reģionālais sadalījums rada sadrumstalotu digitālo vidi. Students Berlīnē pēc noklusējuma saņems esejas ar ūdenszīmēm, savukārt students Ņujorkā — nē. No patērētāja viedokļa tas liecina, ka OpenAI uzskata ūdenszīmju lietošanu par regulatīvu šķērsli, kas jāpārvar, nevis par uzticama produkta fundamentālu iezīmi. Uzņēmums dara absolūto minimumu, lai paliktu likumīgs ES, vienlaikus saglabājot savu produktu pēc iespējas ērtāku lietošanai citur.

Tehniskais šķērslis: teksts pret attēliem

Zem pārsega teksta ūdenszīmju pievienošana ir ievērojami grūtāka nekā ūdenszīmju pievienošana attēliem vai video. Kad sistēma, piemēram, DALL-E vai Midjourney, izveido attēlu, tā var paslēpt metadatus pikseļos vai pielāgot trokšņu modeļus tā, lai tie paliktu neredzami acij, bet būtu acīmredzami datoram. Šie pikseļi ir blīvi un piedāvā tūkstošiem vietu, kur paslēpt signālu.

Teksts ir atšķirīgs, jo tas ir rets. Teikumā ir tikai noteikts skaits vārdu, un katram vārdam ir ierobežots skaits sinonīmu, kuriem ir jēga kontekstā. Ja MI spiež izmantot konkrētu vārdu izvēli, lai saglabātu ūdenszīmi, tas riskē padarīt rakstīto neveiklu vai atkārtojošos. OpenAI apgalvo, ka textGrain nepazemina kvalitāti, taču statistiskais kompromiss vienmēr pastāv. Lai ūdenszīme būtu nosakāma, MI ir jāziedo neliela daļa no savas radošās nejaušības. Tāpēc noteikšanas līmenis ir vēl zemāks īsiem ziņojumiem vai tulkotam tekstam. Trīs teikumu e-pastā vienkārši nav pietiekami daudz datu, lai paslēptu sarežģītu matemātisku pirkstu nospiedumu.

Ko tas nozīmē jūsu digitālajai dzīvei

Ikdienas lietotājam textGrain parādīšanās būtu jāuztver ar veselīgu skepticismu. Ja esat skolotājs, redaktors vai personāla atlases vadītājs, jūs nevarat paļauties uz šiem detektoriem, lai saņemtu galīgu atbildi. Sistēmu ir pārāk viegli apmānīt. Lietotājs var paņemt ChatGPT izvadi, palaist to caur citu MI bez ūdenszīmēm, lai veiktu ātru pārrakstīšanu, un oriģinālā ūdenszīme pazudīs.

Galu galā tā ir sistēmiska maiņa tajā, kā mēs uztveram digitālos pierādījumus. Mēs attālināmies no pasaules, kurā varam uzticēties tam, ko redzam, un virzāmies uz pasauli, kurā mums ir nepieciešama "atslēga", lai pārbaudītu autentiskumu. OpenAI pašlaik tur šo atslēgu aiz samta virves, piešķirot piekļuvi tikai ierobežotam skaitam pētnieku un organizāciju. Šī necaurredzamība rada jauna veida varas disbalansu. Uzņēmums, kas rada saturu, ir arī vienīgais, kas var to droši atpazīt, un pat tad tas var to izdarīt tikai tad, ja lietotājs ir slinks.

Orientēšanās ūdenszīmju pasaulē

Praktiski runājot, textGrain ieviešana ES ir beta tests nākotnei, kurā viss digitālais darbs tiek marķēts. Tas kalpo kā atgādinājums, ka rīki, kurus mēs izmantojam, arvien vairāk ir pakļauti starptautisko tiesību neredzamajam mugurkaulam. Lai gan ES Mākslīgā intelekta akta mērķis ir aizsargāt pilsoņus no maldināšanas ar dziļviltojumiem un automatizētu propagandu, pieejamie tehniskie rīki vēl nav pietiekami izturīgi, lai sasniegtu šo mērķi.

Patērētājiem vajadzētu novērot savus ieradumus, kad šīs funkcijas tiek ieviestas. Jūs varētu pamanīt smalkas izmaiņas tajā, kā ChatGPT formulē savas atbildes, modelim cenšoties saglabāt savu statistisko pirkstu nospiedumu. Jūs varētu redzēt arī "MI tīrīšanas" rīku pieaugumu — vienkāršas programmas, kas izstrādātas īpaši, lai pārrakstītu tekstu tieši tik daudz, lai noņemtu šos marķierus. Kaķa un peles spēle starp MI laboratorijām un lietotājiem ieiet jaunā, lokālākā fāzē.

Virzoties uz priekšu, pārstājiet meklēt nozīmīti vai zīmogu ar uzrakstu "Izgatavots ar MI". Šie marķieri kļūst par daļu no digitālās jēlnaftas, kas darbina mūsu lietotnes, paslēpti dziļi mūsu lasīto teikumu matemātikā. Būtība ir tāda, ka neviena ūdenszīme nevar aizstāt kritisko domāšanu. Neatkarīgi no tā, vai rindkopai ir slēpts statistiskais grauds vai nē, atbildība par faktu un nodomu pārbaudi joprojām gulstas uz lasītāju. Digitālais praktikants tagad marķē savu darbu, taču priekšnieka ziņā joprojām ir pārbaudīt, vai darbs tiešām ir pareizs.

Avoti:

• OpenAI Technical Paper on textGrain and Statistical Watermarking
• European Commission: EU AI Act Regulatory Framework
• Anthropic Official Blog: Global Deployment of AI Content Marking
• C2PA (Coalition for Content Provenance and Authenticity) Standard Documentation