Anthropic katram uzrakstītajam teikumam pievieno neredzamu identifikācijas zīmi

Lai gan daudzi uzskata, ka MI ūdenszīmes ir redzamas uzlīmes, kas palīdz cilvēkiem atpazīt viltojumu, realitātē tas ir slēpts matemātikas slānis, kas paredzēts, lai mašīnas varētu sazināties viena ar otru. Anthropic tagad apstiprina, ka katrs teksta fragments, ko ģenerē tā Claude modeļi, saturēs digitālo parakstu. Šis solis seko nesenajai Eiropas Savienības Mākslīgā intelekta akta aktivizēšanai, kas pieprasa uzņēmumiem marķēt mašīnu radītu saturu, lai cita programmatūra varētu to identificēt. Vidējam lietotājam tas nozīmē, ka nenogurdināmais digitālais praktikants, kas palīdz rakstīt e-pastus, tagad atstāj "drupaču pēdas", kuras jūs neredzat, bet dators noteikti redz.

Anthropic atjaunināja savu atbalsta dokumentāciju, lai atspoguļotu sistēmisku maiņu modeļu darbībā. Sākot ar visiem izdevumiem pēc 2. augusta, uzņēmums iekļauj ūdenszīmju tehnoloģiju tieši modeļa līmenī. Šis nav vienkāršs metadatu tags, ko var izdzēst, pārdēvējot failu. Tā vietā uzņēmums mainīja veidu, kā Claude izvēlas vārdus. Nedaudz mainot savas izvades statistiskos modeļus, modelis izveido parakstu, kas saglabājas pat tad, ja kopējat un ielīmējat tekstu jaunā dokumentā. Kamēr jūs redzat standarta rindkopu, detektors redz specifisku matemātisku pirkstu nospiedumu.

Regulatīvais dzinējspēks, kas virza neredzamo tinti

Aiz caurskatāmības kodu un modeļu saskaņošanas žargona slēpjas ļoti vienkārša realitāte. ES MI akts tagad ir globālais tehnoloģiju drošības etalons. Tā Pārredzamības kodekss stājās spēkā 2. augustā, un tas liek jebkuram uzņēmumam, kas darbojas Eiropā, nodrošināt, ka to MI saturs ir nosakāms. Anthropic šajā ziņā nerīkojas vienatnē. Uzņēmums pievienojas nozares smagsvaru sarakstam, tostarp Google, Meta, Microsoft un OpenAI, kuri visi ir apņēmušies ievērot šos standartus.

Vēsturiski tehnoloģiju uzņēmumi pretojās šiem pasākumiem, jo baidījās, ka tas pasliktinās rakstīšanas kvalitāti. Ja modelim ir jāizvēlas otrs labākais vārds, lai saglabātu ūdenszīmi, proza varētu šķist mazāk dabiska. Anthropic apgalvo, ka ūdenszīme ir pietiekami izturīga, lai izturētu zināmu rediģēšanu, lai gan uzņēmums joprojām ir noslēpumains par to, cik tieši lietotājam ir jāpārraksta, lai pārtrauktu saiti. Praktiski runājot, tas rada jaunu berzi ikvienam, kas izmanto MI satura radīšanai citu vārdā. Digitālā jēlnafta, kas darbina mūsu pašreizējo tehnoloģiju uzplaukumu — dati —, tagad tiek zīmota jau pie avota.

Kā ūdenszīme pārvietojas pa jūsu dokumentiem

Vidējam patērētājam traucējošākā šī paziņojuma daļa ir zīmes noturība. Kad izmantojat Claude, lai sagatavotu ziņojumu vai emuāra ierakstu, ūdenszīme ir daļa no teksta struktūras. Anthropic apstiprināja, ka ūdenszīme ceļo kopā ar tekstu, kad tas tiek kopēts un ielīmēts citur. Tas attiecas uz visu ekosistēmu, tostarp Claude platformas API, Claude Code un pat jauniem rīkiem kā Claude Cowork.

Raugoties uz kopējo ainu, tas maina attiecības starp lietotāju un viņa ģenerēto saturu. Ja esat students, kas izmanto MI, lai strukturētu eseju, ūdenszīme ir tur. Ja esat mārketinga speciālists, kas ģenerē produktu aprakstus, ūdenszīme ir tur. Šī tabula paskaidro, kā tas ietekmē dažādus digitālā darba veidus:

Failu pielikumiem un attēliem Anthropic pieņem C2PA atvērto standartu. Šis ir tehniskais ietvars, kas darbojas kā faila digitālā pase. Tas reģistrē, kas to izveidoja, kad tas tika izveidots un kādi rīki tika izmantoti. Ja lejupielādējat diagrammu vai ģenerētu dokumentu no Claude, šis fails nes vēsturi, kas paliek tam pievienota, pārvietojoties tīmeklī.

Visas nozares steiga marķēt visu

Anthropic reaģē uz plašākām izmaiņām tirgū. Pagājušajā nedēļā MI mūzikas platforma Suno paziņoja, ka marķēs savā platformā izveidotos skaņdarbus pēc dažādiem mūzikas industrijas juridiskajiem izaicinājumiem. Līdzīgi biļetenu platforma Substack nesen sadarbojās ar Pangram, lai palīdzētu lasītājiem identificēt MI ģenerētus rakstus. Substack izpilddirektors pat ieviesa terminu "Claudefishing", lai aprakstītu cilvēkus, kuri izmanto MI satura ģenerēšanai, izliekoties, ka to radījis cilvēks.

Būtībā MI satura "mežonīgo rietumu" ēra beidzas. Mēs virzāmies uz decentralizētu atbildības sistēmu. Šajā jaunajā vidē katrs lielais spēlētājs vēlas izvairīties no regulatīvās uzraudzības. Tagad marķējot saturu ar ūdenszīmēm, Anthropic pasargā sevi no turpmākām tiesvedībām un nodrošina labvēlīgu statusu Eiropas regulatoru acīs. Tirgus pusē tas palīdz arī aizsargāt cilvēku radīto datu integritāti. Ja MI modeļi sāk mācīties no cita MI ģenerēta teksta, tie var kļūt apjukuši un zaudēt kvalitāti. Ūdenszīmes kalpo kā signāls citām MI sistēmām ignorēt šos konkrētos datus.

Noteikšanas kaķa un peles spēle

No patērētāja viedokļa lielais jautājums ir par to, vai šīs ūdenszīmes tiešām darbojas. Ja nomaināt dažus īpašības vārdus vai apmaināt vietām divus teikumus, vai ūdenszīme pazūd? Anthropic nav sniedzis skaidru atbildi uz šo jautājumu, lai gan tiem ir lūgts sniegt skaidrojumu. Ikdienas dzīvē tas rada nestabilu situāciju cilvēkiem, kuri paļaujas uz MI profesionālajā darbā. Ja noteikšanas rīks kļūdaini atzīmē cilvēka rakstītu darbu, jo tam ir dažas statistiskas līdzības ar Claude ūdenszīmi, sekas rakstniekam ir taustāmas.

Zem pārsega ūdenszīmju lietošana ir varbūtību spēle. Modelis varētu izlemt, ka katru reizi, kad tas izmanto vārdu "būtisks", tam sekos īpašības vārds, kas sākas ar noteiktu burtu. Šie modeļi ir neredzami cilvēkam, bet viegli paredzami datoram. Tomēr šie modeļi ir arī trausli. Vienkārša gramatikas pārbaude vai apjomīga manuāla rediģēšana var pārtraukt statistisko ķēdi. Rezultātā mēs, visticamāk, redzēsim ciklisku cīņu starp uzņēmumiem, kas mēģina nostiprināt savas ūdenszīmes, un lietotājiem, kuri mēģina atrast veidus, kā tās notīrīt.

Ko tas nozīmē jūsu digitālajiem paradumiem

Galu galā šīs ziņas ir atgādinājums, ka rīki, kurus mēs izmantojam, nav privātas salas. Katra ievadītā uzruna un katra Claude atgrieztā rindkopa ir daļa no lielāka industriālā cikla. Anthropic lēmums ieviest šos marķierus visā produktu līnijā parāda, ka caurskatāmība tehnoloģiju gigantiem vairs nav izvēles iespēja. Interneta neredzamais mugurkauls tiek pārkonfigurēts, lai nodrošinātu, ka cilvēki — un, kas ir vēl svarīgāk, citi datori — precīzi zinātu, no kurienes teksts ir cēlies.

Jums tas nozīmē, ka ir pienācis laiks mainīt skatījumu uz to, kā izmantojat MI. Neuztveriet iznākumu kā savu oriģināldarbu, kas nav atšķirams no jūsu rakstītā. Tā vietā uztveriet Claude kā līdzstrādnieku, kurš atstāj parakstu uz visa, kam pieskaras. Ja strādājat jomā, kur oriģinalitāte ir prasība, jums jāpieņem, ka rīki, lai pierādītu MI izmantošanu, jau ir jūsu darba devēju, skolotāju un platformu rokās, kurās publicējat savu darbu. Digitālā tinte ir nožuvusi, un tā ir paliekoša.

Avoti: Anthropic Support Documentation, European Commission AI Act Guidelines, Substack Corporate Blog, C2PA Standard Specifications.