„Anthropic“ kiekvienam rašomam sakiniui prideda nematomą ID žymą

Nors daugelis žmonių mano, kad dirbtinio intelekto (DI) vandenženklis yra matomas lipdukas, skirtas padėti žmonėms atpažinti klastotę, tikrovė yra paslėptas matematikos sluoksnis, sukurtas tam, kad mašinos galėtų susikalbėti tarpusavyje. „Anthropic“ dabar patvirtina, kad kiekvienas tekstas, sugeneruotas jos „Claude“ modelių, turės skaitmeninį parašą. Šis žingsnis žengtas po to, kai neseniai įsigaliojo Europos Sąjungos DI aktas, reikalaujantis, kad įmonės žymėtų mašinų sukurtą turinį, kad kita programinė įranga galėtų jį atpažinti. Vidutiniam vartotojui tai reiškia, kad nenuilstantis skaitmeninis praktikantas, padedantis rašyti el. laiškus, dabar palieka pėdsakus, kurių jūs nematote, bet kompiuteris tikrai mato.

„Anthropic“ atnaujino savo pagalbos dokumentaciją, kad atspindėtų sisteminį pokytį modelių veikloje. Pradedant visomis versijomis po rugpjūčio 2 d., bendrovė vandenženklių technologiją įdiegia tiesiogiai modelio lygmeniu. Tai nėra paprasta metaduomenų žyma, kurią galėtumėte ištrinti pakeitę failo pavadinimą. Vietoj to, bendrovė pakeitė būdą, kaip „Claude“ renkasi žodžius. Šiek tiek pakeisdamas savo išvesties statistinius dėsningumus, modelis sukuria parašą, kuris išlieka net tada, kai kopijuojate ir įklijuojate tekstą į naują dokumentą. Nors jūs matote standartinę pastraipą, detektorius mato konkretų matematinį piršto atspaudą.

Reguliavimo variklis, varantis nematomą rašalą

Už skaidrumo kodų ir modelių derinimo žargono slypi labai paprasta realybė. ES DI aktas dabar yra pasaulinis technologijų saugos etalonas. Jo Skaidrumo kodeksas įsigaliojo rugpjūčio 2 d., ir jis verčia bet kurią Europoje veikiančią įmonę užtikrinti, kad jų DI turinys būtų atpažįstamas. „Anthropic“ šiuo atžvilgiu veikia ne viena. Bendrovė prisijungia prie pramonės sunkiasvorių sąrašo, įskaitant „Google“, „Meta“, „Microsoft“ ir „OpenAI“, kurie visi įsipareigojo laikytis šių standartų.

Istoriškai technologijų bendrovės priešinosi šioms priemonėms, nes bijojo, kad tai pablogins rašymo kokybę. Jei modelis turi pasirinkti antrą pagal gerumą žodį, kad išlaikytų vandenženklį, proza gali atrodyti ne tokia natūrali. „Anthropic“ teigia, kad vandenženklis yra pakankamai tvirtas, kad išgyventų tam tikrą redagavimą, nors bendrovė nutyli, kiek tiksliai vartotojas turi perrašyti tekstą, kad nutrauktų ryšį. Praktiškai tai sukuria naują trintį visiems, naudojantiems DI turiniui rašyti kitų vardu. Skaitmeninė žalia nafta, kuri maitina mūsų dabartinį technologijų bumą – duomenys – dabar yra ženklinami pačiame šaltinyje.

Kaip vandenženklis keliauja per jūsų dokumentus

Vidutiniam vartotojui labiausiai trikdanti šio pranešimo dalis yra žymos patvarumas. Kai naudojate „Claude“ ataskaitos ar tinklaraščio įrašo projektui rengti, vandenženklis yra teksto struktūros dalis. „Anthropic“ patvirtino, kad vandenženklis keliauja kartu su tekstu, kai jis kopijuojamas ir įklijuojamas kitur. Tai galioja visoje ekosistemoje, įskaitant „Claude“ platformos API, „Claude Code“ ir net naujus įrankius, tokius kaip „Claude Cowork“.

Žvelgiant į platesnį vaizdą, tai keičia vartotojo ir jo sugeneruoto turinio santykį. Jei esate studentas, naudojantis DI esė struktūrai sudaryti, vandenženklis yra ten. Jei esate rinkodaros specialistas, generuojantis produktų aprašymus, vandenženklis yra ten. Šioje lentelėje paaiškinama, kaip tai veikia skirtingų tipų skaitmeninį darbą:

Failų priedams ir vaizdams „Anthropic“ taiko atvirąjį C2PA standartą. Tai techninė sistema, veikianti kaip skaitmeninis failo pasas. Ji fiksuoja, kas jį sukūrė, kada sukūrė ir kokius įrankius naudojo. Jei atsisiunčiate diagramą ar sugeneruotą dokumentą iš „Claude“, tas failas nešasi istoriją, kuri lieka prie jo prisegta judant per internetą.

Visos pramonės skuba žymėti viską

„Anthropic“ reaguoja į platesnį rinkos poslinkį. Praėjusią savaitę DI muzikos platforma „Suno“ paskelbė, kad žymės savo platformoje sukurtus kūrinius po įvairių muzikos pramonės teisinių iššūkių. Panašiai naujienlaiškių platforma „Substack“ neseniai bendradarbiavo su „Pangram“, kad padėtų skaitytojams atpažinti DI sugeneruotus straipsnius. „Substack“ generalinis direktorius netgi sugalvojo terminą „Claudefishing“, apibūdinantį žmones, kurie naudoja DI turiniui generuoti, apsimesdami, kad jį sukūrė žmogus.

Iš esmės DI turinio „laukinių vakarų“ era baigiasi. Judame link decentralizuotos atsakomybės sistemos. Šioje naujoje aplinkoje kiekvienas pagrindinis žaidėjas nori išvengti reguliavimo priežiūros. Dabar žymėdama turinį vandenženkliais, „Anthropic“ apsisaugo nuo būsimų ieškinių ir užsitikrina palankumą Europos reguliuotojų akyse. Rinkos požiūriu tai taip pat padeda apsaugoti žmonių sukurtų duomenų vientisumą. Jei DI modeliai pradės mokytis iš kito DI sugeneruoto teksto, jie gali susipainioti ir prarasti kokybę. Vandenženkliai veikia kaip signalas kitoms DI sistemoms ignoruoti tuos konkrečius duomenis.

Katės ir pelės žaidimas aptikimo srityje

Vartotojo požiūriu didžiausias klausimas yra tai, ar šie vandenženkliai iš tikrųjų veikia. Jei pakeisite kelis būdvardžius arba sukeisite dviejų sakinių tvarką, ar vandenženklis išnyks? „Anthropic“ nepateikė aiškaus atsakymo į tai, nors jų buvo prašoma paaiškinti. Kasdieniame gyvenime tai sukuria nestabilią situaciją žmonėms, kurie pasikliauja DI profesinėje veikloje. Jei aptikimo įrankis klaidingai pažymi žmogaus parašytą kūrinį, nes jis turi keletą statistinių panašumų su „Claude“ vandenženkliu, pasekmės rašytojui yra apčiuopiamos.

Žvelgiant giliau, vandenženklių žymėjimas yra tikimybių žaidimas. Modelis gali nuspręsti, kad kiekvieną kartą, kai naudoja žodį „esminis“, po jo eis būdvardis, prasidedantis tam tikra raide. Šie dėsningumai yra nematomi žmogui skaitytojui, bet labai nuspėjami kompiuteriui. Tačiau šie dėsningumai taip pat yra trapūs. Paprasta gramatikos tikrinimo programa arba intensyvus rankinis redagavimas gali nutraukti statistinę grandinę. Dėl to tikriausiai matysime ciklišką kovą tarp bendrovių, bandančių sustiprinti savo vandenženklius, ir vartotojų, bandančių rasti būdų juos pašalinti.

Ką tai reiškia jūsų skaitmeniniams įpročiams

Galiausiai ši žinia primena, kad įrankiai, kuriais naudojamės, nėra privačios salos. Kiekviena jūsų įvesta užklausa ir kiekviena „Claude“ pateikta pastraipa yra didesnio pramoninio ciklo dalis. „Anthropic“ sprendimas įdiegti šiuos žymenis visoje savo produktų linijoje rodo, kad skaidrumas technologijų milžinams nebėra pasirenkamas dalykas. Nematomas interneto stuburas perkonfigūruojamas siekiant užtikrinti, kad žmonės – ir, dar svarbiau, kiti kompiuteriai – tiksliai žinotų, iš kur atsirado tekstas.

Jums tai reiškia, kad atėjo laikas pakeisti požiūrį į tai, kaip naudojate DI. Nelaikykite rezultato savo originaliu kūriniu, kuris nesiskiria nuo jūsų pačių rašymo. Vietoj to žiūrėkite į „Claude“ kaip į bendradarbį, kuris palieka parašą ant visko, prie ko prisiliečia. Jei dirbate srityje, kurioje reikalaujama originalumo, turėtumėte daryti prielaidą, kad įrankiai, įrodantys, jog naudojote DI, jau yra jūsų darbdavių, mokytojų ir platformų, kuriose skelbiate savo darbus, rankose. Skaitmeninis rašalas išdžiūvo, ir jis yra nuolatinis.

Šaltiniai: Anthropic Support Documentation, European Commission AI Act Guidelines, Substack Corporate Blog, C2PA Standard Specifications.