Nors vyraujantis pasakojimas apie dirbtinį intelektą teigia, kad šie modeliai dažniausiai yra įrankiai vaizdams generuoti ar el. laiškų juodraščiams rašyti, kibernetinio saugumo pasaulyje skleidžiasi kur kas labiau trikdanti realybė. Jau daugelį metų plačioji visuomenė buvo įspėjama, kad DI taps skaitmeniniu įsilaužėlių visrakčiu, suteikiančiu jiems raktus nuo visų užšifruotų durų internete. Tačiau naujausi „Anthropic“ projekto „Glasswing“ duomenys rodo, kad vyksta priešingas procesas: DI veikia kaip nepavargstantis pastatų inspektorius, nustatantis mūsų skaitmeninių pamatų įtrūkimus dar prieš pastatui sugriūvant.
„Anthropic“ neseniai paskelbė projekto „Glasswing“ – iniciatyvos, pradėtos vos prieš mėnesį, 2026 m. balandį – atnaujinimą. Rezultatai, tiesą sakant, yra beprecedenčiai. Naudodami neišleistą, didelio našumo modelį, pavadintą „Claude Mythos Preview“, „Anthropic“ ir jų partneriai per trisdešimt dienų aptiko daugiau nei 10 000 saugumo spragų. Žvelgiant perspektyviai, tai yra didesnis darbas, nei pilnas stadionas žmonių saugumo tyrėjų galėtų nuveikti per metus.
Žvelgiant į bendrą vaizdą, tai nėra tik kodo klaidų paieška; tai sisteminis pokytis tame, kaip mes saugome įrankius, kuriais naudojamės kasdien – nuo naršyklės, kuria skaitote šį tekstą, iki debesijos serverių, kuriuose saugomi jūsų banko duomenys.
Projekto „Glasswing“ pagrindas yra „Mythos Preview“ modelis. Nors dabartiniai vieši „Anthropic“ modeliai, tokie kaip „Claude 3.5“ ar „4.0“, yra sukurti kaip naudingi asistentai, „Mythos“ buvo suderintas daug labiau specializuotai užduočiai: „neįmanomų“ klaidų paieškai. Paprastai tariant, dauguma programinės įrangos yra tarsi masyvus, tarpusavyje sujungtas dangoraižis, kurį per kelis dešimtmečius pastatė tūkstančiai skirtingų žmonių. Už sienų tikrai bus atsilaisvinusių varžtų ir netvarkingų laidų.
Anksčiau šioms problemoms rasti reikėdavo žmogaus eksperto, kuris rankiniu būdu peržiūrėtų milijonus kodo eilučių – tai procesas, kuris yra ir lėtas, ir brangus. „Mythos“, priešingai, veikia kaip skaitmeninis rentgeno aparatas. Jis gali per kelias minutes nuskaityti visas kodų bazes, atpažindamas modelius, rodančius pažeidžiamumą. Efektyvumas stulbinantis. „Mozilla“ pranešė, kad naudojant „Mythos“ jiems pavyko rasti ir ištaisyti 271 pažeidžiamumą „Firefox“ naršyklėje. Tai dešimt kartų daugiau nei jie rado naudodami ankstesnius DI modelius.
Vidutiniam vartotojui tai reiškia, kad jūsų nešiojamojo kompiuterio naršyklė tampa gerokai atsparesnė, net jei niekada nepastebėsite skirtumo vartotojo sąsajoje. Tai nematomas skaitmeninio saugumo stuburas, gaunantis labai reikalingą pastiprinimą.
Jei pastebėjote, kad naujausi programinės įrangos atnaujinimai užtrunka šiek tiek ilgiau arba kad pataisų aprašymai atrodo neįprastai ilgi, tikriausiai galite už tai padėkoti (arba apkaltinti) „Mythos“. „Microsoft“ pripažino, kad jos naujausios išleidžiamos pataisos „turi tendenciją didėti“ – tai tiesioginis rezultatas dėl didžiulio kiekio klaidų, kurias iškelia „Mythos Preview“.
Istoriškai programinės įrangos įmonės su hakeriais žaidė „kurmių daužymo“ žaidimą. Hakeris randa skylę, įmonė ją užlopo, ir ciklas kartojasi. „Mythos“ apverčia šią dinamiką. Suradusi 6 202 202 didelio ir kritinio lygio pažeidžiamumus 1 000 atvirojo kodo projektų, „Anthropic“ iš esmės įteikia kūrėjams didžiulį darbų sąrašą, kad jie išspręstų problemas dar prieš hakeriams sužinant apie jų egzistavimą.
| Partneris | Rasti pažeidžiamumai | Sunkumo lygis |
|---|---|---|
| Cloudflare | 2 000+ | 400 Dideli/Kritiniai |
| Mozilla (Firefox) | 271 | Didelis |
| Atvirojo kodo projektai | 23 019 | 6 202 Dideli/Kritiniai |
| Microsoft | Neatskleidžiama | „Didėjantys“ paketai |
Tai reiškia, kad žengiame į nepastovaus skaidrumo erą. Matysime daugiau pranešimų apie klaidas nei bet kada anksčiau, todėl gali atrodyti, kad mūsų programinė įranga prastėja. Tikrovėje mes tiesiog pagaliau matome tikrąjį problemų mastą, kurios jau ten buvo, paslėptos nepermatomuose sudėtingo kodo sluoksniuose.
Keista, bet nepaisant „Mythos“ sėkmės, „Anthropic“ laiko modelį po devyniais užraktais. Bendrovė savo ataskaitoje nurodė, kad artimiausiu metu neketina išleisti „Mythos Preview“ viešumai. Priežastis yra klasikinis dvigubo panaudojimo dilemos atvejis: jei įrankis yra pakankamai geras rasti 10 000 klaidų jas ištaisyti, jis lygiai taip pat gerai gali rasti 10 000 klaidų joms išnaudoti.
Praktiškai kalbant, jei „Mythos“ būtų išleistas šiandien, tai būtų tas pats, kas įteikti pagrindinį raktą kiekvienam pasaulio vagiui, kol namų savininkai vis dar bando susimontuoti spynas. „Anthropic“ atsargumas grindžiamas labai realia piktnaudžiavimo baime. Tai neseniai pabrėžė viena saugumo tyrimų firma, teigusi, kad jai pavyko įsilaužti į „macOS“ – operacinę sistemą, garsėjančią savo tvirtu saugumu – naudojant „Mythos“ galimybes.
Todėl „Anthropic“ šiuo metu dirba tik su patikrintais partneriais ir vyriausybėmis. Tai apima tokius sunkiasvorius kaip „Amazon“, „Google“, „NVIDIA“ ir „JPMorganChase“. Toks požiūris rodo besikeičiančius „Big Tech“ ir JAV vyriausybės santykius, pereinant prie bendradarbiavimo modelio, kuriame DI traktuojamas labiau kaip strateginė paslauga, o ne kaip vartotojų žaislas.
Žvelgiant iš rinkos pusės, šis technologinis proveržis pagaliau virsta apčiuopiamais finansiniais rezultatais. Pranešama, kad „Anthropic“ atsidūrė ties savo pirmojo pelningo ketvirčio riba nuo pat įkūrimo 2021 metais. Su prognozuojamomis 10,9 mlrd. JAV dolerių pajamomis per ketvirtį, pasibaigiantį 2026 m. birželį, bendrovė įrodo, kad yra didžiulis poreikis aukščiausios klasės saugiam DI.
Tačiau nesitikėkite, kad jie jau dabar pradės elgtis kaip tradicinė stabili korporacija. Bendrovė tikisi vėl grįžti į nuostolius ateinančiais mėnesiais. Priežastis? Milžiniškos mikroschemų ir elektros energijos sąnaudos, reikalingos „Mythos klasės“ modeliams mokyti. Skaitmeninė žalia nafta nėra pigi, o „Anthropic“ stato viską ant kortos tikėdama, kad pasaulis mokės priemoką už DI, kuris yra ir galingas, ir saugus.
Vartotojo požiūriu tai rodo, kad aukšto lygio DI paslaugos artimiausioje ateityje išliks brangios. Mes tolstame nuo „nemokamo DI visiems“ eros ir žengiame į specializuotų, pramoninio lygio įrankių erą, kurie kainuoja brangiai dėl jų teikiamos sisteminės vertės.
Galiausiai projekto „Glasswing“ sėkmė primena, kad svarbiausi technologijų pokyčiai dažnai vyksta ten, kur mes jų nematome. Galbūt niekada tiesiogiai nebendrausite su „Claude Mythos“, tačiau jo pėdsakai bus visuose jūsų telefono saugumo atnaujinimuose ir svetainių, kuriose lankotės, stabilume.
Štai ką turėtų žinoti kasdienis vartotojas:
Pragmatiškai kalbant, mes stebime skaitmeninės imuninės sistemos gimimą. Tai netvarkinga, brangu ir šiek tiek baisu matyti, kiek iš tikrųjų skylių egzistuoja mūsų programinėje įrangoje. Tačiau žvelgiant plačiau, daug geriau turėti tokį nepavargstantį praktikantą kaip „Mythos“, randantį trūkumus, nei laukti, kol tai pirmas padarys piktavališkas veikėjas.
Užuot bijoję kito didelio įsilaužimo, pakeiskite savo požiūrį ir įvertinkite nematomą pramoninę mechaniką, kuri šiuo metu dirba stiprindama internetą. Kitą kartą, kai jūsų kompiuteris paprašys persikrauti dėl atnaujinimo, prisiminkite: tai tik skaitmeninis pastatų inspektorius įsitikina, kad stogas nepraleidžia vandens.
Šaltiniai:



Pašto ir debesies saugojimo sprendimas suteikia galingiausias saugaus keitimosi duomenimis priemones, užtikrinančias jūsų duomenų saugumą ir privatumą.
/ Sukurti nemokamą paskyrą