Lai gan ASV valdība apgalvo, ka tās nesenais eksporta aizliegums Anthropic jaudīgākajiem modeļiem ir uzvara nacionālajai drošībai, realitāte ir daudz nestabilāka. Vašingtona uzskata, ka, noslēpjot jaunāko mākslīgo intelektu, tā neļauj ārvalstu pretiniekiem atrast caurumus Amerikas infrastruktūrā. Tomēr cilvēki, kuri patiesībā pavada savu dzīvi, aizsargājot mūsu digitālās robežas, saka, ka šis solis panāk tieši pretējo. 76 kiberdrošības veterānu grupa nesen parakstīja atklātu vēstuli Baltajam namam, apgalvojot, ka šis aizliegums ir atņēmis labākos rīkus aizsargiem, kamēr uzbrucēji turpina virzīties uz priekšu pilnā ātrumā.
Šis konflikts ir klasisks piemērs politikai, kas izstrādāta fiziskajai pasaulei, bet tiek piemērota digitālajai. Fiziskajā pasaulē prototipu var ieslēgt seifā, lai saglabātu to noslēpumā. Programmatūras pasaulē vienīgais veids, kā uzturēt sistēmu drošu, ir atrast tās trūkumus pirms to izdara kāds cits. Ierobežojot piekļuvi šiem uzlabotajiem modeļiem, valdība būtībā ir aizsējusi acis apsargiem, kamēr iebrucēji jau atrodas ēkā ar augsto tehnoloģiju lukturīšiem.
Problēmas sākās piektdien, kad ASV valdība pavēlēja Anthropic ierobežot divu tā vismodernāko AI modeļu eksportu: Fable un Mythos. Valdība atsaucās uz nacionālās drošības apsvērumiem, taču nesniedza konkrētu informāciju par to, kāpēc šie modeļi pēkšņi ir pārāk bīstami publiskai lietošanai. Reaģējot uz to, Anthropic pārtrauca piekļuvi šiem modeļiem visiem lietotājiem visā pasaulē. Šis lēmums nav tikai korporatīva neveiksme; tas ir sistēmisks traucējums kiberdrošības nozarei.
Vidējam lietotājam tas varētu izskatīties pēc neliela strīda starp tehnoloģiju uzņēmumu un regulatoru. Raugoties uz kopējo ainu, šie modeļi ir drošības pasaules digitālā jēlnafta. Drošības firmas tos izmanto, lai dažu sekunžu laikā skenētu miljoniem koda rindu. Tie darbojas kā nenogurdināmi praktikanti, kuri nekad neguļ, meklējot sīkas kļūdas, kas noved pie masveida datu noplūdēm. Kad valdība izņem šos rīkus no tirgus, programmatūras izstrādātāji zaudē savu efektīvāko veidu, kā ielāpīt lietotnes, kuras lietojat katru dienu — no mobilās bankas portāla līdz viedās mājas termostatam.
Lai saprastu, kāpēc šie eksperti ir sašutuši, mums jāieskatās tajā, ko Anthropic patiesībā ir radījis. Mythos ir viņu AI augstas veiktspējas versija. Kad tas tika palaists priekšskatījuma fāzē aprīlī, Anthropic atzina tā jaudu. Tas bija tik efektīvs drošības ievainojamību identificēšanā, ka uzņēmums sākotnēji ierobežoja piekļuvi nelielai grupai — 150 organizācijām 15 valstīs. Tie bija "pārbaudītie" aizstāvji, kuri izmantoja AI, lai nostiprinātu savas sistēmas pret uzbrukumiem.
Fable bija publiskā versija. Tai bija stingri drošības mehānismi, kas izstrādāti, lai neļautu to izmantot ļaunprātīgiem mērķiem, piemēram, bioloģisko ieroču izveidei vai ļaunprogrammatūras rakstīšanai. Tomēr šie mehānismi bija tik agresīvi, ka Fable bieži atteicās palīdzēt leģitīmos drošības uzdevumos. Ja pētnieks lūdza Fable atrast kļūdu koda daļā, AI bieži vien atteicās, baidoties, ka informācija varētu tikt izmantota kaitniecībai. Tas radīja paradoksu, kur modeļa "drošā" versija bija bezjēdzīga tieši tiem cilvēkiem, kuri mēģināja padarīt internetu drošāku.
Valdības aizlieguma pamatojums, šķiet, izriet no Amazon pētnieku ziņojuma. Šajā ziņojumā, kas vēl nav publiski pieejams, it kā tiek apgalvots, ka ir veids, kā apiet — jeb "uzlauzt" (jailbreak) — Fable modeļa drošības mehānismus, lai atbloķētu tā pilno Mythos līmeņa jaudu. Baltais nams, visticamāk, saskatīja tajā brīdinājuma signālu, baidoties, ka, ja Fable ir viegli uzlaužams, jebkurš pretinieks varētu to izmantot, lai atrastu nulles dienas (zero-day) ievainojamības Amerikas programmatūrā.
Keitija Musurisa (Katie Moussouris), Luta Security dibinātāja un atklātās vēstules parakstītāja, ir pārskatījusi šo dokumentu un nepiekrīt tā secinājumiem. Viņa apgalvo, ka pētnieki patiesībā neatrada veidu, kā uzlauzt sistēmu. Tā vietā viņi vienkārši lūdza AI salabot publisku, atvērtā pirmkoda kodu, kurā bija zināmas kļūdas. Kad AI sākotnēji atteicās, viņi pārfrāzēja pieprasījumu, līdz tas izpildīja prasīto. Musurisa norāda, ka tā nav drošības kļūme; tā ir modeļa pamatfunkcija. Lūgt AI izlabot kļūdu ir vērtīgākais, ko tas var darīt aizsardzības drošības labā. Nosaukt to par "uzlaušanu" ir tas pats, kas teikt, ka atslēdznieks ir noziedznieks, jo viņš zina, kā salabot salauztu slēdzeni.
Cilvēku saraksts, kuri parakstījuši šo protesta vēstuli, ir kā drošības pasaules slavenību katalogs. Tajā ir Alekss Stamoss (Alex Stamos), bijušais Facebook drošības vadītājs, un Džons Kallass (Jon Callas), kurš vadīja drošības arhitektūru Apple. Tie ir pragmatiski eksperti, kuri saprot, kā programmatūra tiek veidota un kā tā tiek uzlauzta. Viņu galvenās bažas ir par to, ka ASV valdība pieņem lēmumus, pamatojoties uz nepareizu izpratni par to, kā AI mijiedarbojas ar kodu.
Savā vēstulē šie eksperti skaidro, ka "atrast, salabot un pārbaudīt" cikls ir mūsdienu drošības pamatprocess. Aizstāvjiem ir jāatrod kļūda, jāuzraksta tās labojums un pēc tam jāveic testi, lai pārliecinātos, ka labojums darbojas. AI modeļi, piemēram, Mythos, var to paveikt tādā mērogā, kādu cilvēki vienkārši nespēj sasniegt. Noņemot šos modeļus, valdība spiež aizstāvjus atgriezties pie manuāla darba, kamēr hakeri jau izmanto automatizētus rīkus. Tas ir bīstams disbalanss, kas padara katru programmatūras daļu jūsu tālrunī un datorā neaizsargātāku pret uzbrukumiem.
Viens no satraucošākajiem punktiem atklātajā vēstulē ir tas, ka ASV nav vienīgais spēlētājs šajā spēlē. Kamēr Baltais nams ierobežo Anthropic, citi uzņēmumi un valstis virzās uz priekšu. Eksperti atzīmēja, ka tās pašas spējas, kas atrodamas Mythos, jau parādās citos modeļos, piemēram, OpenAI GPT-5.5 un pat ķīniešu modeļos, piemēram, Kimi 2.7. Tehnoloģija jau ir "brīvībā".
Būtībā ASV valdība mēģina apturēt paisumu ar slotu. Ja Amerikas aizstāvji nevarēs izmantot Amerikas AI, viņiem galu galā būs jāskatās citur vai arī viņi vienkārši atpaliks. Vēsturiski, kad ASV ierobežo tehnoloģiju, kas jau ir pieejama visā pasaulē, tas izdodas tikai pašu nozares kropļošanā. Ķīna un citi konkurenti nepārtrauks izstrādāt jaudīgu AI ASV eksporta rīkojuma dēļ. Drīzāk šis aizliegums dod viņiem skaidru iespēju iegūt pārsvaru aizsardzības kiberdrošības tehnoloģijās — plaisu, kuras novēršanai ASV varētu būt nepieciešami gadi.
Vidējam patērētājam šīs debates var šķist tālas, taču praktiskās sekas ir taustāmas. Drošība nav produkts, ko jūs pērkat; tas ir noturīgs pastāvīgu atjauninājumu process. Katru reizi, kad tālrunis lūdz instalēt drošības atjauninājumu, tas ir tāpēc, ka izstrādātājs atrada caurumu un to ielāpīja. Ja šie izstrādātāji zaudēs piekļuvi labākajiem rīkiem šo caurumu atrašanai, šie atjauninājumi nāks lēnāk vai arī tie var nenākt vispār.
Mēs virzāmies uz pasauli, kurā programmatūra ir pārāk sarežģīta, lai cilvēki to spētu nodrošināt vieni paši. Tā kā mūsu dzīve kļūst arvien ciešāk saistīta ar lietu internetu, koda apjoms, uz kuru mēs paļaujamies, strauji pieaug. Mums ir nepieciešams AI, lai tas darbotos kā digitālā imūnsistēma. Kad valdība ierobežo šo imūnsistēmu, tā atstāj interneta organismu atvērtu infekcijām. Būtība ir tāda, ka drošība caur nezināšanu — ideja, ka esat drošībā, jo neviens nezina, kā jūsu sistēma darbojas — digitālajā laikmetā nekad nav darbojusies.
Eksperti neprasa pilnīgu regulējuma trūkumu. Tā vietā viņi pieprasa caurredzamu un demokrātisku noteikumu izstrādes procesu. Viņi vēlas noteikumus, kas balstīti uz zinātniskiem pētījumiem un nozares zināšanām, nevis slepeniem ziņojumiem un bailēm. Viņi apgalvo, ka jebkuram ierobežojumam jābūt minimālam un nepieciešamam, lai garantētu sabiedrības drošību, nevis plašam aizliegumam, kas krustugunīs notver aizstāvjus.
Galu galā tas ir aicinājums valdībai uzticēties cilvēkiem, kuri patiešām atrodas frontes līnijā. Kiberdrošības nozare ir pavadījusi gadu desmitus, mācoties, ka atklātība ir labākais ceļš uz drošību. Daloties ar informāciju par kļūdām un strādājot kopā, lai tās novērstu, kopiena paliek soli priekšā ļaundariem. Slepenības plīvura uzlikšana AI rīkiem sagrauj šo sadarbības modeli un nostāda sabiedrību nedrošākā pozīcijā. Raugoties nākotnē, mums par prioritāti būtu jāizvirza labāko iespējamo rīku došana "labajiem puišiem", nevis cerība, ka aizliegums neļaus šiem pašiem rīkiem nonākt "slikto puišu" rokās.
Avoti:



Mūsu end-to-end šifrētais e-pasta un mākoņdatu glabāšanas risinājums nodrošina visefektīvākos līdzekļus drošai datu apmaiņai, garantējot jūsu datu drošību un konfidencialitāti.
/ Izveidot bezmaksas kontu