Kāpēc valdība izmanto savu lielāko drošības risku, lai novērstu savus lielākos drošības caurumus

Kamēr sabiedrības naratīvs bieži vien mākslīgo intelektu attēlo kā vienkāršu rīku e-pastu rakstīšanai vai attēlu ģenerēšanai, realitāte ir daudz industriālāka. Kiberdrošības un infrastruktūras drošības aģentūra, kas pazīstama kā CISA, pašlaik izmanto jaudīgu Anthropic AI modeli, lai skenētu valdības programmatūru un meklētu kļūdas. Šis solis ir krass pavērsiens nesenajā saspīlējumu vēsturē starp Sanfrancisko jaunuzņēmumu un federālajiem regulatoriem. Tikai pirms dažiem mēnešiem Pentagons nodēvēja Anthropic par piegādes ķēdes risku – solis, kas pēc būtības pielīdzināja uzņēmumu ārvalstu subjektiem, kuri tiek aizdomās turēti par spiegošanu. Šodien šis pats uzņēmums ir neredzamais mugurkauls centieniem aizsargāt federālo kodu no ārvalstu spiegiem.

Skatoties plašākā mērogā, šī pieņemšana parāda, ka valdība vērtē spējas augstāk par politiskajām nesaskaņām. CISA izmanto specifisku AI modeli ar nosaukumu Mythos, lai auditētu koda krātuves dažādās departamentu nodaļās. Šīs krātuves ir digitālas noliktavas, kurās valdība glabā programmatūru, kas vada visu, sākot no nodokļu apstrādes līdz loģistikai. Mythos darbojas kā nenogurdināms praktikants, kas sekundēs izlasa miljoniem koda rindu, meklējot sīkas kļūdas, kuras cilvēks-programmētājs varētu nepamanīt pēc garas maiņas. Šīs kļūdas ir atvērti logi, kurus kibernoziedznieki un ārvalstu izlūkdienesti izmanto, lai piekļūtu sensitīviem Amerikas datiem.

Nenogurdināms praktikants federālā koda krātuvei

Raugoties dziļāk, koda auditēšanas process vēsturiski ir lēns un dārgs. Cilvēks-drošības pētnieks stundas laikā ar augstu precizitāti var pārskatīt tikai dažus simtus koda rindu. ASV valdība pārvalda miljardiem koda rindu, no kurām liela daļa rakstīta pirms gadu desmitiem valodās, kuras mūsdienu programmētāji izmanto reti. Tas rada milzīgu potenciālo ievainojamību uzkrājumu. Mythos maina šī procesa matemātiku, jo tas ir graujošs rīks, kas izstrādāts tieši kiberdrošības analīzei. Tas ne tikai meklē drukas kļūdas; tas saprot, kā dažādas programmatūras daļas mijiedarbojas, radot sistēmiskus riskus.

Saskaņā ar personām, kas pārzina šo jautājumu, CISA Uzbrukuma virsmas novērtēšanas (Attack Surface Evaluation) komanda ir grupa, kas vada šo iniciatīvu. Šī komanda veic digitālās drošības novērtējumus un hakeru vingrinājumus, lai atrastu vājās vietas pirms to izdara īsti uzbrucēji. Izmantojot Mythos, komanda jau ir atklājusi lielu skaitu ievainojamību. Lai gan šo kļūdu specifiskais raksturs nav publisks, atklāšanas ātrums liecina, ka AI darbojas līmenī, kuram cilvēku komandas nespēj līdzināties. Šī efektivitāte ir nepieciešama, jo koda apjoms, kas valdībai jāaizsargā, pieaug ar katru dienu.

Saspīlētās attiecības starp Anthropic un Balto namu

Anthropic ir sarežģīta vēsture ar iestādēm, kurām tas tagad palīdz. Uzņēmums pašlaik atrodas konfidenciāla sākotnējā publiskā piedāvājuma procesā, taču tā ceļš uz akciju tirgu ir bijis svārstīgs. Februārī attiecības starp Anthropic un Balto namu sasniedza zemāko punktu. Uzņēmums atteicās noņemt iekšējos drošības mehānismus, kas neļāva tā AI izmantot autonomiem ieročiem vai iekšzemes novērošanai. Šis atteikums lika Pentagonam piešķirt uzņēmumam oficiālu piegādes ķēdes riska statusu. Tas ir smags apzīmējums, ko parasti attiecina uz uzņēmumiem, kuriem valdība tic, ka tie sekmē ārvalstu spiegošanu.

Šis neparastais melnais saraksts nebija ilgs. Tiesnesis bloķēja rīkojumu martā, un saspīlējums mazinājās pēc Mythos privātās izlaišanas. Interesanti, ka pat laikā, kad oficiālā politika bija aizdomu pilna, Nacionālā drošības aģentūra (NSA) jau izmantoja šo modeli. Ziņojumi no jūnija beigām liecina, ka NSA analītiķi testēja Mythos klasificētos apstākļos un atzina tā spējas par nepieredzētām. Aģentūra ir galvenā valdības noklausīšanās struktūra, un tās atzinīgais vērtējums par Mythos liecina, ka rīks ir ļoti efektīvs gan digitālo vājo vietu atrašanā, gan izmantošanā.

Fable globālā slēgšana un tās ietekme

Situācija kļuva sarežģītāka, kad Anthropic izlaida publisku Mythos versiju ar nosaukumu Fable. Šī versija ietvēra specifiskus kiberdrošības aizsardzības pasākumus, kas paredzēti vispārējai lietošanai. Tomēr Baltais nams atkal iejaucās, pieprasot, lai Anthropic aizliedz visiem ārvalstu lietotājiem piekļūt šim modelim. Šis pieprasījums izraisīja pilnīgu globālu Fable slēgšanu, kas ilga līdz pagājušajai nedēļai. Valdības loģika ir tāda, ka rīks, kas spēj novērst kļūdas, spēj arī palīdzēt uzbrucējam tās atrast. Ierobežojot piekļuvi tikai amerikāņiem, administrācija cer paturēt šo digitālo "jēlnaftu" savās robežās.

No patērētāju viedokļa šī cīņa izgaismo centrālo paradoksu mūsdienu tehnoloģijās. Mēs vēlamies, lai AI būtu drošs un ierobežots, taču mums ir arī nepieciešams, lai tas būtu pietiekami jaudīgs, lai aizsargātu mūsu jutīgākās sistēmas. Valdība pēc būtības mēģina panākt abus, izmantojot privātu, neierobežotu modeļa versiju savai aizsardzībai, vienlaikus ierobežojot sabiedrības piekļuvi tai pašai tehnoloģijai. Tas rada daudzlīmeņu sistēmu, kurā spēcīgākie drošības rīki ir rezervēti federālajai lietošanai, atstājot privāto sektoru paļauties uz ierobežotākām versijām.

Ko tas nozīmē jūsu personīgo datu drošībai

Vidējam lietotājam fakts, ka CISA izmanto Mythos, ir pozitīvs ieguvums privātumam. Lielākā daļa cilvēku tieši nesaskaras ar valdības kodu, taču viņu dati saskaras. Jūsu sociālās apdrošināšanas numurs, nodokļu vēsture un veselības aprūpes ieraksti tiek glabāti krātuvēs, kuras Mythos pašlaik skenē. Kad AI atrod kļūdu sistēmā IRS vai Veterānu lietu departamentā, šī sistēma tiek salabota, pirms ļaundaris var to izmantot. Tas ir praktisks AI pielietojums, kam ir jūtama ietekme uz jūsu personīgās informācijas drošību.

Praktiski runājot, šī maiņa liecina, ka manuālo drošības auditu ēra beidzas. Tuvākajos gados vairāk uzņēmumu privātajā sektorā, visticamāk, ieviesīs tādus rīkus kā Mythos vai Fable, lai aizsargātu savus tīklus. Tas novedīs pie elastīgākas digitālās ekonomikas, kurā programmatūra ir pēc būtības drošāka jau no tās uzrakstīšanas brīža. Tomēr tas nozīmē arī to, ka hakeru ienākšanas barjera paaugstināsies. Tā kā aizsardzība kļūst automatizēta, uzbrucēji arī pievērsīsies AI, lai atrastu vēl smalkākus veidus, kā apiet drošības pasākumus. Rezultāts ir ciklisks bruņošanās sacensības process, kurā AI ātrums nosaka uzvarētāju.

Perspektīvas maiņa par valdības tehnoloģijām

Galu galā, Mythos izmantošana no CISA puses ir zīme, ka valdība ir gatava nepamanīt korporatīvās berzes, lai nodrošinātu savu infrastruktūru. Fakts, ka uzņēmums dažu mēnešu laikā var kļūt no melnā saraksta dalībnieka par galveno drošības partneri, parāda, cik ļoti valdība paļaujas uz privātā sektora inovācijām. Lietotājiem tas ir atgādinājums, ka interneta neredzamos mehānismus arvien vairāk pārvalda algoritmi, nevis cilvēki. Mēs virzāmies uz decentralizētu drošības modeli, kurā svarīgākais darbs notiek fonā, tālu no mūsu ierīču lietotāja saskarnes.

Izmantojot valdības pakalpojumus vai digitālās banku lietotnes, novērojiet, cik reti jūs saskaraties ar lieliem sistēmas pārtraukumiem salīdzinājumā ar laiku pirms pieciem gadiem. Šī stabilitāte bieži vien ir rezultāts automatizētiem rīkiem, kādu tagad izmanto CISA. Kamēr Vašingtonā turpinās politiskā cīņa par AI drošību, tehniskā realitāte ir tāda, ka šie rīki jau smagi strādā. Secinājums ir tāda, ka jūsu digitālā dzīve kļūst drošāka, jo valdība nolēma, ka reiz aizliegtais AI ir pārāk vērtīgs, lai to ignorētu. Šī pragmatiskā pieeja tehnoloģijām ir fundamentālas pārmaiņas tajā, kā valsts aizsargā savas digitālās robežas.

Avoti:

• Kiberdrošības un infrastruktūras drošības aģentūras iekšējie novērtējumi
• Anthropic korporatīvie pieteikumi un publiskie paziņojumi
• Nacionālās drošības aģentūras tehniskā pārskata ziņojumi
• Aizsardzības departamenta piegādes ķēdes riska noteikšanas ieraksti
• Federālo tiesu nolēmumi attiecībā uz Anthropic pret Aizsardzības departamentu