No koda līdz ķimikālijām: kāpēc MI giganti piesaista ieroču speciālistus

Vai tērzēšanas robots tiešām var būt fiziskas katastrofas katalizators? Tas ir jautājums, kas vēl pirms pieciem gadiem būtu izklausījies pēc tehnotrillera sižeta. Tomēr, orientējoties 2026. gada ainavā, mūsu digitālās nākotnes arhitekti uz šo jautājumu raugās ar nāvējošu nopietnību. Anthropic un OpenAI, ģeneratīvā MI ēras titāni, vairs nemeklē tikai programmatūras inženierus un datu zinātniekus. Tagad tie agresīvi piesaista speciālistus ķīmisko ieroču, sprāgstvielu un bioloģisko draudu jomā.

Šīs pārmaiņas iezīmē transformējošu brīdi tehnoloģiju nozares evolūcijā. Mēs pārejam no laikmeta "darbojies ātri un salauz lietas" (move fast and break things) — kur salauztās lietas parasti bija tikai mantotie biznesa modeļi — uz nedrošu realitāti, kur šīs "lietas" varētu būt sabiedrības drošība un starptautiskā drošība. Organizācijas arvien vairāk sāk uzvesties kā dzīvi organismi, izstrādājot imūnsistēmas, lai aizsargātu sevi un sabiedrību no savas neparastās inteliģences neparedzētajām sekām.

Jaunā "Red Teaming" robeža

Anthropic nesen ziņoja par šīm pārmaiņām ar pamanāmu darba sludinājumu politikas ekspertam, kas specializējas ķīmiskajos ieročos un sprādzienos. Šī loma, protams, nav saistīta ar ieroču būvēšanu; tā ir vērsta uz to, lai novērstu viņu Claude modeļu "katastrofālu ļaunprātīgu izmantošanu". Citiem vārdiem sakot, viņi pieņem darbā cilvēkus, kuri zina, kā uzbūvēt bumbu, lai viņi varētu iemācīt MI precīzi to, kāpēc tam nekad nevajadzētu palīdzēt nevienam citam darīt to pašu.

Savas karjeras pirmsākumos tehnoloģiju jaunuzņēmumos lielākās bažas par "drošību" mums radīja datubāzu noplūdes vai kļūdaini API. Es atceros to drudžaino enerģiju vēlo nakšu sesijās, ko papildināja auksta pica, kur likmes šķita augstas, bet fiziskā pasaule palika neskarta. Tāpēc, redzot darba aprakstus, kas šodien nāk no Sanfrancisko, pārņem sirreāla sajūta par korporatīvo pāreju. Persona, kas tiks pieņemta šajā amatā, izstrādās un uzraudzīs drošības barjeras tam, kā MI modeļi reaģē uz vaicājumiem par jutīgiem ķīmiskiem savienojumiem. Viņi ir "ātrās reaģēšanas" komanda jauna veida digitālajam ugunsgrēkam.

Kāpēc tagad? CBRN risks

Akronīms, ko bieži čukst OpenAI un Anthropic gaiteņos, ir CBRN: ķīmiskie, bioloģiskie, radioloģiskie un kodoldraudi (Chemical, Biological, Radiological, and Nuclear). Tā kā progresīvie modeļi kļūst spējīgāki, tie iegūst niansētu izpratni par zinātnisko literatūru. Lai gan tas ir inovatīvi zāļu atklāšanai un materiālzinātnei, tas ir tikpat bīstami, ja modelis var sintezēt instrukcijas nervu aģentam vai primitīvai sprāgstierīcei.

Interesanti, ka risks nav tikai tajā, ka MI zina "recepti". Risks ir tajā, ka MI var darboties kā ļoti efektīvs projektu vadītājs kādam ar ļaunprātīgiem nodomiem. Tas var palīdzēt novērst traucējumus ķīmiskajās reakcijās, ieteikt alternatīvus prekursorus, kas apiet juridiskos ierobežojumus, un sniegt soli pa solim norādījumus par aprīkojuma uzstādīšanu. Pretstatā statiskai meklētājprogrammai, interaktīvs MI var vadīt lietotāju cauri bīstamam procesam. Tāpēc šo modeļu "būvakmeņos" jau no paša sākuma ir jāiestrādā drošība.

OpenAI "Preparedness" ietvars

OpenAI ir gājis līdzīgu ceļu ar savu "Preparedness" (gatavības) komandu. Šīs grupas uzdevums ir novērtēt progresīvos modeļus attiecībā uz "katastrofāliem" riskiem. Viņi ir izstrādājuši sarežģītu vērtēšanas sistēmu, lai izsekotu, cik tuvu modelis nonāk spējai palīdzēt bioloģiskā vai ķīmiskā uzbrukumā. Ja modelis pārsniedz noteiktu spēju slieksni bez atbilstošiem drošības pasākumiem, ietvars nosaka, ka to nedrīkst nodot atklātībai.

Tomēr izaicinājums joprojām ir milzīgs. MI drošība nav funkcija, ko var "iestatīt un aizmirst". Tas ir ceļojums, nevis galamērķis. Modeļiem attīstoties, tie atrod jaunus veidus, kā apiet vecos filtrus — fenomens, kas pazīstams kā "jailbreaking". Pieņemot darbā ekspertus, kuri savu karjeru pavadījuši laboratorijās un augstas drošības vidēs, MI uzņēmumi mēģina būt vienu soli priekšā radošajai ļaundarībai, kas bieži seko tehnoloģiskiem izrāvieniem.

Ētiskā ekosistēma

Mums ir jāraugās uz tehnoloģiju nozari kā uz ekosistēmu. Kad tiek ieviests jauns, spēcīgs plēsējs — vai šajā gadījumā transformējošs rīks —, visai videi ir jāpielāgojas, lai saglabātu līdzsvaru. Ieroču speciālistu pieņemšana darbā ir zīme, ka nozare nobriest. Tā ir atzīšanās, ka vara, ko pārvalda šie uzņēmumi, ir pārāk liela "pagaidīsim un redzēsim" pieejai.

Laikā, kad vadīju attālinātas komandas dažādās laika zonās, es iemācījos, ka veiksmīgākie projekti nebija tie, kuros bija ātrākie izstrādātāji, bet gan tie, kuriem bija vislabākā tālredzība. Ir jāparedz, kur radīsies berze. MI kontekstā šī berze ir digitālās inteliģences un fiziska kaitējuma krustpunkts.

Praktiski secinājumi MI ērai

Lai gan lielākā daļa no mums nebūvē lielos valodas modeļus (LLM) un nestrādā ar ķīmiskajiem prekursoriem, MI drošības profesionalizācijai ir reāla ietekme uz to, kā mēs mijiedarbojamies ar tehnoloģijām. Lūk, kas jums būtu jāpatur prātā:

• Rēķinieties ar lielāku pretestību: Tā kā drošības barjeras kļūst sarežģītākas, jūs varat pamanīt, ka MI modeļi biežāk "atsakās" apspriest jutīgas zinātniskas tēmas. Tā ir funkcija, nevis kļūda.
• Atbilstība regulējumam: Ja esat izstrādātājs, kas izmanto šos API, esiet informēts par pakalpojumu sniedzēju "Atbildīgas mērogošanas politikām" (Responsible Scaling Policies). Jūsu lietojumprogrammām var tikt piemēroti šie drošības auditi.
• Nozares ekspertīzes vērtība: Šī tendence pierāda, ka ar "mīkstajām" tehnoloģiju prasmēm vien nepietiek. Pašlaik vērtīgākie cilvēki tehnoloģiju jomā ir tie, kuri spēj pārvarēt plaisu starp silīciju un fiziskajām zinātnēm.

Raugoties uz atlikušo 2026. gadu, sadarbība starp kodolfiziķiem, ķīmiķiem un programmētājiem, visticamāk, kļūs par standartu, nevis izņēmumu. Tā ir dīvaina, nedaudz satraucoša, bet galu galā nepieciešama evolūcija mūsu centienos radīt rīkus, kas ir tikpat droši, cik viedi.