Nuo kodo iki chemikalų: kodėl DI milžinai samdo ginklų specialistus

Ar pokalbių robotas iš tikrųjų gali tapti fizinės katastrofos katalizatoriumi? Tai klausimas, kuris dar prieš penkerius metus būtų skambėjęs kaip technotrilerio siužetas. Tačiau žengiant per 2026-ųjų kraštovaizdį, mūsų skaitmeninės ateities architektai į atsakymą žiūri mirtinai rimtai. „Anthropic“ ir „OpenAI“, generatyvinio DI eros titanai, nebeieško tik programinės įrangos inžinierių ir duomenų mokslininkų. Dabar jie agresyviai samdo cheminių ginklų, sprogmenų ir biologinių grėsmių specialistus.

Šis pokytis žymi transformacinį momentą technologijų pramonės evoliucijoje. Mes paliekame erą „judėk greitai ir laužyk dalykus“ (angl. move fast and break things), kurioje laužomi dalykai dažniausiai būdavo tik pasenę verslo modeliai, ir žengiame į pavojingą realybę, kurioje tie „dalykai“ gali būti visuomenės saugumas ir tarptautinis saugumas. Organizacijos vis labiau elgiasi kaip gyvi organizmai, kurdamos imunines sistemas, kad apsaugotų save ir visuomenę nuo nenumatytų savo pačių nepaprasto intelekto pasekmių.

Naujoji „Red Teaming“ riba

„Anthropic“ neseniai paskelbė apie šį pokytį paviešindami aukšto lygio darbo skelbimą politikos ekspertui, besispecializuojančiam cheminių ginklų ir sprogmenų srityse. Šis vaidmuo, žinoma, nėra skirtas ginklų kūrimui; jis skirtas užkirsti kelią „katastrofiškam piktnaudžiavimui“ jų „Claude“ modeliais. Kitaip tariant, jie samdo žmones, kurie žino, kaip sukonstruoti bombą, kad jie galėtų tiksliai išmokyti DI, kodėl jis niekada neturėtų padėti niekam kitam padaryti to paties.

Savo ankstyvosiomis dienomis dirbant technologijų startuoliuose, didžiausias mums rūpėjęs „saugumo“ klausimas buvo duomenų bazės nutekėjimas ar klaidinga API. Prisimenu tą karštligišką vėlyvų nakties sesijų energiją, palaikomą šaltos picos, kai statymai atrodė dideli, tačiau fizinis pasaulis likdavo nepaliestas. Todėl matyti šiandieninius darbo aprašymus iš San Fransisko atrodo kaip siurrealistiškas korporacinis virsmas. Šiam vaidmeniui pasamdytas asmuo kurs ir stebės saugiklius, nustatančius, kaip DI modeliai reaguoja į užklausas apie jautrius cheminius junginius. Jie yra naujos rūšies skaitmeninio gaisro „greitojo reagavimo“ komanda.

Kodėl dabar? CBRN rizika

Akronimas, dažnai šnibždamas „OpenAI“ ir „Anthropic“ koridoriuose, yra CBRN: cheminė, biologinė, radiologinė ir branduolinė (angl. Chemical, Biological, Radiological, and Nuclear) sauga. Kadangi pažangiausi modeliai tampa vis pajėgesni, jie įgyja niuansuotą mokslinės literatūros supratimą. Nors tai yra inovatyvu vaistų kūrimui ir medžiagotyrai, tai yra tiek pat pavojinga, jei modelis gali susintetinti instrukcijas nervus paralyžiuojančioms medžiagoms ar primityviems sprogstamiesiems įtaisams.

Įdomu tai, kad rizika kyla ne tik dėl to, jog DI žino „receptą“. Rizika yra ta, kad DI gali veikti kaip itin efektyvus projektų vadovas asmeniui, turinčiam piktų kėslų. Jis gali padėti spręsti cheminių reakcijų problemas, pasiūlyti alternatyvius pirmtakus (prekursorius), kurie apeina teisinius apribojimus, ir pateikti nuoseklias gaires, kaip paruošti įrangą. Priešingai nei statinė paieškos sistema, interaktyvus DI gali vesti vartotoją už rankos per pavojingą procesą. Štai kodėl šių modelių „statybiniai blokai“ turi būti prisotinti saugumo nuo pat pamatų.

„OpenAI“ pasirengimo sistema

„OpenAI“ nuėjo panašiu keliu su savo „Preparedness“ (pasirengimo) komanda. Šiai grupei pavesta vertinti pažangiausius modelius atsižvelgiant į „katastrofines“ rizikas. Jie sukūrė sudėtingą vertinimo sistemą, skirtą stebėti, kaip arti modelis priartėja prie gebėjimo padėti vykdyti biologinę ar cheminę ataką. Jei modelis peržengia tam tikrą pajėgumo ribą be atitinkamų apsaugos priemonių, sistema numato, kad jis negali būti viešinamas.

Nepaisant to, iššūkis išlieka milžiniškas. DI saugumas nėra funkcija, kurią „nustatai ir pamiršti“. Tai kelionė, o ne tikslas. Modeliams evoliucionuojant, jie randa naujų būdų apeiti senus filtrus – šis reiškinys žinomas kaip „jailbreaking“ (saugiklių apėjimas). Samdydamos ekspertus, praleidusius savo karjerą laboratorijose ir aukšto saugumo aplinkose, DI įmonės bando būti vienu žingsniu priekyje kūrybiško piktavališkumo, kuris dažnai lydi technologinius proveržius.

Etinė ekosistema

Turime vertinti technologijų pramonę kaip ekosistemą. Kai atsiranda naujas, galingas plėšrūnas – arba šiuo atveju transformuojantis įrankis – visa aplinka turi prisitaikyti, kad išlaikytų pusiausvyrą. Ginklų specialistų samdymas yra ženklas, kad pramonė bręsta. Tai pripažinimas, kad galia, kurią valdo šios įmonės, yra per didelė „palaukime ir pamatysime“ požiūriui.

Savo laiku vadovaudamas nuotolinėms komandoms skirtingose laiko juostose išmokau, kad sėkmingiausi projektai buvo ne tie, kuriuose dirbo greičiausi programuotojai, o tie, kurių nariai turėjo geriausią įžvalgumą. Reikia numatyti, kur atsiras trintis. DI kontekste ši trintis yra skaitmeninio intelekto ir fizinės žalos sankirta.

Praktinės įžvalgos DI erai

Nors dauguma iš mūsų nekuria didžiųjų kalbos modelių (LLM) ir netvarko cheminių prekursorių, DI saugumo profesionalizavimas turi realių pasekmių tam, kaip mes sąveikaujame su technologijomis. Štai ką turėtumėte turėti omenyje:

• Tikėkitės daugiau trinties: Saugikliams tampant vis sudėtingesniems, galite pastebėti, kad DI modeliai dažniau „atsisako padėti“ aptariant jautrias mokslines temas. Tai yra funkcija, o ne klaida.
• Reguliavimo atitiktis: Jei esate kūrėjas, naudojantis šias API, domėkitės teikėjų „Atsakingo mastelio didinimo politikomis“ (angl. Responsible Scaling Policies). Jūsų pačių programoms gali būti taikomi šie saugumo auditai.
• Srities ekspertinių žinių vertė: Ši tendencija įrodo, kad „minkštųjų“ technologinių įgūdžių nepakanka. Vertingiausi žmonės technologijų srityje šiuo metu yra tie, kurie užpildo atotrūkį tarp silicio ir fizinių mokslų.

Žvelgiant į likusius 2026-uosius, branduolinės fizikos specialistų, chemikų ir programuotojų bendradarbiavimas tikriausiai taps standartu, o ne išimtimi. Tai keista, šiek tiek bauginanti, bet galiausiai būtina evoliucija mūsų siekyje kurti įrankius, kurie būtų tiek pat saugūs, kiek ir išmanūs.