Dlaczego rząd używa swojego największego zagrożenia bezpieczeństwa do naprawy swoich największych luk w zabezpieczeniach

Podczas gdy narracja publiczna często przedstawia sztuczną inteligencję jako proste narzędzie do pisania e-maili lub generowania obrazów, rzeczywistość jest znacznie bardziej przemysłowa. Agencja ds. Cyberbezpieczeństwa i Bezpieczeństwa Infrastruktury, znana jako CISA, używa obecnie potężnego modelu AI od firmy Anthropic do skanowania rządowego oprogramowania pod kątem błędów. Ten krok stanowi wyraźne odejście od niedawnej historii napięć między tym startupem z San Francisco a federalnymi organami regulacyjnymi. Zaledwie kilka miesięcy temu Pentagon określił Anthropic jako ryzyko dla łańcucha dostaw, co w zasadzie zrównało firmę z zagranicznymi podmiotami podejrzanymi o szpiegostwo. Dziś ta sama firma jest niewidzialnym kręgosłupem wysiłków mających na celu ochronę federalnego kodu przed zagranicznymi szpiegami.

Patrząc na szerszy obraz, ta adaptacja pokazuje, że rząd ceni możliwości wyżej niż spory polityczne. CISA używa specyficznego modelu AI o nazwie Mythos do audytu repozytoriów kodu w różnych departamentach. Repozytoria te są cyfrowymi magazynami, w których rząd przechowuje oprogramowanie obsługujące wszystko – od przetwarzania podatków po logistykę. Mythos działa jak niestrudzony stażysta, który w kilka sekund czyta miliony linii kodu, szukając drobnych błędów, które ludzki programista mógłby przeoczyć po długiej zmianie. Te błędy to otwarte okna, których cyberprzestępcy i zagraniczne agencje wywiadowcze używają, aby uzyskać dostęp do wrażliwych amerykańskich danych.

Niestrudzony stażysta dla federalnego repozytorium kodu

„Pod maską” proces audytu kodu jest historycznie powolny i kosztowny. Ludzki badacz bezpieczeństwa może przejrzeć zaledwie kilkaset linii kodu w ciągu godziny z zachowaniem wysokiej dokładności. Rząd USA zarządza miliardami linii kodu, z których wiele napisano dekady temu w językach, których współcześni programiści rzadko używają. Stwarza to ogromne zaległości w potencjalnych lukach w zabezpieczeniach. Mythos zmienia matematykę tego procesu, ponieważ jest przełomowym narzędziem zaprojektowanym specjalnie do analizy cyberbezpieczeństwa. Nie szuka tylko literówek; rozumie, jak różne elementy oprogramowania wchodzą w interakcje, tworząc ryzyko systemowe.

Według osób zaznajomionych ze sprawą, zespołem prowadzącym te działania jest grupa CISA ds. Oceny Powierzchni Ataku (Attack Surface Evaluation). Zespół ten przeprowadza cyfrowe oceny bezpieczeństwa i ćwiczenia hakerskie, aby znaleźć słabe punkty, zanim zrobią to prawdziwi napastnicy. Dzięki użyciu Mythos zespół odkrył już dużą liczbę luk. Choć specyfika tych błędów nie jest publiczna, szybkość ich wykrywania sugeruje, że AI działa na poziomie, któremu ludzkie zespoły nie są w stanie dorównać. Ta wydajność jest niezbędna, ponieważ ilość kodu, którego rząd musi bronić, rośnie z każdym dniem.

Trudne relacje między Anthropic a Białym Domem

Anthropic ma skomplikowaną historię z władzami, którym teraz pomaga. Firma jest obecnie w trakcie poufnej pierwszej oferty publicznej, ale jej droga na giełdę była burzliwa. W lutym relacje między Anthropic a Białym Domem sięgnęły dna. Firma odmówiła usunięcia wewnętrznych zabezpieczeń, które uniemożliwiały wykorzystanie jej AI do broni autonomicznej lub inwigilacji krajowej. Ta odmowa skłoniła Pentagon do nałożenia na firmę formalnego oznaczenia ryzyka dla łańcucha dostaw. Jest to surowa etykieta, która zazwyczaj dotyczy firm, które zdaniem rządu ułatwiają zagraniczne szpiegostwo.

Ta nadzwyczajna czarna lista nie trwała długo. Sędzia zablokował nakaz w marcu, a napięcie opadło po prywatnym wydaniu modelu Mythos. Co ciekawe, nawet gdy oficjalna polityka była pełna podejrzeń, Agencja Bezpieczeństwa Narodowego (NSA) już korzystała z tego modelu. Raporty z końca czerwca wskazują, że analitycy NSA testowali Mythos w niejawnych warunkach i uznali jego możliwości za bezprecedensowe. Agencja ta jest głównym ramieniem rządu ds. podsłuchów, a jej poparcie dla Mythos sugeruje, że narzędzie to jest wysoce skuteczne zarówno w znajdowaniu, jak i wykorzystywaniu cyfrowych słabości.

Globalne wyłączenie Fable i jego skutki

Sytuacja stała się bardziej złożona, gdy Anthropic wydał publiczną wersję Mythos o nazwie Fable. Ta wersja zawierała specyficzne zabezpieczenia cybernetyczne przeznaczone do ogólnego użytku. Jednak Biały Dom ponownie interweniował, żądając, aby Anthropic zablokował wszystkim zagranicznym użytkownikom dostęp do modelu. Żądanie to doprowadziło do całkowitego globalnego wyłączenia Fable, które trwało do zeszłego tygodnia. Logika rządu jest taka, że narzędzie zdolne do naprawiania błędów jest również zdolne do pomagania atakującemu w ich znalezieniu. Ograniczając dostęp do Amerykanów, administracja ma nadzieję utrzymać tę „cyfrową ropę naftową” wewnątrz własnych granic.

Z punktu widzenia konsumenta to przeciąganie liny podkreśla centralny paradoks nowoczesnej technologii. Chcemy, aby AI była bezpieczna i ograniczona, ale potrzebujemy jej również do tego, by była wystarczająco potężna, by bronić naszych najbardziej wrażliwych systemów. Rząd w zasadzie próbuje zjeść ciastko i mieć ciastko, używając prywatnej, nieograniczonej wersji modelu do własnej obrony, jednocześnie ograniczając publiczny dostęp do tej samej technologii. Tworzy to system warstwowy, w którym najsolidniejsze narzędzia bezpieczeństwa są zarezerwowane do użytku federalnego, pozostawiając sektor prywatny z bardziej ograniczonymi wersjami.

Co to oznacza dla bezpieczeństwa Twoich danych osobowych

Dla przeciętnego użytkownika fakt, że CISA używa Mythos, jest zdecydowanie korzystny dla prywatności. Większość ludzi nie wchodzi w bezpośrednią interakcję z kodem rządowym, ale ich dane – owszem. Twój numer PESEL (Social Security number), historia podatkowa i dokumentacja medyczna są przechowywane w repozytoriach, które Mythos obecnie skanuje. Gdy AI znajdzie błąd w systemie IRS lub Departamencie Spraw Weteranów, system ten jest łatany, zanim złośliwy podmiot zdąży go wykorzystać. Jest to praktyczne zastosowanie AI, które ma realny wpływ na bezpieczeństwo Twoich danych osobowych.

Praktycznie rzecz biorąc, ta zmiana wskazuje, że era ręcznych audytów bezpieczeństwa dobiega końca. W nadchodzących latach więcej firm w sektorze prywatnym prawdopodobnie przyjmie narzędzia takie jak Mythos lub Fable, aby chronić własne sieci. Doprowadzi to do bardziej odpornej gospodarki cyfrowej, w której oprogramowanie jest z natury bezpieczniejsze od momentu jego napisania. Oznacza to jednak również, że bariera wejścia dla hakerów wzrośnie. W miarę jak obrona staje się zautomatyzowana, atakujący również zwrócą się ku AI, aby znaleźć jeszcze subtelniejsze sposoby na obejście zabezpieczeń. Rezultatem jest cykliczny wyścig zbrojeń, w którym o zwycięstwie decyduje szybkość AI.

Zmiana perspektywy na technologię rządową

Ostatecznie, użycie Mythos przez CISA jest znakiem, że rząd jest skłonny przymknąć oko na tarcia korporacyjne, aby zabezpieczyć swoją infrastrukturę. Fakt, że firma może przejść z czarnej listy do roli głównego partnera w zakresie bezpieczeństwa w ciągu kilku miesięcy, pokazuje, jak bardzo rząd polega na innowacjach sektora prywatnego. Dla użytkowników jest to przypomnienie, że niewidzialna mechanika internetu jest w coraz większym stopniu zarządzana przez algorytmy, a nie ludzi. Zmierzamy w stronę zdecentralizowanego modelu bezpieczeństwa, w którym najważniejsza praca odbywa się w tle, z dala od interfejsu użytkownika naszych urządzeń.

Korzystając z usług rządowych lub aplikacji bankowych, zaobserwuj, jak rzadko zdarzają się poważne awarie systemu w porównaniu do sytuacji sprzed pięciu lat. Ta stabilność jest często wynikiem zautomatyzowanych narzędzi, takich jak to, którego używa teraz CISA. Podczas gdy polityczna bitwa o bezpieczeństwo AI trwa w Waszyngtonie, techniczna rzeczywistość jest taka, że narzędzia te już ciężko pracują. Konkluzja jest taka, że Twoje cyfrowe życie staje się bezpieczniejsze, ponieważ rząd uznał, że niegdyś zakazana sztuczna inteligencja jest zbyt cenna, by ją ignorować. To pragmatyczne podejście do technologii stanowi fundamentalną zmianę w sposobie, w jaki kraj broni swoich cyfrowych granic.

Źródła:

• Wewnętrzne oceny Cybersecurity and Infrastructure Security Agency
• Zgłoszenia korporacyjne i oświadczenia publiczne Anthropic
• Raporty z przeglądów technicznych National Security Agency
• Rejestry oznaczeń ryzyka łańcucha dostaw Departamentu Obrony
• Orzeczenia sądów federalnych dotyczące Anthropic przeciwko Departamentowi Obrony