Podczas gdy rząd USA twierdzi, że niedawny zakaz eksportu najpotężniejszych modeli firmy Anthropic jest zwycięstwem dla bezpieczeństwa narodowego, rzeczywistość jest znacznie bardziej nieprzewidywalna. Waszyngton wierzy, że odcinając dostęp do najnowszej sztucznej inteligencji, uniemożliwi zagranicznym przeciwnikom znalezienie luk w amerykańskiej infrastrukturze. Jednak ludzie, którzy faktycznie spędzają życie na obronie naszych cyfrowych granic, twierdzą, że ten krok przynosi odwrotny skutek. Grupa 76 weteranów cyberbezpieczeństwa podpisała niedawno list otwarty do Białego Domu, argumentując, że zakaz ten odebrał najlepsze narzędzia obrońcom, podczas gdy napastnicy nadal rozwijają się z pełną prędkością.
Ten konflikt jest klasycznym przykładem polityki zaprojektowanej dla świata fizycznego, którą próbuje się zastosować w świecie cyfrowym. W świecie fizycznym można zamknąć prototyp w sejfie, aby zachować go w tajemnicy. W świecie oprogramowania jedynym sposobem na zapewnienie bezpieczeństwa systemu jest znalezienie jego wad, zanim zrobi to ktoś inny. Ograniczając dostęp do tych zaawansowanych modeli, rząd w zasadzie zawiązał oczy strażnikom, podczas gdy intruzi są już wewnątrz budynku z nowoczesnymi latarkami.
Problemy zaczęły się w piątek, gdy rząd USA nakazał firmie Anthropic ograniczenie eksportu dwóch jej najbardziej zaawansowanych modeli AI: Fable i Mythos. Rząd powołał się na obawy dotyczące bezpieczeństwa narodowego, ale nie podał konkretnych szczegółów, dlaczego modele te nagle stały się zbyt niebezpieczne dla opinii publicznej. W odpowiedzi Anthropic zawiesił dostęp do tych modeli dla wszystkich użytkowników na całym świecie. Decyzja ta nie jest tylko porażką korporacyjną; to systemowe zakłócenie dla branży cyberbezpieczeństwa.
Dla przeciętnego użytkownika może to wyglądać na drobny spór między firmą technologiczną a regulatorem. Patrząc jednak na szerszy obraz, modele te są cyfrową ropą naftową świata bezpieczeństwa. Firmy zajmujące się bezpieczeństwem używają ich do skanowania milionów linii kodu w kilka sekund. Działają one jak niestrudzony stażysta, który nigdy nie śpi, polując na drobne błędy prowadzące do masowych wycieków danych. Kiedy rząd wycofuje te narzędzia z rynku, programiści tracą najskuteczniejszy sposób na łatanie aplikacji, których używasz każdego dnia – od portalu bankowości mobilnej po inteligentny termostat domowy.
Aby zrozumieć, dlaczego eksperci są wściekli, musimy zajrzeć pod maskę tego, co faktycznie zbudował Anthropic. Mythos to wysokowydajna wersja ich AI. Kiedy zadebiutowała w fazie testowej w kwietniu, Anthropic rozpoznał jej moc. Była tak skuteczna w identyfikowaniu luk w zabezpieczeniach, że firma początkowo ograniczyła dostęp do małej grupy 150 organizacji w 15 krajach. Byli to „zweryfikowani” obrońcy, którzy używali AI do wzmacniania swoich systemów przed atakami.
Fable była wersją publiczną. Posiadała rygorystyczne zabezpieczenia zaprojektowane tak, aby zapobiec jej wykorzystaniu do celów przestępczych, takich jak tworzenie broni biologicznej czy pisanie złośliwego oprogramowania. Jednak te bariery były tak agresywne, że Fable często odmawiała pomocy w legalnych zadaniach związanych z bezpieczeństwem. Jeśli badacz poprosił Fable o znalezienie błędu w kodzie, AI często odmawiała, obawiając się, że informacje te mogą zostać wykorzystane do wyrządzenia szkody. Stworzyło to paradoks, w którym „bezpieczna” wersja modelu była bezużyteczna dla tych samych ludzi, którzy starali się uczynić internet bezpieczniejszym.
Uzasadnienie rządowego zakazu wydaje się wynikać z raportu badaczy z Amazon. Raport ten, który nie jest jeszcze publiczny, rzekomo twierdzi, że istnieje sposób na obejście – lub „jailbreak” – zabezpieczeń modelu Fable, aby odblokować jego pełną moc na poziomie Mythos. Biały Dom prawdopodobnie uznał to za sygnał ostrzegawczy, obawiając się, że jeśli Fable jest łatwa do zhakowania, to każdy przeciwnik może jej użyć do znalezienia luk typu zero-day w amerykańskim oprogramowaniu.
Katie Moussouris, założycielka Luta Security i sygnatariuszka listu otwartego, zapoznała się z tym dokumentem i nie zgadza się z jego wnioskami. Argumentuje ona, że badacze w rzeczywistości nie znaleźli sposobu na obejście zabezpieczeń. Zamiast tego po prostu poprosili AI o naprawienie publicznego kodu open-source, który miał znane błędy. Gdy AI początkowo odmówiła, przeredagowali prośbę, aż została spełniona. Moussouris podkreśla, że nie jest to błąd bezpieczeństwa; to podstawowa funkcja modelu. Proszenie AI o naprawienie błędu to najcenniejsza rzecz, jaką może ona zrobić dla bezpieczeństwa defensywnego. Etykietowanie tego jako „jailbreak” jest jak twierdzenie, że ślusarz jest przestępcą, ponieważ wie, jak naprawić zepsuty zamek.
Lista osób podpisujących ten list protestacyjny to śmietanka świata bezpieczeństwa. Znajdują się na niej Alex Stamos, były szef bezpieczeństwa w Facebooku, oraz Jon Callas, który zarządzał architekturą bezpieczeństwa w Apple. Są to pragmatyczni eksperci, którzy rozumieją, jak buduje się i łamie oprogramowanie. Ich główną obawą jest to, że rząd USA podejmuje decyzje oparte na błędnym zrozumieniu tego, jak AI wchodzi w interakcję z kodem.
W swoim liście eksperci wyjaśniają, że pętla „znajdź, napraw i przetestuj” jest fundamentalnym procesem nowoczesnego bezpieczeństwa. Obrońcy muszą znaleźć błąd, napisać poprawkę, a następnie przeprowadzić testy, aby upewnić się, że poprawka działa. Modele AI, takie jak Mythos, mogą to robić na skalę, której ludzie po prostu nie są w stanie dorównać. Usuwając te modele, rząd zmusza obrońców do powrotu do pracy ręcznej, podczas gdy hakerzy już korzystają z narzędzi zautomatyzowanych. To niebezpieczna nierównowaga, która sprawia, że każdy element oprogramowania w Twoim telefonie i komputerze staje się bardziej podatny na ataki.
Jednym z najbardziej niepokojących punktów w liście otwartym jest to, że USA nie są jedynym graczem w tej grze. Podczas gdy Biały Dom ogranicza Anthropic, inne firmy i kraje idą naprzód. Eksperci zauważyli, że te same możliwości, które posiada Mythos, pojawiają się już w innych modelach, takich jak GPT-5.5 od OpenAI, a nawet w chińskich modelach, takich jak Kimi 2.7. Technologia jest już powszechnie dostępna.
W gruncie rzeczy rząd USA próbuje zatrzymać przypływ miotłą. Jeśli amerykańscy obrońcy nie będą mogli korzystać z amerykańskiej AI, w końcu będą musieli szukać gdzie indziej lub po prostu zostaną w tyle. Historycznie rzecz biorąc, gdy USA ograniczają technologię, która jest już dostępna globalnie, udaje im się jedynie osłabić własny przemysł. Chiny i inni rywale nie przestaną rozwijać potężnej AI z powodu amerykańskiego nakazu eksportowego. Jeśli już, ten zakaz daje im wyraźną szansę na zdobycie przewagi w technologii defensywnego cyberbezpieczeństwa – luki, której zasypanie może zająć USA lata.
Dla przeciętnego konsumenta ta debata może wydawać się odległa, ale praktyczne konsekwencje są namacalne. Bezpieczeństwo nie jest produktem, który się kupuje; to odporny proces ciągłych aktualizacji. Za każdym razem, gdy telefon prosi o zainstalowanie aktualizacji zabezpieczeń, dzieje się tak dlatego, że programista znalazł lukę i ją załatał. Jeśli ci programiści stracą dostęp do najlepszych narzędzi do znajdowania tych luk, aktualizacje będą pojawiać się wolniej lub mogą nie pojawić się wcale.
Zmierzamy w stronę świata, w którym oprogramowanie jest zbyt złożone, by ludzie mogli je zabezpieczyć samodzielnie. W miarę jak nasze życie staje się coraz bardziej połączone poprzez internet rzeczy, ilość kodu, na którym polegamy, gwałtownie rośnie. Potrzebujemy AI, aby działała jako cyfrowy układ odpornościowy. Kiedy rząd ogranicza ten układ odpornościowy, wystawia organizm internetu na infekcje. Sedno sprawy polega na tym, że bezpieczeństwo poprzez niejasność – idea, że jesteś bezpieczny, bo nikt nie wie, jak działa Twój system – nigdy nie sprawdziło się w erze cyfrowej.
Eksperci nie proszą o całkowity brak regulacji. Zamiast tego domagają się przejrzystego i demokratycznego procesu tworzenia zasad. Chcą regulacji opartych na badaniach naukowych i wiedzy branżowej, a nie na tajnych raportach i strachu. Argumentują, że wszelkie ograniczenia powinny być minimalne i niezbędne do zapewnienia bezpieczeństwa publicznego, a nie szerokim zakazem, który uderza rykoszetem w obrońców.
Ostatecznie jest to wezwanie do rządu, aby zaufał ludziom, którzy faktycznie są na pierwszej linii frontu. Branża cyberbezpieczeństwa spędziła dekady na nauce, że otwartość jest najlepszą drogą do bezpieczeństwa. Dzieląc się informacjami o błędach i współpracując nad ich naprawą, społeczność wyprzedza przestępców. Nałożenie całunu tajemnicy na narzędzia AI niszczy ten model współpracy i stawia opinię publiczną w trudniejszej sytuacji. Patrząc w przyszłość, powinniśmy priorytetowo traktować dawanie „tym dobrym” najlepszych możliwych narzędzi, zamiast mieć nadzieję, że zakaz powstrzyma przed ich zdobyciem „tych złych”.
Źródła:



Nasze kompleksowe, szyfrowane rozwiązanie do poczty e-mail i przechowywania danych w chmurze zapewnia najpotężniejsze środki bezpiecznej wymiany danych, zapewniając bezpieczeństwo i prywatność danych.
/ Utwórz bezpłatne konto