Dlaczego Twój komputer jest mniej bezpieczny, ponieważ firmy AI próbują go chronić

Opinia publiczna traktuje zabezpieczenia AI jak cyfrową kamizelkę kuloodporną. Logika jest prosta: jeśli model odmawia napisania złośliwego kodu, hakerzy mają o jedną broń mniej w swoim arsenale. Jednak za korporacyjnym marketingiem i rządowym nadzorem kryje się fakt, że te środki bezpieczeństwa obecnie oślepiają właśnie te osoby, które chronią nasze urządzenia przed atakami w świecie rzeczywistym. Próbując zamknąć drzwi przed przestępcami, laboratoria AI przypadkowo zatrzaskują je przed ślusarzami.

Technolodzy i badacze bezpieczeństwa biją na alarm w związku z trendem, który przedkłada wizerunek nad rzeczywiste bezpieczeństwo. Podczas gdy firmy takie jak Anthropic i OpenAI promują swoje modele jako potężne silniki innowacji, owinęły je również warstwami restrykcyjnego kodu zaprojektowanego, aby zapobiegać „nadużyciom”. Dla przeciętnego użytkownika oznacza to, że oprogramowanie, na którym polegasz — od aplikacji bankowej po system operacyjny smartfona — staje się trudniejsze do obrony.

Mit cyfrowej kamizelki kuloodpornej

Fundamentalnym problemem z zabezpieczeniami AI jest to, że cyberbezpieczeństwo to ulica dwukierunkowa. Aby naprawić dziurę w ścianie, murarz musi najpierw zrozumieć, jak dokładnie tę ścianę można przebić. W cyfrowym świecie nazywa się to badaniami ofensywnymi. Legalni specjaliści ds. bezpieczeństwa spędzają dnie, zachowując się jak hakerzy, aby znaleźć luki, zanim zrobią to prawdziwi przestępcy.

Chris Anley, główny naukowiec w gigancie doradztwa ds. bezpieczeństwa NCC Group, używa prostej analogii. Młotek to narzędzie potrzebne do budowy domu, ale to także broń. Nie da się zbudować konstrukcji bez niego. Jeśli zakażesz młotków, aby zapobiec przemocy, zapewnisz również, że żadne domy nie zostaną zbudowane. Kiedy badacz prosi AI o próbę wykorzystania błędu, stara się udowodnić, że luka jest prawdziwa, aby producent mógł ją naprawić. Jeśli AI odmawia odpowiedzi, ponieważ prośba wygląda na „złośliwą”, obrońca zostaje bez swojego najskuteczniejszego narzędzia.

Tworzy to paradoks, w którym ten sam mechanizm mający utrudnić pracę hakerowi, zatrzymuje również obrońcę. Obie role używają dokładnie tych samych technik. Ograniczając dostęp do tych możliwości, firmy AI znacznie utrudniają pracę obrońcom sieci. Skutkuje to tym, że wady oprogramowania pozostają otwarte przez dłuższy czas, co daje prawdziwym przestępcom więcej czasu na ich znalezienie i wykorzystanie.

Negocjacje z niestrudzonym, ale upartym stażystą

Dla wielu badaczy korzystanie z nowoczesnego modelu AI przypomina pracę z niestrudzonym stażystą, który jest jednocześnie niesamowicie paranoiczny. Możesz poprosić stażystę o analizę fragmentu kodu pod kątem błędów. Stażysta widzi słowo „exploit” lub „vulnerability” i natychmiast przerywa pracę, dając ci wykład z etyki zamiast danych, o które prosiłeś.

Chris Thompson, dyrektor generalny RemoteThreat, zauważa, że badacze spędzają teraz ogromną część dnia na negocjacjach z modelem. Zamiast skupiać się na sednie problemu bezpieczeństwa, próbują dowiedzieć się, dlaczego model udzielił pomocnej odpowiedzi wczoraj, a dziś odmawia rozmowy. Ta nadmierna sterylizacja wyników AI prowadzi do niespójnych rezultatów.

W niektórych przypadkach zabezpieczenia są tak czułe, że aktywują się przy samej wzmiance o tematach związanych z bezpieczeństwem. Badacz pracujący dla dużego producenta komponentów do smartfonów zgłosił, że ich narzędzia AI są niemal bezużyteczne, ponieważ zabezpieczenia są zbyt rygorystyczne. Jeśli model wyczuje jakąkolwiek aktywność związaną z bezpieczeństwem, po prostu się wyłącza. Tworzy to „podatek od produktywności” dla osób, które mają chronić globalny łańcuch dostaw.

Biurokracja programów weryfikacyjnych

Laboratoria AI nie są ślepe na ten problem, ale ich rozwiązaniem jest warstwa biurokracji. Anthropic ma swój Cyber Verification Program, a OpenAI oferuje Trusted Access for Cyber. Są to programy weryfikacyjne, w których badacze mogą ubiegać się o specjalny dostęp do modeli z mniejszą liczbą ograniczeń.

Jednak programy te są często nieprzejrzyste i wykluczające. Dostęp jest często ograniczony do konkretnych zachodnich organizacji lub tych, które spełniają surowe kryteria korporacyjne. Nawet gdy badacz zostanie zatwierdzony, granice mogą się zmienić bez powiadomienia. To selekcjonowanie dostępu jest szczególnie widoczne w przypadku modelu Mythos firmy Anthropic. Firma promuje Mythos jako wysokiej klasy narzędzie tak potężne, że wymaga nadzoru na poziomie rządowym.

W czerwcu rząd USA na krótko nałożył kontrole eksportowe na Mythos i inny model o nazwie Fable. Ruch ten nastąpił po raportach, że zabezpieczenia modeli można obejść w celu przeprowadzenia cyberataków. Chociaż kontrole zostały później złagodzone dla zweryfikowanych organizacji z USA, incydent ten podkreślił rosnący trend traktowania AI jako kontrolowanej broni, a nie narzędzia ogólnego przeznaczenia. Ten poziom blokowania dostępu nie powstrzymuje hakerów, którzy używają własnego sprzętu, ale tworzy ogromną przeszkodę dla legalnych firm starających się wyprzedzić zagrożenia.

Migracja do open source i modeli zagranicznych

Kiedy legalni badacze są blokowani przez firmy AI z siedzibą w USA, nie przestają po prostu pracować. Zamiast tego szukają narzędzi, które nie mają tych restrykcyjnych filtrów. Często oznacza to odejście od dopracowanych modeli chmurowych w stronę alternatyw open source, które można uruchomić na prywatnym sprzęcie.

Paolo Stagno, dyrektor ds. technologii w Crowdfense, wyjaśnia, że jego zespół unika modeli chmurowych przy wrażliwych pracach. Wprowadzenie tajnej luki w oprogramowaniu do chmurowej AI niesie ryzyko wycieku tych danych lub wchłonięcia ich do przyszłego procesu szkoleniowego. Aby zachować prywatność i uniknąć „opieki” korporacyjnych zabezpieczeń, wielu profesjonalistów korzysta obecnie z modeli open source, które mogą uruchamiać lokalnie bez żadnego nadzoru.

Istnieje tutaj ryzyko strategiczne. Jeśli amerykańscy badacze uznają, że rodzime modele są zbyt restrykcyjne, by były użyteczne, mogą zwrócić się ku potężnym modelom open source opracowanym w innych krajach. Chris Thompson wskazuje, że badacze są już spychani w stronę chińskich modeli, takich jak GLM. Modele te są dostępne do swobodnego pobrania i nie posiadają żadnych ograniczeń użytkowania. Ta zmiana przesuwa centrum innowacji z dala od amerykańskiego nadzoru do środowisk, w których zachodnie standardy bezpieczeństwa w ogóle nie obowiązują.

Dlaczego modele chmurowe są koszmarem prywatności dla specjalistów ds. bezpieczeństwa

Prywatność jest fundamentalną kwestią dla każdego, kto pracuje w obszarze cyberbezpieczeństwa o wysoką stawkę. Jeśli badacz znajdzie lukę typu „zero-day” — błąd, o którym producent oprogramowania jeszcze nie wie — informacja ta jest warta miliony dolarów na otwartym rynku. Jest to również krytyczny element wywiadowczy dla rządów.

Wysyłanie tych informacji na serwer należący do OpenAI lub Anthropic to ogromne ryzyko. Nawet przy specjalistycznych programach dostępu nie ma gwarancji, że dane nie zostaną wykorzystane do trenowania kolejnej wersji AI. Niektórzy badacze, jak Giuseppe Cali, używają AI tylko do nudnych części pracy, takich jak tłumaczenie skomplikowanego kodu na czytelny format. Odmawiają używania jej do faktycznego odkrywania błędów, ponieważ chcą zachować swoją pracę w tajemnicy.

Ta ostrożność oznacza, że najbardziej zaawansowane modele AI są obecnie wykorzystywane do zadań niskiego szczebla, a nie do rozumowania wysokiego poziomu, które mogłoby faktycznie poprawić globalne bezpieczeństwo. Zabezpieczenia i chmurowy charakter tych narzędzi tworzą sufit dla tego, jak bardzo mogą one faktycznie pomóc osobom chroniącym nasze sieci.

Co to oznacza dla Twojego cyfrowego bezpieczeństwa

Konkluzja dla przeciętnego konsumenta jest taka, że nasze cyfrowe systemy obronne nie dotrzymują kroku szybkości ataków wspomaganych przez AI. Przestępcy nie przestrzegają zasad i nie korzystają ze zweryfikowanych programów. Używają nieocenzurowanych modeli open source lub własnych, zbudowanych na zamówienie systemów AI, aby zautomatyzować proces znajdowania i uderzania w cele.

Tymczasem „ci dobrzy” utknęli w cyklu ubiegania się o pozwolenia i kłótni z chatbotami. W praktyce oznacza to, że oprogramowanie w Twoim telefonie i laptopie może mieć luki, które pozostają niezałatane przez dłuższy czas. Oznacza to również, że koszty cyberbezpieczeństwa rosną, ponieważ firmy muszą spędzać więcej czasu na pracy ręcznej, którą AI teoretycznie mogłaby wykonać w kilka sekund.

Aby utrzymać cyfrowy świat bezpiecznym, laboratoria AI muszą odejść od pomysłu, że mogą pilnować każdego użytkownika. Zamiast budować mury, które blokują wszystkich, muszą zapewnić odpowiedzialny, szybki dostęp osobom, które faktycznie są na pierwszej linii frontu. Bez tej zmiany zasadniczo prosimy naszych badaczy bezpieczeństwa o wygranie szybkiego wyścigu, podczas gdy sami wiążemy im sznurowadła.

Kluczowe wnioski dla codziennego użytkownika

• AI to narzędzie podwójnego zastosowania: Ta sama AI, która pomaga lekarzowi zdiagnozować chorobę, może pomóc hakerowi znaleźć lukę w systemie bezpieczeństwa banku.
• Zabezpieczenia nie są idealne: Choć powstrzymują niektóre nadużycia na niskim poziomie, są łatwo omijane przez zdeterminowanych przestępców korzystających z prywatnego sprzętu.
• Obrońcy są spowalniani: Osoby, które znajdują i naprawiają błędy w Twoich aplikacjach, mają trudności z korzystaniem z AI, ponieważ zasady bezpieczeństwa są zbyt szerokie.
• Prywatność jest przeszkodą: Profesjonalni badacze często unikają najpopularniejszych narzędzi AI, ponieważ nie chcą wycieku wrażliwych danych dotyczących bezpieczeństwa do chmury.
• Open source jest alternatywą: Branża zmierza w stronę lokalnych, nieograniczonych modeli, aby wykonywać pracę bez ingerencji korporacji.

Źródła:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers