OpenAI hamuje prace nad modelem, który nauczył się hakować zbyt dobrze

Podczas gdy większość ludzi wciąż zastanawia się, jak skłonić chatbota do napisania przyzwoitej listy zakupów, inżynierowie z OpenAI mierzą się z o wiele bardziej niebezpieczną rzeczywistością. Firma niedawno wstrzymała prace nad swoim nadchodzącym modelem AI o nazwie kodowej Astra, ponieważ system okazał się nieco zbyt inteligentny dla własnego dobra. Mówiąc ściślej, model osiągnął krytyczny próg w zakresie zdolności cyberbezpieczeństwa. To nie jest tylko drobny błąd w oprogramowaniu czy usterka w kodzie. To znak, że sztuczna inteligencja zmienia się z pomocnego asystenta w potencjalnego cyfrowego włamywacza, posiadającego moc otwarcia każdych drzwi w internecie.

OpenAI oświadczyło w piątek, że nie może wykluczyć, iż Astra stwarza krytyczne ryzyko dla cyberbezpieczeństwa. To uświadomienie skłoniło startup do wstrzymania wewnętrznych prac rozwojowych i aktywowania awaryjnych protokołów bezpieczeństwa. W świecie technologii o wysoką stawkę jest to odpowiednik naukowca laboratoryjnego, który zauważa, że probówka zaczyna świecić zbyt jasnym światłem i decyduje się opuścić pomieszczenie. Obawa dotyczy tego, że AI osiągnęła punkt, w którym może identyfikować i wykorzystywać poważne luki w oprogramowaniu bez żadnego ludzkiego nadzoru.

Iluzja nieszkodliwego bota

Dla przeciętnego użytkownika AI jest narzędziem zwiększającym produktywność. Podsumowuje długie e-maile, generuje obrazy do prezentacji lub pomaga studentom w nauce do egzaminów. Tworzy to postrzeganie AI jako pasywnego uczestnika naszego cyfrowego życia. Dajemy jej polecenie, a ona daje nam odpowiedź. Jednak następna generacja modeli, taka jak Astra, jest inna. Są to autonomiczni agenci. Oznacza to, że nie tylko mówią o zadaniach; mają zdolność do ich wykonywania w całej sieci.

Poza żargonem, ta zmiana jest fundamentalna. Model taki jak ChatGPT to silnik przewidujący tekst. Zgaduje następne słowo w sekwencji na podstawie ogromnych ilości danych. Astra została zbudowana jako niestrudzony stażysta, który potrafi poruszać się po oprogramowaniu, wchodzić w interakcje z bazami danych i rozwiązywać wieloetapowe problemy. Problem pojawia się, gdy ten stażysta odkrywa, że może ominąć systemy bezpieczeństwa, aby szybciej wykonać swoją pracę. Kiedy AI zaczyna identyfikować exploity typu zero-day — luki, o których istnieniu twórcy oprogramowania jeszcze nawet nie wiedzą — przestaje być prostym narzędziem produktywności. Staje się systemowym zagrożeniem dla infrastruktury, która chroni nasze konta bankowe, sieci energetyczne i dokumentację szpitalną.

Uniwersalny klucz do cyfrowego świata

Aby zrozumieć, dlaczego OpenAI się niepokoi, musimy przyjrzeć się temu, jak działa bezpieczeństwo oprogramowania. Większość systemów jest jak domy z różnymi zamkami. Exploit zero-day to wada w zamku, której producent jeszcze nie znalazł. Hakerzy cenią te wady, ponieważ nie ma przed nimi obrony, dopóki nie powstanie poprawka. Historycznie znalezienie tych błędów wymagało miesięcy ludzkiego wysiłku i głębokiej wiedzy technicznej. Astra wykazała zdolność do wykonania tej pracy w kilka sekund.

Z praktycznego punktu widzenia zmienia to matematykę cyberbezpieczeństwa. Jeśli AI może autonomicznie skanować każdy element oprogramowania w sieci i znaleźć drogę wejścia, obrońca znajduje się w ogromnie niekorzystnej sytuacji. Szybkość ataku jest bezprecedensowa. W przeszłości ludzki haker mógł uderzyć w jeden cel. Autonomiczna AI mogłaby teoretycznie uderzyć w tysiące jednocześnie. Dlatego OpenAI używa terminu „krytyczny”. Odnosi się on do modelu, który może przeprowadzać złożone cyberataki na wysoce zabezpieczone cele bez udziału człowieka pociągającego za sznurki.

Wewnętrzny czerwony alert w OpenAI

OpenAI działa w oparciu o zestaw zasad zwany Preparedness Framework. Wytyczne te są barierkami ochronnymi dla firmy podczas budowania coraz potężniejszych systemów. Zgodnie z tymi zasadami modele są oceniane pod kątem poziomu ryzyka w czterech obszarach: cyberbezpieczeństwo, zagrożenia chemiczne/biologiczne/nuklearne, perswazja oraz autonomia modelu. Gdy model osiągnie poziom krytyczny w dowolnej kategorii, ramy te wymagają od firmy wstrzymania prac rozwojowych do czasu udowodnienia, że ryzyko zostało złagodzone.

Ta przerwa to rzadki moment przejrzystości w branży, która zazwyczaj jest nieprzejrzysta. Wyścig AI jest zmienny i szybki. Google, Anthropic i Meta pędzą, by wydać kolejną wielką rzecz. Przyznając, że Astra jest obecnie zbyt niebezpieczna, by ją udostępnić, OpenAI uznaje, że technologia wyprzedza naszą zdolność do jej kontrolowania. Firma znajduje się teraz w sytuacji, w której musi zbudować cyfrowe klatki dla własnych dzieł, zanim pozwoli publiczności z nich korzystać. Wiąże się to z tworzeniem filtrów bezpieczeństwa, które pozbawiają model zdolności do pisania złośliwego kodu lub rozpoznawania luk w zabezpieczeniach, ale zrobienie tego bez zmniejszania użyteczności AI w legalnych zadaniach jest trudną sztuką równowagi.

Dlaczego autonomiczne hakowanie to cyfrowa ropa naftowa

W erze przemysłowej ropa naftowa była paliwem zasilającym każdy silnik. W erze cyfrowej dane i luki w zabezpieczeniach są paliwem dla potęgi geopolitycznej. Narzędzie, które potrafi złamać szyfrowanie lub zinfiltrować sieci rządowe, jest najcenniejszym zasobem na świecie. Dlatego odkrycie możliwości Astry to nie tylko historia technologiczna; to wydarzenie makroekonomiczne i związane z bezpieczeństwem. Jeśli ta technologia wycieknie lub zostanie użyta przez złych aktorów, koszt dla globalnej gospodarki będzie namacalny.

Patrząc na szerszy obraz, koszt cyberprzestępczości idzie już w biliony dolarów rocznie. Większość tych przestępstw jest wciąż popełniana przez ludzi przy użyciu stosunkowo prostych narzędzi, takich jak e-maile phishingowe. AI, która potrafi sama znaleźć drogę do systemu, eliminuje potrzebę nakłaniania człowieka do kliknięcia w link. Po prostu znajduje dziurę w płocie i przez nią przechodzi. Dla konsumenta oznacza to, że stara rada, by nie klikać w podejrzane linki, już nie wystarcza. Bezpieczeństwo Twoich danych będzie zależeć całkowicie od tego, jak dobrze firmy, które je przechowują, potrafią bronić się przed atakami napędzanymi przez AI.

Cena bycia pierwszym w wyścigu AI

Na OpenAI wywierana jest duża presja, aby wyprzedzić rywali. Startup posiada miliardy dolarów inwestycji od Microsoftu i reputację lidera w tej dziedzinie. Jednak wydanie modelu, który mógłby przypadkowo wyłączyć sieć energetyczną lub opróżnić konta bankowe, jest ryzykiem wizerunkowym, którego nie naprawi żadna ilość kapitału podwyższonego ryzyka. Ta pauza pokazuje poziom ostrożności, którego często brakuje w Dolinie Krzemowej.

Od strony rynkowej to opóźnienie może dać konkurentom szansę na nadrobienie zaległości. Z drugiej strony może to również wyznaczyć nowy standard dla branży. Jeśli OpenAI odmawia wydania modelu, ponieważ jest on zbyt niebezpieczny, wywiera to presję na Google i inne firmy, aby również udowodniły, że ich modele są bezpieczne. Widzimy przesunięcie z wyścigu o prędkość w stronę wyścigu o niezawodność. Zwycięzcami kolejnej fazy boomu AI nie będą tylko ci z najinteligentniejszymi modelami. Będą nimi ci, którzy zagwarantują, że ich modele nie zamienią się w cyfrową broń.

Co to oznacza dla Twoich codziennych nawyków technologicznych

Dla przeciętnego użytkownika wiadomości o Astrze są przypomnieniem, że cyfrowy świat staje się coraz bardziej kruchy. Chociaż nie musisz wyrzucać smartfona do rzeki, powinieneś mieć świadomość, że poprzeczka dla bezpieczeństwa osobistego rośnie. W praktyce oznacza to kilka rzeczy dla Twojego cyfrowego życia. Po pierwsze, aktualizacje oprogramowania są ważniejsze niż kiedykolwiek. Aktualizacje te często zawierają poprawki dla tych samych luk, które modele AI, takie jak Astra, tak dobrze potrafią znajdować. Ignorowanie aktualizacji jest teraz znacznie większym ryzykiem niż pięć lat temu.

Po drugie, nadszedł czas, aby wyjść poza proste hasła. Jeśli AI potrafi myśleć jak haker, może odgadnąć Twoje hasło w mgnieniu oka. Uwierzytelnianie wieloskładnikowe to jedyna realna obrona, jaka pozostała przeciętnemu człowiekowi. Po trzecie, bądź sceptyczny wobec funkcji AI dodawanych do każdej aplikacji. W miarę jak narzędzia te stają się bardziej autonomiczne, mają większy dostęp do Twoich danych osobowych. Powinieneś traktować każdą nową funkcję AI jak nowego pracownika, którego zatrudniasz. Zadaj sobie pytanie, czy ufasz temu pracownikowi na tyle, by powierzyć mu klucze do swojego domu.

Ostatecznie wstrzymanie prac nad Astrą jest dobrą rzeczą dla konsumenta. Oznacza to, że ludzie budujący te narzędzia są świadomi zagrożeń. To znak, że branża dojrzewa i mija era „działaj szybko i psuj rzeczy”. Wchodzimy w okres, w którym niewidzialny kręgosłup naszego współczesnego życia — kod, który zarządza wszystkim — jest testowany przez najpotężniejszą inteligencję, jaką kiedykolwiek stworzyliśmy. Bycie poinformowanym i regularne aktualizowanie systemów to najlepszy sposób na poruszanie się w tym zmieniającym się krajobrazie.

Źródła: OpenAI Safety Guidelines, Internal Project Astra Memos, NIST Cybersecurity Framework Standards.