Obietnica bezpieczeństwa w sklepach z aplikacjami zawsze była iluzją

Kilka lat temu proces znajdowania aplikacji był prosty. Użytkownik otwierał cyfrowy sklep, wpisywał słowo kluczowe w pasek wyszukiwania i ufał, że wyniki są bezpieczne, ponieważ wielobilionowa korporacja je zweryfikowała. To był główny atut „zamkniętego ogrodu” (walled garden). Oferował on oczyszczoną alternatywę dla dzikiej, nieprzewidywalnej otwartej sieci. Dziś to poczucie bezpieczeństwa zniknęło. Gdy użytkownik szuka prostego edytora zdjęć, algorytm często sugeruje narzędzia zaprojektowane do usuwania ubrań ze zdjęć bez zgody osób na nich widocznych. To właśnie ta rzeczywistość skłoniła prokuratora miejskiego San Francisco, Davida Chiu, do nakazania firmom Apple i Google usunięcia dziesiątek aplikacji typu „nudify” z ich platform.

Przejście od neutralnych kanałów do aktywnych pośredników

Historycznie giganci technologiczni działali pod ochroną ram prawnych, które traktowały ich jako neutralnych pośredników. Byli rurami, a nie wodą. Jeśli użytkownik udostępnił coś nielegalnego, winny był użytkownik, a nie dostawca usług. Ten paradygmat uległ zmianie. Prawo Kalifornii kryminalizuje obecnie działania, które świadomie ułatwiają lub lekkomyślnie pomagają w tworzeniu pornografii deepfake bez zgody osób zainteresowanych. Ustawa z 2025 roku dodatkowo pozwala ofiarom na dochodzenie roszczeń cywilnych przeciwko platformom zewnętrznym, które hostują takie materiały. Miasto San Francisco argumentuje obecnie, że Apple i Google nie są już pasywnymi hostami. Poprzez przetwarzanie płatności i sugerowanie tych aplikacji za pomocą algorytmów wyszukiwania, firmy te stają się aktywnymi uczestnikami drapieżnej gospodarki.

Patrząc szerzej na całą branżę, ta presja prawna oznacza koniec ery braku ingerencji w moderację aplikacji. W przeszłości firmy polegały na automatycznych filtrach, aby wychwytywać zakazane treści; dziś filtry te zawodzą w starciu z ogromną liczbą narzędzi generatywnej sztucznej inteligencji. Tech Transparency Project ustalił, że obie firmy zostały ostrzeżone o tych aplikacjach już w styczniu 2026 roku. Mimo tych ostrzeżeń aplikacje pozostawały dostępne przez miesiące. To opóźnienie sugeruje, że infrastruktura do przeglądu aplikacji uginają się pod ciężarem własnej skali. Gdy platforma hostuje miliony programów, ręczny przegląd staje się wąskim gardłem, które większość korporacji decyduje się ignorować na rzecz wzrostu.

Ekonomia kodu tworzonego bez zgody

Za obecnością tych aplikacji stoi logika finansowa. Apple i Google zazwyczaj pobierają 30 procent prowizji od zakupów wewnątrz aplikacji. Gdy aplikacja typu „nudify” pobiera od użytkownika opłatę za kredyty na wygenerowanie obrazu, część tych pieniędzy trafia bezpośrednio do właściciela platformy. David Chiu szacuje, że firmy te zarobiły miliony dolarów na tych transakcjach. Tworzy to konflikt interesów między bezpieczeństwem a przychodami. Mówiąc prościej, przypomina to centrum handlowe, które pobiera procent od sklepu sprzedającego kradzione towary. Centrum ma wszelkie powody, by utrzymywać sklep otwartym, dopóki czynsz jest płacony, a władze nie pukają do drzwi.

Z technicznego punktu widzenia problemem nie jest tylko istnienie aplikacji, ale sposób, w jaki sklepy je promują. Tech Transparency Project zauważył, że Google i Apple celowo kierowały użytkowników w stronę tych narzędzi poprzez sugestie wyszukiwania. Jest to produkt uboczny algorytmicznej kuracji. Wyszukiwarka sklepu jest zaprojektowana tak, aby pokazywać użytkownikom to, co prawdopodobnie pobiorą, a nie to, co jest etyczne do hostowania. Jeśli tysiące osób szuka określonego rodzaju narzędzia do eksploatacji, algorytm priorytetyzuje to narzędzie, aby zmaksymalizować prawdopodobieństwo transakcji. Kod nie posiada kompasu moralnego; posiada jedynie współczynnik konwersji.

Załamanie algorytmicznego strażnika

„Pod maską” aplikacje typu nudify często wykorzystują wyrafinowane metody, aby obejść początkowy proces weryfikacji. Deweloperzy mogą przesłać do zatwierdzenia pozornie nieszkodliwą aplikację z filtrami do zdjęć. Gdy aplikacja jest już aktywna, może pobrać nowy kod lub uzyskać dostęp do zdalnych modeli AI, które wykonują rzeczywistą manipulację obrazem. Jest to forma długu technicznego w stosie moderacyjnym. Proces weryfikacji odbywa się w jednym punkcie czasowym, ale oprogramowanie jest dynamiczne. Deweloper może zmienić zachowanie aplikacji, gdy znajduje się ona już na telefonie użytkownika. Sprawia to, że jednorazowa kontrola przy wejściu jest nieskutecznym środkiem bezpieczeństwa.

Paradoksalnie, te same firmy, które promują swoje urządzenia jako narzędzia dbające o prywatność, są tymi, które zapewniają dystrybucję oprogramowania naruszającego prywatność. Apple często wykorzystuje swoją kontrolę nad ekosystemem, aby ograniczać udostępnianie danych między legalnymi aplikacjami, a jednak miało trudności z zidentyfikowaniem oprogramowania, które wykorzystuje AI do atakowania jednostek. Odzwierciedla to fragmentaryczne podejście do bezpieczeństwa platformy. Jedna część firmy buduje solidne szyfrowanie, a inna przetwarza płatności za aplikacje generujące intymne obrazy bez zgody osób na nich widocznych. Te dwie strony biznesu nie zawsze się ze sobą komunikują.

Systemy dziedziczone w świecie AI

Wiele narzędzi używanych do monitorowania sklepów z aplikacjami to systemy dziedziczone (legacy systems). Zostały zbudowane dla ery, w której aplikacje były statycznymi pakietami kodu. W obecnym krajobrazie aplikacja jest często tylko cienką warstwą opakowującą internetowe API. Główna praca związana z przetwarzaniem AI odbywa się na zdalnym serwerze, którego recenzenci sklepu z aplikacjami nie widzą. Sprawia to, że sama aplikacja jest „czarną skrzynką”. Jeśli API jest kelnerem w restauracji, sklep z aplikacjami widzi tylko osobę przyjmującą zamówienie. Nie ma możliwości dowiedzenia się, co dzieje się w kuchni, dopóki danie nie znajdzie się na stole.

W rezultacie odpowiedzialność za bezpieczeństwo przesunęła się z platformy na opinię publiczną. Gdy Apple i Google twierdzą, że podejmują szybkie działania po zgłoszeniu naruszeń, przyznają tym samym, że ich systemy proaktywne zawiodły. Polegają na użytkownikach, dziennikarzach i prokuratorach miejskich, którzy wykonują za nich pracę moderacyjną. Tworzy to środowisko reaktywne, w którym szkoda zostaje wyrządzona, zanim aplikacja zostanie usunięta. Dla ofiar pornografii deepfake zawieszenie aplikacji, które następuje miesiące po tym, jak została ona pobrana tysiące razy, jest pustym zwycięstwem.

Odzyskiwanie kontroli nad cyfrowym sklepem

Ostatecznie nakaz z San Francisco jest przypomnieniem, że oprogramowanie sterujące naszym życiem nie jest bezprawnym pograniczem. Kod napędzający iPhone'a lub urządzenie z Androidem podlega tym samym zasadom społecznym, co każdy inny produkt. Dotarliśmy do punktu, w którym umiejętność korzystania z mediów cyfrowych wymaga od nas spojrzenia poza intuicyjny interfejs sklepu z aplikacjami i dostrzeżenia reguł biznesowych stojących za nim. Wyselekcjonowane doświadczenie, które nam obiecano, jest konstruktem marketingowym. W praktyce sklep jest otwartym rynkiem, na którym głównym celem jest transakcja.

Powinniśmy obserwować własne nawyki cyfrowe i pytać, dlaczego tak bezgranicznie ufamy tym platformom. Obecność aplikacji w oficjalnym sklepie nie jest znakiem jakości ani bezpieczeństwa. Jest znakiem, że deweloper postępował zgodnie z zestawem specyfikacji technicznych i zgodził się dzielić swoimi przychodami. Jako użytkownicy musimy wymagać więcej niż tylko reaktywnej moderacji. Powinniśmy oczekiwać, że firmy kontrolujące infrastrukturę naszego cyfrowego życia będą tak samo czujne w kwestii naszego bezpieczeństwa, jak w kwestii swoich marż zysku. Miasto San Francisco jasno dało do zrozumienia, że era wiarygodnego wypierania się odpowiedzialności przez gigantów technologicznych dobiegła końca.

Źródła:
Oficjalna korespondencja Biura Prokuratora Miejskiego w San Francisco
Raport Tech Transparency Project z kwietnia 2026 r.
Kalifornijski Kodeks Cywilny, sekcja 1708.85
Raporty śledcze TechCrunch i Wired