Wysoki koszt „Bezpiecznych Miast”: zwrot Afryki w stronę inwigilacji AI wart 2 miliardy dolarów

Na całym kontynencie afrykańskim transformacja cyfrowa postępuje w błyskawicznym tempie. Od tętniących życiem ulic Nairobi po centra administracyjne Addis Abeby, rządy ścigają się, by zmodernizować infrastrukturę miejską. Jednak niedawny i kompleksowy raport Instytutu Studiów Rozwojowych (IDS) sugeruje, że ta modernizacja wiąże się z ukrytą, wysoką ceną technologiczną: erozją podstawowych praw do prywatności.

U podstaw tej zmiany leżą szacowane na 2 miliardy dolarów inwestycje co najmniej 11 afrykańskich rządów w ekosystemy inwigilacji zbudowane przez Chińczyków. Sprzedawane pod szyldem „Bezpiecznych Miast” (Safe Cities), pakiety te obiecują ograniczenie przestępczości i zarządzanie szybką urbanizacją. Eksperci ostrzegają jednak, że wdrażanie tych narzędzi często nie jest ani konieczne, ani proporcjonalne, co wywołuje „efekt mrożący” wobec sprzeciwu politycznego i wolności osobistej.

Anatomia „Bezpiecznego Miasta”

Termin „Bezpieczne Miasto” brzmi jak ideał obywatelski, ale w kontekście powstających technologii odnosi się do konkretnego zestawu zintegrowanych narzędzi inwigilacji. Systemy te zazwyczaj obejmują sieci kamer CCTV o wysokiej rozdzielczości wyposażone w funkcję rozpoznawania twarzy, automatyczne czytniki tablic rejestracyjnych oraz punkty gromadzenia danych biometrycznych.

Chińscy giganci technologiczni, w tym Huawei, ZTE i Hikvision, stali się głównymi architektami tych systemów. W przeciwieństwie do tradycyjnych ulepszeń bezpieczeństwa, te platformy oparte na AI nie tylko rejestrują obraz; analizują one zachowania w czasie rzeczywistym. Mogą śledzić ruchy konkretnej osoby w całym mieście, identyfikując wzorce życia, które wcześniej były niewidoczne dla państwa. Dla wielu narodów afrykańskich pakiety te są szczególnie atrakcyjne, ponieważ często oferowane są wraz z korzystnym finansowaniem i wsparciem technicznym, co ułatwia ich wdrożenie w porównaniu z zachodnimi alternatywami.

Bezpieczeństwo narodowe a wolność osobista

Raport IDS podkreśla powracający motyw: wykorzystywanie „bezpieczeństwa narodowego” jako uniwersalnego uzasadnienia dla omijania nadzoru regulacyjnego. W wielu z 11 zidentyfikowanych krajów ramy prawne regulujące ochronę danych i prywatność są albo przestarzałe, albo nie istnieją.

Gdy rząd wdraża ogólnomiejski system rozpoznawania twarzy bez wyraźnego mandatu prawnego, zaciera się granica między bezpieczeństwem publicznym a monitorowaniem politycznym. Eksperci argumentują, że systemy te są często wykorzystywane do identyfikacji i śledzenia aktywistów, dziennikarzy i postaci opozycji. Sama świadomość bycia obserwowanym przez nieustępliwe oko oparte na AI często wystarcza, by zniechęcić ludzi do udziału w protestach lub swobodnego wypowiadania się w przestrzeni publicznej.

Problem błędu algorytmicznego

Poza implikacjami politycznymi istnieje problem techniczny, który często jest pomijany w procesie zamówień: błąd algorytmiczny. Większość algorytmów rozpoznawania twarzy jest trenowana na zestawach danych, które nie reprezentują odpowiednio afrykańskich fenotypów.

Gdy systemy te są wdrażane w miastach afrykańskich, ryzyko „fałszywych trafień” – błędnego zidentyfikowania niewinnej osoby jako podejrzanej o przestępstwo – gwałtownie rośnie. W regionie, w którym organom ścigania może brakować rygorystycznych mechanizmów kontroli, błąd techniczny systemu AI może prowadzić do niesłusznych aresztowań lub gorszych skutków. Raport IDS sugeruje, że technologie te są „kopiowane i wklejane” do afrykańskich realiów bez niezbędnej lokalizacji lub audytu etycznego wymaganego do zapewnienia ich sprawiedliwego działania.

Brak przejrzystości i odpowiedzialności

Jednym z najbardziej niepokojących aspektów wydatków rzędu 2 miliardów dolarów jest nieprzejrzystość kontraktów. Wiele z tych umów dotyczących inwigilacji jest klasyfikowanych jako sprawy bezpieczeństwa państwa, co oznacza, że opinia publiczna nie ma możliwości dowiedzenia się, jakie dane są gromadzone, gdzie są przechowywane ani kto ma do nich dostęp.

Ten brak przejrzystości rozciąga się na ostateczne miejsce przeznaczenia danych. Wśród obrońców praw cyfrowych utrzymują się obawy, że dane zebrane przez te systemy mogą być udostępniane podmiotom zagranicznym lub przez nie uzyskiwane, co tworzy dodatkową warstwę ryzyka dla suwerenności narodowej i kolonializmu danych.

Droga naprzód: Odzyskiwanie praw cyfrowych

Gwałtowna ekspansja inwigilacji AI nie musi oznaczać końca prywatności. Jednak odwrócenie obecnego trendu wymaga natychmiastowych i skoordynowanych działań ze strony społeczeństwa obywatelskiego, ekspertów prawnych i organów międzynarodowych.

Praktyczne kroki w stronę reformy polityki:

• Uchwalenie solidnych przepisów o ochronie danych: Rządy muszą przyjąć i egzekwować przepisy, które konkretnie odnoszą się do AI i danych biometrycznych, zapewniając, że inwigilacja jest stosowana tylko wtedy, gdy jest to absolutnie konieczne.
• Niezależny nadzór: Systemy inwigilacji powinny być zarządzane przez agencje niezależne od władzy wykonawczej, posiadające uprawnienia do audytu sposobu wykorzystania danych.
• Konsultacje społeczne: Przed wdrożeniem technologii śledzenia w całym mieście powinien nastąpić okres debaty publicznej, aby zważyć postrzegane korzyści w stosunku do ryzyka dla swobód obywatelskich.
• Audyty techniczne: Każdy system AI wykorzystywany przez organy ścigania musi przejść rygorystyczne testy pod kątem uprzedzeń i dokładności w konkretnym kontekście demograficznym, w którym będzie używany.

W miarę jak Afryka kontynuuje swoją cyfrową podróż, wyzwaniem będzie zapewnienie, by technologia służyła ludziom, a nie stawała się narzędziem ich podporządkowania. Już wydane 2 miliardy dolarów stanowią ogromną inwestycję w infrastrukturę; kolejna inwestycja musi dotyczyć prawnych i etycznych zabezpieczeń chroniących obywateli żyjących w tych „Bezpiecznych Miastach”.

Źródła

• Institute of Development Studies (IDS) - Digital Rights and Surveillance Reports
• African Digital Rights Network (ADRN)
• Human Rights Watch - Technology and Human Rights Division
• Reuters - Special Reports on Chinese Tech in Africa
• Privacy International - Surveillance Industry Research