El alto coste de las «ciudades seguras»: el giro de 2000 millones de dólares de África hacia la vigilancia por IA

En todo el continente africano, se está produciendo una transformación digital a un ritmo vertiginoso. Desde las bulliciosas calles de Nairobi hasta los centros administrativos de Addis Abeba, los gobiernos compiten por modernizar la infraestructura urbana. Sin embargo, un informe reciente y exhaustivo del Institute of Development Studies (IDS) sugiere que esta modernización conlleva un precio oculto de alta tecnología: la erosión de los derechos fundamentales a la privacidad.

En el centro de este cambio se encuentra una inversión estimada de 2000 millones de dólares por parte de al menos 11 gobiernos africanos en ecosistemas de vigilancia construidos por China. Comercializados bajo el lema de «Ciudades Seguras», estos paquetes prometen reducir la delincuencia y gestionar la rápida urbanización. No obstante, los expertos advierten que el despliegue de estas herramientas a menudo no es necesario ni proporcionado, lo que crea un «efecto disuasorio» sobre la disidencia política y la libertad personal.

La anatomía de la «ciudad segura»

El término «ciudad segura» suena como un ideal cívico, pero en el contexto de la tecnología emergente, se refiere a un conjunto específico de herramientas de vigilancia integradas. Estos sistemas suelen incluir redes de CCTV de alta definición equipadas con reconocimiento facial, lectores automáticos de matrículas y puntos de recogida de datos biométricos.

Los gigantes tecnológicos chinos, incluidos Huawei, ZTE y Hikvision, se han convertido en los principales arquitectos de estos sistemas. A diferencia de las actualizaciones de seguridad tradicionales, estas plataformas impulsadas por IA no solo graban imágenes, sino que analizan el comportamiento en tiempo real. Pueden rastrear el movimiento de un individuo específico por toda una ciudad, identificando patrones de vida que antes eran invisibles para el Estado. Para muchas naciones africanas, estos paquetes resultan especialmente atractivos porque suelen venir acompañados de financiación favorable y apoyo técnico, lo que facilita su implementación en comparación con las alternativas occidentales.

Seguridad nacional frente a libertad personal

El informe del IDS destaca un tema recurrente: el uso de la «seguridad nacional» como una justificación comodín para eludir la supervisión regulatoria. En muchos de los 11 países identificados, los marcos legales que rigen la protección de datos y la privacidad están desactualizados o son inexistentes.

Cuando un gobierno implementa un sistema de reconocimiento facial en toda la ciudad sin un mandato legal claro, la línea entre la seguridad pública y el control político se difumina. Los expertos sostienen que estos sistemas se utilizan con frecuencia para identificar y rastrear a activistas, periodistas y figuras de la oposición. El mero conocimiento de que uno está siendo observado por un ojo implacable impulsado por IA suele ser suficiente para desanimar a la gente a participar en protestas o a hablar libremente en espacios públicos.

El problema del sesgo algorítmico

Más allá de las implicaciones políticas, existe una preocupación técnica que a menudo se pasa por alto en el proceso de adquisición: el sesgo algorítmico. La mayoría de los algoritmos de reconocimiento facial se entrenan con conjuntos de datos que no representan adecuadamente los fenotipos africanos.

Cuando estos sistemas se despliegan en ciudades africanas, el riesgo de «falsos positivos» —identificar erróneamente a una persona inocente como sospechosa de un delito— se dispara. En una región donde las fuerzas del orden pueden carecer de controles y equilibrios rigurosos, un error técnico de un sistema de IA puede dar lugar a detenciones injustas o algo peor. El informe del IDS sugiere que estas tecnologías se están «copiando y pegando» en contextos africanos sin la localización necesaria ni la auditoría ética requerida para garantizar que funcionen de manera justa.

Falta de transparencia y rendición de cuentas

Uno de los aspectos más preocupantes del gasto de 2000 millones de dólares es la opacidad de los contratos. Muchos de estos acuerdos de vigilancia se clasifican como asuntos de seguridad estatal, lo que significa que el público no tiene forma de saber qué datos se están recopilando, dónde se almacenan o quién tiene acceso a ellos.

Esta falta de transparencia se extiende al destino final de los datos. Existe una preocupación persistente entre los defensores de los derechos digitales de que los datos recolectados por estos sistemas puedan ser compartidos con entidades extranjeras o accedidos por ellas, creando una capa secundaria de riesgo en relación con la soberanía nacional y el colonialismo de datos.

El camino a seguir: recuperar los derechos digitales

La rápida expansión de la vigilancia por IA no tiene por qué desembocar en la muerte de la privacidad. Sin embargo, revertir la tendencia actual requiere una acción inmediata y coordinada de la sociedad civil, los expertos legales y los organismos internacionales.

Pasos prácticos para la reforma de políticas:

• Promulgar leyes sólidas de protección de datos: Los gobiernos deben aprobar y hacer cumplir leyes que aborden específicamente la IA y los datos biométricos, garantizando que la vigilancia solo se utilice cuando sea estrictamente necesario.
• Supervisión independiente: Los sistemas de vigilancia deben ser gestionados por agencias independientes del poder ejecutivo, con autoridad para auditar cómo se utilizan los datos.
• Consulta pública: Antes de desplegar tecnología de seguimiento en toda la ciudad, debe haber un periodo de debate público para sopesar los beneficios percibidos frente a los riesgos para las libertades civiles.
• Auditorías técnicas: Cualquier sistema de IA utilizado en la aplicación de la ley debe someterse a pruebas rigurosas de sesgo y precisión dentro del contexto demográfico específico donde se utilizará.

A medida que África continúa su viaje digital, el desafío será garantizar que la tecnología sirva a las personas, en lugar de convertirse en una herramienta para su subyugación. Los 2000 millones de dólares ya gastados representan una inversión masiva en infraestructura; la próxima inversión debe realizarse en las salvaguardas legales y éticas que protejan a los ciudadanos que viven en esas «ciudades seguras».

Fuentes

• Institute of Development Studies (IDS) - Digital Rights and Surveillance Reports
• African Digital Rights Network (ADRN)
• Human Rights Watch - Technology and Human Rights Division
• Reuters - Special Reports on Chinese Tech in Africa
• Privacy International - Surveillance Industry Research