La promesa de seguridad de las tiendas de aplicaciones siempre fue una ilusión

Hace unos años, el proceso de encontrar una aplicación era sencillo. Un usuario abría una tienda digital, escribía una palabra clave en la barra de búsqueda y confiaba en que los resultados eran seguros porque una corporación multimillonaria los había vetado. Este era el atractivo principal del "jardín vallado". Ofrecía una alternativa saneada a la web abierta, salvaje e impredecible. Hoy, esa sensación de seguridad ha desaparecido. Cuando un usuario busca un editor de fotos sencillo, el algoritmo a menudo sugiere herramientas diseñadas para desnudar a personas en imágenes sin su consentimiento. Esta es la realidad que llevó al fiscal de la ciudad de San Francisco, David Chiu, a ordenar a Apple y Google que eliminen decenas de aplicaciones de "desnudo" (nudify) de sus plataformas.

El cambio de conductos neutrales a facilitadores activos

Históricamente, los gigantes tecnológicos operaron bajo la protección de marcos legales que los trataban como intermediarios neutrales. Eran las tuberías, no el agua. Si un usuario compartía algo ilegal, la culpa era del usuario, no del proveedor del servicio. Este paradigma ha cambiado. La ley de California ahora criminaliza la actividad que facilita a sabiendas o ayuda imprudentemente a la creación de pornografía deepfake no consensuada. Una ley de 2025 permite además a las víctimas emprender acciones civiles contra las plataformas de terceros que alojan este material. La ciudad de San Francisco sostiene ahora que Apple y Google ya no son anfitriones pasivos. Al procesar pagos y sugerir estas aplicaciones a través de algoritmos de búsqueda, estas empresas son participantes activos en una economía depredadora.

Ampliando la perspectiva al nivel de la industria, esta presión legal marca el fin de la era de la no intervención en la moderación de aplicaciones. En el pasado, las empresas confiaban en filtros automatizados para detectar contenido prohibido; hoy, esos filtros están fallando ante el volumen masivo de herramientas de IA generativa. El Tech Transparency Project descubrió que ambas empresas fueron advertidas sobre estas aplicaciones ya en enero de 2026. A pesar de estas advertencias, las aplicaciones permanecieron disponibles durante meses. Este retraso sugiere que la infraestructura para la revisión de aplicaciones se está doblando bajo el peso de su propia escala. Cuando una plataforma aloja millones de piezas de software, la revisión manual se convierte en un cuello de botella que la mayoría de las corporaciones eligen ignorar en favor del crecimiento.

La economía del código no consensuado

Existe una lógica financiera detrás de la presencia de estas aplicaciones. Apple y Google suelen cobrar una comisión del 30 por ciento por las compras dentro de la aplicación. Cuando una aplicación de desnudo cobra a un usuario por créditos para generar una imagen, una parte de ese dinero va directamente al propietario de la plataforma. David Chiu estima que estas empresas han ganado millones de dólares con estas transacciones. Esto crea un conflicto de intereses entre la seguridad y los ingresos. En términos cotidianos, es como un centro comercial que se lleva una comisión de una tienda que vende artículos robados. El centro comercial tiene todos los incentivos para mantener la tienda abierta mientras se pague el alquiler y las autoridades no llamen a la puerta.

Técnicamente hablando, el problema no es solo la existencia de las aplicaciones, sino cómo las promocionan las tiendas. El Tech Transparency Project señaló que Google y Apple dirigieron intencionadamente a los usuarios hacia estas herramientas a través de sugerencias de búsqueda. Este es un subproducto de la curación algorítmica. El motor de búsqueda de la tienda está diseñado para mostrar a los usuarios lo que es probable que descarguen, no lo que es ético alojar. Si miles de personas buscan un tipo específico de herramienta de explotación, el algoritmo prioriza esa herramienta para maximizar la probabilidad de una transacción. El código no tiene una brújula moral; solo tiene una tasa de conversión.

La ruptura del guardián algorítmico

Bajo el capó, las aplicaciones de desnudo a menudo utilizan métodos sofisticados para eludir el proceso de revisión inicial. Los desarrolladores pueden enviar una aplicación de filtro de fotos aparentemente inofensiva para su aprobación. Una vez que la aplicación está activa, puede descargar código nuevo o acceder a modelos de IA remotos que realizan la manipulación de imágenes real. Esta es una forma de deuda técnica en la pila de moderación. El proceso de revisión ocurre en un único momento, pero el software es dinámico. Un desarrollador puede cambiar el comportamiento de una aplicación después de que ya esté en el teléfono de un usuario. Esto hace que la comprobación única en la puerta sea una medida de seguridad ineficaz.

Paradójicamente, las mismas empresas que comercializan sus dispositivos como herramientas centradas en la privacidad son las que proporcionan la distribución para software que viola la privacidad. Apple a menudo utiliza su control sobre el ecosistema para restringir el intercambio de datos entre aplicaciones legítimas, pero tuvo dificultades para identificar software que utiliza IA para atacar a individuos. Esto refleja un enfoque fragmentado de la seguridad de la plataforma. Una parte de la empresa construye un cifrado robusto; otra parte de la empresa procesa pagos para aplicaciones que generan imágenes íntimas no consensuadas. Las dos caras del negocio no siempre se comunican.

Sistemas heredados en un mundo de IA

Muchas de las herramientas utilizadas para supervisar las tiendas de aplicaciones son sistemas heredados. Fueron construidos para una era en la que las aplicaciones eran paquetes estáticos de código. En el panorama actual, una aplicación suele ser solo una delgada capa alrededor de una API basada en la web. El trabajo pesado del procesamiento de IA ocurre en un servidor remoto que los revisores de la tienda de aplicaciones no pueden ver. Esto convierte a la propia aplicación en una caja negra. Si la API es el camarero de un restaurante, la tienda de aplicaciones solo ve a la persona que toma el pedido. No tiene forma de saber qué está sucediendo en la cocina hasta que el plato ya está en la mesa.

En consecuencia, la responsabilidad de la seguridad se ha desplazado de la plataforma al público. Cuando Apple y Google afirman que toman medidas rápidas después de que se informan las infracciones, están admitiendo que sus sistemas proactivos fallaron. Dependen de usuarios, periodistas y fiscales de la ciudad para hacer el trabajo de moderación por ellos. Esto crea un entorno reactivo donde el daño ya está hecho antes de que se elimine la aplicación. Para las víctimas de la pornografía deepfake, una suspensión que ocurre meses después de que una aplicación haya sido descargada miles de veces es una victoria hueca.

Reclamar el control sobre la tienda digital

En última instancia, la orden de San Francisco es un recordatorio de que el software que dirige nuestras vidas no es una frontera sin ley. El código que impulsa un iPhone o un dispositivo Android está sujeto a las mismas reglas sociales que cualquier otro producto. Hemos llegado a un punto en el que la alfabetización digital requiere que miremos más allá de la interfaz intuitiva de una tienda de aplicaciones y veamos las reglas comerciales que hay detrás. La experiencia curada que se nos prometió es una construcción de marketing. En la práctica, la tienda es un mercado abierto donde el objetivo principal es la transacción.

Deberíamos observar nuestros propios hábitos digitales y preguntarnos por qué confiamos en estas plataformas tan implícitamente. La presencia de una aplicación en una tienda oficial no es un sello de calidad o seguridad. Es una señal de que el desarrollador siguió un conjunto de especificaciones técnicas y aceptó compartir sus ingresos. Como usuarios, debemos exigir más que una moderación reactiva. Debemos esperar que las empresas que controlan la infraestructura de nuestras vidas digitales sean tan vigilantes con nuestra seguridad como lo son con sus márgenes de beneficio. La ciudad de San Francisco ha dejado claro que la era de la negación plausible para los gigantes tecnológicos ha terminado.

Fuentes:
Correspondencia oficial de la Oficina del Fiscal de la Ciudad de San Francisco
Informe de abril de 2026 del Tech Transparency Project
Sección 1708.85 del Código Civil de California
Informes de investigación de TechCrunch y Wired