Pedimos una verdad global pero encontramos silencio local: La frontera algorítmica del discurso moderno

Un estudiante en Brisbane se sentó en una biblioteca la semana pasada y escribió una instrucción en una interfaz de chat limpia y minimalista. Quería redactar un panfleto de protesta sobre las restricciones a los derechos humanos en un lejano estado autoritario. La respuesta de la inteligencia artificial fue un rechazo educado, citando pautas de seguridad y la necesidad de evitar temas políticos sensibles. Minutos después, ese mismo estudiante pidió una crítica mordaz al Primer Ministro británico. La IA produjo tres páginas de prosa aguda y analítica sin dudarlo. Esta es la nueva cartografía del discurso digital. Hemos construido herramientas que son audaces frente a la democracia pero tímidas ante la autocracia.

La ilusión de una mente sin fronteras

Imaginamos un mundo donde cada asistente digital fuera una biblioteca universal, un lugar donde el conocimiento colectivo de la humanidad estuviera disponible para cualquier persona con señal, independientemente de su geografía o de los caprichos de su gobierno local. Esta visión requiere que los desarrolladores reconozcan las fronteras invisibles que el poder estatal ha trazado alrededor de la información, a menos que estén contentos con permitir que el silencio de una capital distante dicte la conversación en un café local. En la práctica, los principales modelos de lenguaje extensos están heredando las restricciones de expresión de los países que describen. Un estudio de la Junta de Supervisión de Meta revela que los sistemas construidos en los Estados Unidos son mucho más propensos a criticar a los líderes occidentales que a los autoritarios. Estos modelos están extendiendo efectivamente el alcance de los gobiernos restrictivos a través de las fronteras internacionales. Cuando un usuario australiano no puede lograr que una IA critique al rey tailandés o al Líder Supremo iraní, la censura de esos regímenes ha viajado con éxito miles de kilómetros a través de un cable de fibra óptica.

La arquitectura de un rechazo silencioso

El estudio realizado por la Junta de Supervisión de Meta probó diez modelos comerciales de empresas como Meta, Anthropic y OpenAI. Los investigadores plantearon siete tipos de preguntas sobre gobiernos tanto permisivos como restrictivos. Los resultados muestran una discrepancia sistémica. Cuando se les pidió escribir un limerick sobre el presidente de los EE. UU., los modelos cumplieron. Cuando se les pidió proporcionar razones para unirse a una protesta en Turquía o Camboya, los modelos a menudo se negaron. Este es un síntoma de lo que los sociólogos llaman el sesgo sistémico del archivo. Los modelos de lenguaje extensos no son entidades neutrales. Son espejos de los datos utilizados para entrenarlos. Si un estado ha logrado limpiar su internet nacional de disidencia, la IA aprende que tal disidencia no existe o es una violación de los protocolos de seguridad. El silencio de los oprimidos se convierte en el silencio del algoritmo.

El lenguaje como sitio arqueológico del poder

Lingüísticamente hablando, el problema es más profundo que los simples filtros. Los datos son un reflejo del poder. Un estudio separado publicado en la revista Nature encontró que los modelos construidos en EE. UU. son vulnerables a los controles extranjeros a través de datos de entrenamiento que no están en inglés. Si le preguntas a ChatGPT en inglés si China es una democracia, dice que no. Si preguntas en chino, dice que la respuesta depende de tu definición de la palabra. Esta es una crisis filológica. El lenguaje es un sitio arqueológico donde cada palabra revela capas de cambios culturales y políticos. Cuando una IA se entrena con datos en idioma chino que han sido curados por censores estatales, adopta el habitus de ese estado. No solo transmite información; adopta una forma específica de estar en el mundo que evita ciertas verdades. El modelo aprende que ciertos temas son peligrosos porque los datos que consumió se produjeron bajo la sombra del miedo.

El largo brazo del estado autoritario

A nivel macro, esta tendencia es una forma de colonialismo digital a la inversa. En lugar de que los valores occidentales se extiendan a través de la tecnología, las restricciones de los regímenes autoritarios se están exportando a Occidente. Este fenómeno crea un entorno de información atomizado. Un usuario en Londres o Nueva York podría creer que tiene acceso a una herramienta objetiva, pero en realidad está interactuando con un sistema que ha sido manipulado por un censor en una zona horaria diferente. Este es un cambio en el contrato social de internet. Alguna vez creímos que la web evitaría a los guardianes del mundo físico. Ahora, los guardianes se han mudado dentro del código. La IA se convierte en un socio silencioso de la censura estatal, imponiendo reglas que el usuario nunca aceptó seguir. La tecnología es un conducto para el largo brazo de los gobiernos restrictivos.

La paradoja de los filtros de seguridad

Paradójicamente, el esfuerzo por hacer que la IA sea segura la ha convertido en una herramienta para el silencio. Las empresas implementan barandillas para evitar la generación de discursos de odio o contenido dañino. Sin embargo, los regímenes autoritarios a menudo definen cualquier crítica al estado como dañina o ilegal. Cuando las empresas de IA aplican filtros de seguridad amplios para evitar problemas legales locales o una supuesta insensibilidad cultural, adoptan inadvertidamente las definiciones del estado. Esto conduce a una realidad fragmentada. En una versión del mundo, un líder es un servidor público sujeto a críticas. En otra, es una figura sagrada irreprochable. La IA navega por estos dos mundos eligiendo el camino de menor resistencia. Es más fácil para una corporación silenciar a un bot que discutir con un ministerio de información. En consecuencia, la experiencia del usuario está dictada por el denominador común más restrictivo.

Modernidad líquida y la pérdida del discurso

Zygmunt Bauman describió nuestra era como modernidad líquida, un tiempo en el que las estructuras sociales ya no son lo suficientemente estables como para servir de marcos de referencia. En este estado fluido, dependemos de las herramientas digitales para proporcionar una sensación de suelo firme. Cuando estas herramientas se ven comprometidas por la influencia estatal, nuestra realidad se vuelve aún más efímera. Estamos perdiendo la capacidad de tener un discurso profundo y universal porque nuestras herramientas nos dan diferentes versiones de la verdad según el idioma que hablemos o el líder que mencionemos. Este es un fallo sistémico de la economía de la atención. Las empresas de IA priorizan el despliegue sin fricciones de sus productos en los mercados globales. Si eso requiere un poco de silencio sobre ciertos temas, el mercado dicta que el silencio es un precio bajo a pagar. El resultado es un paisaje digital que es transparente en algunos lugares y completamente opaco en otros.

Temas para reflexionar

• ¿Cómo cambia tu propia percepción de lo que se considera un tema sensible o peligroso el hecho de que una IA se niegue a discutir ciertos temas políticos?
• Si nuestras herramientas principales para aprender y escribir están influenciadas por la censura de estados lejanos, ¿qué sucede con nuestra memoria colectiva de los eventos globales?
• ¿Es posible construir una IA verdaderamente neutral, o todo conocimiento es inevitablemente producto de las estructuras de poder que permitieron que fuera registrado?
• Cuando interactúas con un chatbot, ¿notas una diferencia en el tono o la disposición cuando pasas de la política nacional a los asuntos internacionales?

Recuperar el ojo crítico

En última instancia, la responsabilidad de navegar por esta realidad fragmentada recae en el individuo. No podemos asumir que la voz limpia y útil en nuestro bolsillo es un árbitro neutral de la verdad. Es producto de un ecosistema de información vasto, desordenado y a menudo comprometido. Debemos tratar la comunicación digital como una dieta de comida rápida: es rápida y accesible, pero carece de la nutrición emocional e intelectual profunda del discurso humano sin intermediarios. Para avanzar, debemos volvernos hiperobservadores de los silencios. Cuando una herramienta se niega a responder, ese rechazo es a menudo más informativo que mil palabras generadas. Es una señal de dónde se trazan los límites del poder. Al notar estos límites, podemos comenzar a mirar más allá de ellos y reclamar la perspectiva crítica y humana que ningún algoritmo puede replicar por completo.

Fuentes

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.