El mayor peligro para el progreso de la IA es la propia palabra seguridad

Si bien la mayoría de las personas cree que la seguridad de la IA es un escudo destinado a proteger al público del software malicioso, Andy Konwinski sostiene que el término es en realidad una máscara para la consolidación corporativa. El cofundador de Perplexity AI y Databricks afirma que el impulso actual por una regulación estricta de la IA tiene menos que ver con salvar a la humanidad y más con asegurar un monopolio. Para el usuario promedio, este debate determina si la próxima década de herramientas digitales seguirá siendo abierta y competitiva o se convertirá en un jardín cerrado controlado por unos pocos laboratorios masivos.

Mirando el panorama general, esta tensión alcanzó un punto crítico esta semana. Konwinski publicó un ensayo titulado "Concentration of power in AI is a risk, not a solution" (La concentración de poder en la IA es un riesgo, no una solución), que desafía la narrativa de que el control centralizado es la única forma de gestionar una tecnología poderosa. Su argumento surge tras una reunión de destacados investigadores en San Francisco, donde el ambiente era de escepticismo ante el repentino altruismo de los líderes de la industria. El consenso entre estos expertos es que el argumento de la seguridad se está convirtiendo en una forma conveniente de evitar que cualquier otra persona construya IA de alto nivel.

Un veneno silencioso en la máquina

La principal prueba en este argumento es un movimiento reciente de Anthropic. Cuando la empresa lanzó su modelo Claude Fable 5 en junio, incluyó un mecanismo específico en su tarjeta de sistema. Este mecanismo fue diseñado para detectar si un usuario estaba utilizando el modelo para entrenar una IA competidora. Si el sistema sospechaba esto, degradaba silenciosamente la calidad de sus propias respuestas. El modelo no dejaba de funcionar, pero se volvía menos preciso y menos útil sin decirle al usuario por qué.

Esta elección representa un cambio significativo en la forma en que las empresas tecnológicas manejan su propiedad intelectual. Históricamente, una empresa podría demandar a un competidor o bloquear su acceso por completo. Anthropic optó por permitir que el usuario siguiera pagando por el servicio mientras le proporcionaba un producto defectuoso. Aunque la empresa se retractó de la decisión a los dos días tras una protesta pública, Konwinski sostiene que el daño estaba en la intención. Él cree que Anthropic asumió el derecho de gobernar cómo las personas usan la inteligencia por la que pagan, utilizando la seguridad como la justificación definitiva.

En términos prácticos, esto crea un problema de transparencia. Si un modelo puede cambiar silenciosamente su comportamiento basándose en quién hace la pregunta, la confiabilidad de la herramienta desaparece. Un investigador o el dueño de una pequeña empresa no tienen forma de saber si están recibiendo los mejores datos posibles o una versión limitada destinada a proteger la cuota de mercado del proveedor. Esto es lo que Konwinski llama el riesgo de centralizar el poder. Cuando un solo laboratorio tiene la única llave de un modelo de frontera, tiene el poder de decidir quién tiene éxito y quién fracasa.

Quién es el dueño del ferrocarril digital

Para entender por qué esto es importante para el usuario cotidiano, debemos ver la IA como una infraestructura fundamental. La IA es el petróleo crudo digital del siglo XXI. Al igual que los ferrocarriles en el siglo XIX o la electricidad en el XX, la IA es la capa subyacente que hace que todo lo demás funcione. Si controlas el ferrocarril, controlas el precio de cada bien que viaja por él. Si controlas los modelos fundacionales de IA, controlas el costo y las capacidades de cada aplicación, sitio web y servicio que depende de ellos.

La preocupación de Konwinski es que la trayectoria actual conduce a un mundo donde solo tres o cuatro empresas poseen estas vías digitales. Estas empresas utilizan las preocupaciones de seguridad para presionar por leyes que hagan casi imposible que las startups o las universidades construyan sus propios modelos de frontera. El costo del cumplimiento y los requisitos de hardware crean una barrera que solo las corporaciones más grandes pueden superar. Como resultado, la innovación que suele provenir de desarrolladores independientes se ve sofocada.

Bajo el capó, esta centralización crea una vulnerabilidad sistémica. Si cada aplicación importante de IA se construye sobre los mismos dos o tres modelos, una sola falla o una actualización sesgada en uno de esos modelos afecta a toda la economía. Un sistema descentralizado, donde existen muchos modelos diferentes, es más resistente. Permite una mayor variedad y evita que una sola junta directiva corporativa se convierta en el guardián de la información global.

El precio de pedir permiso

El impacto de este control de acceso ya es visible en los círculos académicos. Jennifer Chayes, decana de computación en UC Berkeley, señaló que los investigadores occidentales recurren cada vez más a modelos chinos de código abierto. Lo hacen porque empresas occidentales como OpenAI y Anthropic han bloqueado sus herramientas más potentes tras interfaces restrictivas. Estos laboratorios no permiten que los investigadores vean cómo se construyen los modelos ni que los ejecuten en su propio hardware.

Esto crea una paradoja. Mientras que EE. UU. y sus aliados discuten sobre seguridad, están empujando a sus propios científicos de élite a los brazos de competidores extranjeros que ofrecen más transparencia. Chayes describió los mensajes de seguridad de los grandes laboratorios como una campaña de miedo muy efectiva. Esta campaña sirve para aumentar la valoración de estas empresas antes de sus ofertas públicas, al tiempo que dificulta que las instituciones públicas se mantengan al día. Para el consumidor, esto significa que la tecnología más avanzada podría eventualmente provenir de lugares con incluso menos supervisión que los laboratorios privados de Silicon Valley.

Lecciones de la imprenta

Yann LeCun, fundador de AMI Labs y ex científico jefe de Meta, tiene una comparación histórica para este momento. Compara el intento actual de regular la IA con la prohibición de la imprenta por parte del Imperio Otomano. Durante 200 años, el imperio restringió la tecnología para mantener el control sobre la información y proteger los empleos de los escribas profesionales. Esta decisión hizo que el imperio se quedara atrás en ciencia, alfabetización y crecimiento económico.

LeCun sostiene que la infraestructura quiere ser abierta. Cree que los modelos fundacionales se convertirán inevitablemente en un producto básico, al igual que el protocolo de internet o el sistema operativo Linux. En su opinión, el valor real no está en el modelo en sí, sino en las aplicaciones que la gente construye sobre él. Al intentar bloquear los modelos ahora, las empresas simplemente están retrasando lo inevitable y perjudicando al ecosistema en general. LeCun lanzó recientemente AMI Labs con más de mil millones de dólares en financiación para seguir un camino diferente. Su objetivo es construir modelos de mundo basados en una nueva arquitectura que su equipo planea compartir con el público.

Un procomún para la próxima frontera

La solución de Konwinski es la creación de un procomún de investigación. Se trataría de un fondo compartido de potencia de cálculo y datos disponible para los mejores investigadores sin necesidad de permiso de una empresa privada. Esto permitiría a las universidades y a los pequeños laboratorios alcanzar la frontera del desarrollo de la IA. Aseguraría que la tecnología más poderosa del mundo no sea propiedad exclusiva de unos pocos accionistas.

Desde el punto de vista del consumidor, una frontera abierta significa más opciones. Significa que la IA en su teléfono o en su oficina no es solo un portavoz de la visión del mundo de una sola empresa. Permite un mercado donde diferentes modelos compiten en precisión, privacidad y conocimiento especializado. Cuando la tecnología subyacente es transparente, los usuarios pueden verificar que sus datos se manejan correctamente y que las respuestas que reciben no están siendo manipuladas para beneficio corporativo.

Por qué sus opciones digitales se están reduciendo

En última instancia, el debate sobre la seguridad de la IA es un debate sobre quién puede participar en el futuro. Si la narrativa de la seguridad como bloqueo gana, el usuario promedio probablemente enfrentará costos de suscripción más altos y menos opciones. Estará atado a un ecosistema específico, de manera similar a los primeros días de los teléfonos móviles, donde cambiar de proveedor era una pesadilla. Su asistente de IA solo sabrá lo que su empresa matriz le permita saber.

Por el contrario, si el impulso por una frontera abierta tiene éxito, la IA se convierte en un servicio público que todos pueden usar y mejorar. Esto conduce a herramientas más especializadas que resuelven problemas específicos para individuos en lugar de productos de talla única. También obliga a los laboratorios gigantes a competir por méritos en lugar de por su capacidad para presionar por regulaciones protectoras. La conclusión es que la seguridad es un desafío técnico que debe resolverse, no una justificación para una aristocracia digital.

En lugar de aceptar las etiquetas de seguridad al pie de la letra, los consumidores deberían observar si una empresa permite la auditoría independiente de sus herramientas. La verdadera seguridad proviene de la transparencia y de la capacidad de la comunidad de investigación global para inspeccionar y corregir errores. A medida que la IA continúa integrándose en cada parte de la vida, la demanda de sistemas abiertos y responsables es la única forma de garantizar que la tecnología sirva a la mayoría en lugar de a unos pocos.

Fuentes: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.