Por qué su computadora es menos segura debido a que las empresas de IA intentan protegerla

La opinión pública trata las salvaguardas de la IA como un chaleco antibalas digital. La lógica es sencilla: si un modelo se niega a escribir código malicioso, los hackers tienen un arma menos en su arsenal. Detrás del marketing corporativo y la supervisión gubernamental, estas medidas de seguridad están cegando actualmente a las mismas personas que protegen nuestros dispositivos de ataques en el mundo real. Al intentar cerrar las puertas a los criminales, los laboratorios de IA están, accidentalmente, dejando fuera a los cerrajeros.

Tecnólogos e investigadores de seguridad están dando la voz de alarma sobre una tendencia que prioriza la apariencia sobre la seguridad real. Mientras empresas como Anthropic y OpenAI comercializan sus modelos como potentes motores de innovación, también los han envuelto en capas de código restrictivo diseñado para evitar el "uso indebido". Para el usuario medio, esto significa que el software del que depende —desde su aplicación bancaria hasta el sistema operativo de su smartphone— se está volviendo más difícil de defender.

El mito del chaleco antibalas digital

El problema fundamental con las salvaguardas de la IA es que la ciberseguridad es una calle de doble sentido. Para tapar un agujero en un muro, un albañil primero tiene que entender exactamente cómo se puede romper ese muro. En el mundo digital, esto se llama investigación ofensiva. Los profesionales de seguridad legítimos pasan sus días actuando como hackers para encontrar vulnerabilidades antes de que lo hagan los verdaderos criminales.

Chris Anley, científico jefe de la gigante consultora de seguridad NCC Group, utiliza una analogía sencilla para esto. Un martillo es una herramienta que necesitas para construir una casa, pero también es un arma. No se puede construir una estructura sin uno. Si se prohíben los martillos para prevenir la violencia, también se asegura que no se construyan casas. Cuando un investigador le pide a una IA que intente explotar un error, está intentando demostrar que una vulnerabilidad es real para que un fabricante la solucione. Si la IA se niega a responder porque la solicitud parece "maliciosa", el defensor se queda sin su herramienta más eficiente.

Esto crea una paradoja donde el mismo mecanismo destinado a obstaculizar a un hacker también detiene a un defensor. Ambos roles utilizan exactamente las mismas técnicas. Al restringir el acceso a estas capacidades, las empresas de IA están dificultando significativamente el trabajo de los defensores de redes. Esto da como resultado que los fallos de software permanezcan abiertos durante períodos más largos, lo que otorga a los criminales reales más tiempo para encontrarlos y utilizarlos.

Negociar con un becario incansable pero obstinado

Para muchos investigadores, utilizar un modelo de IA moderno es como trabajar con un becario incansable que también es increíblemente paranoico. Podrías pedirle al becario que analice una pieza de código en busca de errores. El becario ve la palabra "exploit" o "vulnerabilidad" e inmediatamente deja de trabajar, dándote un sermón sobre ética en lugar de los datos que solicitaste.

Chris Thompson, director ejecutivo de RemoteThreat, señala que los investigadores ahora pasan una gran parte de su día negociando con el modelo. En lugar de centrarse en el problema de seguridad central, intentan averiguar por qué un modelo proporcionó una respuesta útil ayer pero se niega a hablar hoy. Esta higienización excesiva de los resultados de la IA conduce a resultados inconsistentes.

En algunos casos, las salvaguardas son tan sensibles que se activan ante la mera mención de temas relacionados con la seguridad. Un investigador que trabaja para un importante fabricante de componentes para smartphones informó que sus herramientas de IA son casi inútiles porque las salvaguardas son demasiado estrictas. Si el modelo percibe cualquier actividad relacionada con la seguridad, simplemente se apaga. Esto crea un impuesto a la productividad sobre las mismas personas que se supone deben proteger la cadena de suministro global.

La burocracia de los programas de acreditación

Los laboratorios de IA no ignoran este problema, pero su solución es una capa de burocracia. Anthropic tiene su Programa de Verificación Cibernética, y OpenAI ofrece Acceso Confiable para Ciberseguridad. Estos son programas acreditados donde los investigadores pueden solicitar acceso especial a modelos con menos restricciones.

Sin embargo, estos programas suelen ser opacos y excluyentes. El acceso se limita frecuentemente a organizaciones occidentales específicas o a aquellas que cumplen con estrictos criterios corporativos. Incluso cuando un investigador es aprobado, los límites pueden cambiar sin previo aviso. Este control de acceso es particularmente evidente en el caso del modelo Mythos de Anthropic. La empresa ha comercializado Mythos como una herramienta de alta gama tan potente que requiere supervisión a nivel gubernamental.

En junio, el gobierno de los EE. UU. aplicó brevemente controles de exportación sobre Mythos y otro modelo llamado Fable. Esta medida siguió a informes de que las salvaguardas de los modelos podían ser eludidas para ejecutar ciberataques. Aunque los controles se relajaron más tarde para organizaciones estadounidenses acreditadas, el incidente resaltó una tendencia creciente de tratar a la IA como un arma controlada en lugar de una herramienta de propósito general. Este nivel de control no detiene a los hackers que utilizan su propio hardware, pero sí crea un obstáculo masivo para las empresas legítimas que intentan mantenerse a la vanguardia.

La migración al código abierto y modelos extranjeros

Cuando los investigadores legítimos son bloqueados por empresas de IA con sede en EE. UU., no dejan de trabajar simplemente. En su lugar, buscan herramientas que no tengan estos filtros restrictivos. Esto a menudo significa alejarse de los pulidos modelos en la nube hacia alternativas de código abierto que pueden ejecutarse en hardware privado.

Paolo Stagno, director de tecnología de Crowdfense, explica que su equipo evita los modelos basados en la nube para trabajos sensibles. Introducir un fallo de software secreto en una IA en la nube conlleva el riesgo de filtrar esos datos o de que sean absorbidos en una futura sesión de entrenamiento. Para mantener la privacidad y evitar la "tutoría" de las salvaguardas corporativas, muchos profesionales están utilizando ahora modelos de código abierto que pueden ejecutar localmente sin ninguna supervisión.

Existe un riesgo estratégico aquí. Si los investigadores estadounidenses encuentran que los modelos nacionales son demasiado restrictivos para ser útiles, pueden recurrir a potentes modelos de código abierto desarrollados en otros países. Chris Thompson señala que los investigadores ya están siendo empujados hacia modelos chinos como GLM. Estos modelos se pueden descargar libremente y no tienen restricciones de uso. Este cambio desplaza el centro de la innovación fuera de la gobernanza de EE. UU. y hacia entornos donde los estándares de seguridad occidentales no se aplican en absoluto.

Por qué los modelos en la nube son una pesadilla de privacidad para los profesionales de seguridad

La privacidad es una preocupación fundamental para cualquiera que trabaje en ciberseguridad de alto nivel. Si un investigador encuentra un "zero-day" —un fallo que el fabricante del software aún no conoce— esa información vale millones de dólares en el mercado abierto. También es una pieza crítica de inteligencia para los gobiernos.

Enviar esa información a un servidor propiedad de OpenAI o Anthropic es un riesgo masivo. Incluso con programas de acceso especializado, no hay garantía de que los datos no se utilicen para entrenar la próxima versión de la IA. Algunos investigadores, como Giuseppe Cali, utilizan la IA solo para las partes aburridas del trabajo, como traducir código complejo a un formato legible. Se niegan a usarla para el descubrimiento real de errores porque quieren mantener su trabajo en privado.

Esta precaución significa que los modelos de IA más avanzados se están utilizando actualmente para tareas de bajo nivel en lugar del razonamiento de alto nivel que realmente podría mejorar la seguridad global. Las salvaguardas y la naturaleza basada en la nube de estas herramientas crean un techo para cuánto pueden ayudar realmente a las personas que protegen nuestras redes.

Qué significa esto para su seguridad digital

La conclusión para el consumidor medio es que nuestras defensas digitales no mantienen el ritmo de la velocidad de los ataques asistidos por IA. Los criminales no siguen las reglas y no utilizan programas acreditados. Utilizan modelos de código abierto sin censura o su propia IA personalizada para automatizar el proceso de encontrar y atacar objetivos.

Mientras tanto, los "buenos" están atrapados en un ciclo de solicitud de permisos y discusiones con chatbots. En términos prácticos, esto significa que el software de su teléfono y computadora portátil puede tener vulnerabilidades que permanezcan sin parches durante más tiempo. También significa que el coste de la ciberseguridad está aumentando, ya que las empresas tienen que dedicar más tiempo al trabajo manual que la IA podría, teóricamente, manejar en segundos.

Para mantener seguro el mundo digital, los laboratorios de IA deben alejarse de la idea de que pueden vigilar a cada usuario. En lugar de construir muros que bloquean a todos, necesitan proporcionar un acceso responsable y de alta velocidad a las personas que están realmente en primera línea. Sin ese cambio, esencialmente estamos pidiendo a nuestros investigadores de seguridad que ganen una carrera de alta velocidad mientras somos nosotros quienes les atamos los cordones de los zapatos entre sí.

Puntos clave para el usuario cotidiano

• La IA es una herramienta de doble uso: La misma IA que ayuda a un médico a diagnosticar una enfermedad puede ayudar a un hacker a encontrar un fallo en el sistema de seguridad de un banco.
• Las salvaguardas no son perfectas: Aunque detienen algunos abusos de bajo nivel, son fácilmente eludidas por criminales decididos que utilizan hardware privado.
• Los defensores están siendo ralentizados: Las personas que encuentran y solucionan errores en sus aplicaciones tienen dificultades para usar la IA porque las reglas de seguridad son demasiado amplias.
• La privacidad es un obstáculo: Los investigadores profesionales a menudo evitan las herramientas de IA más populares porque no quieren filtrar datos de seguridad sensibles a la nube.
• El código abierto es la alternativa: La industria se está moviendo hacia modelos locales y sin restricciones para realizar el trabajo sin interferencia corporativa.

Fuentes:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers