Más allá del taller: Por qué la IA participativa debe sobrevivir a la fase de diseño

A pesar del aumento sin precedentes de las iniciativas mundiales destinadas a hacer que la inteligencia artificial sea más inclusiva, ha surgido una paradoja sorprendente: a medida que el vocabulario de la participación se vuelve ubicuo, la influencia real del público sigue estando notablemente fragmentada. Una revisión reciente de ochenta proyectos de IA participativa reveló que, si bien las comunidades son invitadas con frecuencia a la mesa durante las etapas iniciales de recopilación de datos o diseño, están casi totalmente ausentes una vez que el sistema se despliega realmente. Hemos dominado el arte del taller de lanzamiento, pero aún tenemos que descubrir cómo mantener la puerta abierta una vez que el código comienza a ejecutarse.

La ilusión de la puerta abierta

Recientemente pasé una tarde en un centro comunitario donde un ayuntamiento local presentaba una nueva herramienta de asignación de recursos impulsada por IA. La sala estaba llena del zumbido de una auténtica energía cívica. Se pidió a los residentes que colorearan mapas y discutieran qué significaba la justicia para ellos. Fue un ejemplo de libro de texto de diseño participativo: vibrante, serio y profundamente arraigado en el contexto local. Sin embargo, al terminar la sesión, una mujer sentada cerca de mí hizo una pregunta punzante: "¿Qué pasará dentro de seis meses cuando el algoritmo decida que mi calle ya no necesita un autobús? ¿Con quién hablo entonces?".

La pausa del facilitador fue reveladora. En ese momento, la brecha sistémica en nuestro enfoque actual de la gobernanza de la IA se volvió visceral. Tratamos la participación como un evento discreto —una ceremonia de corte de cinta para un algoritmo— en lugar de una relación continua. Una vez que concluye la fase de diseño participativo, la gobernanza del sistema se traslada casi invariablemente de nuevo a los opacos pasillos de los desarrolladores o de las agencias contratantes. La comunidad, habiendo cumplido su propósito como punto de datos o caja de resonancia, queda efectivamente marginada.

La brecha del ciclo de vida: del diseño al despliegue

A nivel macro, esta tendencia refleja un cambio sociológico más amplio hacia lo que podríamos llamar la "economía de la consulta". En este modelo, el compromiso se trata como una casilla de verificación para el cumplimiento en lugar de una redistribución del poder. Tanto los Principios de IA de la OCDE como la Ley de IA de la UE enfatizan la participación de las partes interesadas como piedra angular de una IA confiable. Sin embargo, en la práctica, esta participación suele concentrarse al principio. Invitamos a las partes interesadas a ayudar a construir el coche, pero rara vez les damos un asiento en el vehículo una vez que está en la carretera.

Esta brecha en el ciclo de vida no es simplemente un descuido procedimental; es un fallo estructural. Los sistemas de IA no son herramientas estáticas; son entidades dinámicas que evolucionan a través de bucles de retroalimentación, reentrenamiento y contextos ambientales cambiantes. Cuando la participación de las partes interesadas termina en la fase de despliegue, el sistema pierde su anclaje social. En consecuencia, las mismas comunidades que ayudaron a dar forma al modelo inicial se encuentran marginadas cuando el sistema comienza a exhibir sesgos imprevistos o cuando su alcance operativo se expande más allá del acuerdo original.

Hablando lingüísticamente: la semántica de la participación

Si alejamos el foco, podemos ver esta tensión reflejada en el lenguaje que utilizamos. En la industria tecnológica, el término "usuario" ha sido durante mucho tiempo el descriptor dominante. Lingüísticamente hablando, un usuario es un receptor pasivo de un servicio. El cambio hacia "parte interesada" (stakeholder) pretendía implicar agencia e interés personal. Sin embargo, si una parte interesada solo tiene voz durante un grupo focal de noventa minutos, el término se convierte en un gesto simbólico más que en una realidad funcional.

Desde esta perspectiva, el estado actual de la IA participativa se parece menos a una revolución democrática y más a un escenario teatral. Realizamos los rituales de inclusión —las notas adhesivas, los ayuntamientos, las cartas éticas— pero el guion suele estar escrito de antemano. Para ser verdaderamente participativo, el discurso debe ir más allá del entusiasmo efímero del "lanzamiento" y asentarse en el trabajo mundano y a largo plazo de monitoreo y evolución del sistema.

El archipiélago de la gobernanza

Históricamente, podríamos comparar esto con la forma en que las ciudades modernas se han convertido en un archipiélago de espacios atomizados. Vivimos en estrecha proximidad, pero nuestros sistemas de gobernanza son a menudo islas aisladas. Una isla se encarga del desarrollo técnico, otra del cumplimiento legal y se construye una pequeña isla temporal para el "compromiso comunitario". Una vez finalizado el proyecto, se desmantela el puente hacia la isla de la comunidad.

Paradójicamente, los momentos más críticos para la influencia de las partes interesadas ocurren después de que el sistema está en funcionamiento. Es entonces cuando se hacen visibles los matices del impacto en el mundo real. Sin un mecanismo para la participación continua, el bucle de retroalimentación se rompe. El sistema se convierte en una "sala de espejos", que refleja solo las métricas internas de los desarrolladores en lugar de las experiencias vividas de las personas a las que afecta.

Reclamar la narrativa: agencia longitudinal

En última instancia, el objetivo de la IA participativa debería ser el establecimiento de una agencia longitudinal. Esto significa crear estructuras donde las partes interesadas no sean solo consultores, sino co-gobernadores a lo largo de toda la vida de la tecnología. Esto requiere un cambio de un compromiso "puntual" a una participación "duradera".

En términos cotidianos, esto podría parecerse a juntas de auditoría lideradas por la comunidad que tengan el poder de activar una revisión del sistema, o mecanismos de "humano en el bucle" que prioricen el conocimiento local sobre la eficiencia algorítmica. Implica reconocer que la experiencia de un residente que comprende el tejido social de su vecindario es tan vital como la experiencia del científico de datos que comprende la arquitectura de la red neuronal.

Temas para la reflexión

A medida que navegamos por este paisaje cambiante, debemos hacernos preguntas incómodas sobre la naturaleza del poder en la era digital. Si usted participa en un proyecto tecnológico, considere estas reflexiones:

• ¿Quién gobierna la evolución? Si el sistema de IA cambia su comportamiento mañana, ¿existe un camino claro y accesible para que la comunidad intervenga?
• ¿Es la participación transformadora o performativa? ¿Tiene el aporte de las partes interesadas el poder de detener un proyecto, o solo de retocar sus márgenes?
• ¿Podemos ir más allá del taller? ¿Cómo podemos construir infraestructuras digitales que permitan un compromiso cívico continuo, en lugar de episódico?

Al tratar la gobernanza de la IA como un contrato social vivo y vibrante en lugar de un requisito técnico estático, podemos empezar a cerrar la brecha entre la promesa de participación y la realidad del poder. El objetivo no es solo construir una mejor IA, sino construir una sociedad donde la tecnología sirva a la resiliencia colectiva de las personas, en lugar de solo a la eficiencia de la máquina.

Fuentes

• Análisis de 80 iniciativas de IA participativa y el fenómeno del "participation wash".
• Los Principios de IA de la OCDE sobre el compromiso de las partes interesadas y la IA confiable.
• Las disposiciones de la Ley de IA de la UE sobre las evaluaciones de impacto en los derechos fundamentales y la participación de las partes interesadas.
• Marcos sociológicos sobre la "Modernidad líquida" y la atomización de la vida cívica.
• Estudios lingüísticos sobre la evolución de "usuario" frente a "parte interesada" en el discurso tecnológico.