.jpg)
La visibilidad no equivale a capacidad de acción, y esta distinción resulta crítica cuando los sistemas de inteligencia artificial procesan discursos sobre conflicto, poder o exclusión. Un modelo de lenguaje puede nombrar a una comunidad, describir su sufrimiento e incluso detallar las condiciones que la afectan, y al mismo tiempo vaciar su rol como sujeto político. El fenómeno es sutil: la persona o el grupo aparecen en el texto, pero lo hacen como objeto de la acción de otros, como dato humanitario, como riesgo de seguridad o como categoría de moderación. La gramática de las oraciones que genera la IA puede, sin necesidad de censura explícita, redistribuir la agencia de forma desigual. Quien decide, negocia, ataca o defiende conserva verbos activos; quien padece, es desplazado o es sancionado aparece en voz pasiva o encapsulado en sustantivos abstractos como crisis, conflicto o situación. El resultado es un discurso que parece equilibrado porque menciona a todas las partes, pero que en realidad consolida un orden asimétrico donde unos actúan y otros simplemente son descritos.
Este análisis no es exclusivo de contextos geopolíticos. En entornos empresariales y tecnológicos, los mismos patrones pueden observarse cuando se diseñan sistemas de ia para empresas que procesan quejas de clientes, reportes de incidentes o evaluaciones de desempeño. Un asistente virtual puede mencionar al usuario insatisfecho, pero presentarlo como un caso de ticket elevado o un perfil de riesgo, en lugar de reconocerlo como un agente con derecho a exigir una solución. La asimetría no proviene de una intención maliciosa, sino de la forma en que los datos de entrenamiento y las reglas de alineamiento modelan la realidad. Por eso, auditar los sistemas no puede limitarse a detectar sesgos evidentes o palabras prohibidas; debe incluir preguntas sobre quién aparece como sujeto de acción y quién como mero receptor de consecuencias.
En el desarrollo de aplicaciones a medida, especialmente aquellas que incorporan procesamiento de lenguaje natural, es posible diseñar indicadores que midan la preservación de agencia. Por ejemplo, se puede rastrear cuántas cláusulas asignan verbos activos a cada actor, si las decisiones institucionales se describen con sujetos claros o si el sufrimiento civil aparece sin responsable. Estas métricas, aplicadas tanto a resúmenes automáticos como a moderación de contenido, permiten detectar patrones de inteligencia de negocio que revelen desigualdades gramaticales. La propuesta es pasar de una ética de la representación meramente cuantitativa a una auditoría de la estructura narrativa.
La relevancia trasciende el debate teórico. Cuando una empresa despliega agentes IA para gestionar la comunicación con partes interesadas o para generar informes automáticos sobre incidentes de seguridad, la forma en que el lenguaje distribuye la responsabilidad puede tener consecuencias legales y de reputación. Un informe que sistemáticamente utiliza voz pasiva para describir los fallos internos pero voz activa para las acciones del cliente puede generar una percepción distorsionada de la cadena de causas. Del mismo modo, en plataformas que integran servicios cloud aws y azure para escalar el procesamiento de datos de usuarios, la neutralidad aparente del algoritmo puede ocultar una asimetría en la forma de tratar a diferentes colectivos. La solución no es eliminar toda pasiva, sino hacer consciente el patrón y diseñar mecanismos de verificación.
El concepto de visibilidad asimétrica se vuelve operativo cuando se combina con herramientas de ciberseguridad y auditoría de modelos. No basta con comprobar que un sistema no produce discursos de odio; hay que examinar si, al resumir un conflicto, el texto preserva la capacidad de acción de todas las partes o si, bajo una apariencia de neutralidad, refuerza una jerarquía preexistente. Desde el punto de vista técnico, esto implica entrenar modelos con corpus que incluyan múltiples perspectivas gramaticales y establecer pruebas de estrés que evalúen la distribución de agencia. Las empresas que desarrollan software a medida tienen la oportunidad de incorporar estas métricas como parte de sus protocolos de calidad, generando así sistemas más transparentes y equitativos.
En definitiva, la cuestión no es si la inteligencia artificial menciona a los oprimidos, sino cómo los menciona. Un sistema puede incluir a una comunidad en cada resumen y, sin embargo, despojarla de su capacidad de ser sujeto histórico. Reconocer esta asimetría es el primer paso para construir herramientas que no solo describan el mundo, sino que lo hagan con justicia gramatical. Y eso, en el ecosistema digital actual, es una tarea tan técnica como política.
