La interfaz de usuario generativa requiere más gobernanza, no menos

Cada vez que una tecnología promete hacer más con menos esfuerzo humano, surge la tentación de aflojar los controles. Con la UI generativa, esta tentación es peligrosa. La lógica de quienes se deciden por un producto tiende a ser: si la IA monta la pantalla, queda menos para que el equipo se encargue. Sucede lo contrario.

Cuando dejas que un modelo elija cómo presentar la información, transfieres una decisión que antes pertenecía a las personas. Personas que revisaban, cuestionaban, se responsabilizaban de lo que aparecía en pantalla. Esta decisión no desaparece cuando se vuelve automática. Simplemente se vuelve menos visible, y lo que se vuelve menos visible necesita más vigilancia, no menos.

Este texto trata sobre los riesgos concretos de las interfaces generadas por IA y cómo gobernarlas. No es un manifiesto contra la tecnología. Es un recordatorio de que el liderazgo responsable significa ver el costo oculto antes de que se convierta en un incidente.

La interfaz puede verse bien y estar mal

El riesgo más insidioso de la IU generativa es estético. Un modelo de lenguaje está optimizado para producir resultados plausibles, y lo plausible es precisamente lo que engaña. Una pantalla generada puede tener un gráfico bien elegido, un eje bien etiquetado, un color consistente y aún así estar mintiendo.

Imagine un panel que presente el crecimiento de los ingresos con un gráfico de barras impecable. Visualmente todo invita a la confianza. Pero si la consulta subyacente agregó datos incorrectos, filtró el rango de fechas incorrecto o mezcló unidades, el resultado es una información errónea convincente. Y cuanto mejor sea la interfaz, más convincente será el error.

Este es el punto que diferencia la UI generativa de un informe de error. En el informe fijo, el error es estable y detectable: siempre aparece, alguien lo nota, alguien lo corrige. En la interfaz generada bajo demanda, cada pantalla es única, y el error puede vivir en una composición que nadie ha visto antes y que nadie volverá a ver, sin dejar rastro.

La gobernanza aquí comienza con una regla no negociable: la IA elige la presentación, nunca los números. Los datos deben provenir de una fuente verificable, con la misma lógica de negocio que el resto del sistema. Pero eso no es suficiente. La interfaz necesita exponer de dónde provienen los datos y cómo se agregaron, para que el usuario pueda sospechar cuando algo parezca extraño. La confianza ciega en una pantalla bonita es exactamente lo que quieres evitar.

La accesibilidad y la coherencia se desmoronan cuando la IA improvisa

Los equipos competentes invierten años en crear un sistema de diseño: patrones de contraste, navegación con el teclado, lectura del lector de pantalla, espaciado consistente, jerarquía predecible. Este trabajo existe para que todos los usuarios, incluidos aquellos con discapacidad, puedan utilizar el producto.

La interfaz de usuario generativa puede destruir silenciosamente esta herencia. Si el modelo tiene la libertad de generar marcas o estilos por sí solo, producirá combinaciones que nunca han sido revisadas por accesibilidad. Un contraste insuficiente aquí, un orden de enfoque roto allá, un elemento sin una etiqueta adecuada allá. Nada de esto aparece en una demostración rápida y todo esto excluye a personas reales.

La coherencia sufre el mismo problema. Parte del valor de un producto es su previsibilidad: el usuario aprende un patrón y lo reutiliza en toda la interfaz. Si cada pantalla generada inventa su propia forma de mostrar las cosas, la curva de aprendizaje se reinicia con cada interacción. El producto es inteligente y desorientador al mismo tiempo.

La defensa es la misma barrera que hace que la UI generativa sea viable en primer lugar: la IA se compone a partir de un catálogo cerrado de componentes aprobados y nunca genera marcado gratuito. Cada componente ya lleva accesibilidad y coherencia resueltas. La gobernanza consiste en garantizar que esta valla no tenga agujeros y que nadie, en la prisa por cumplir, haga una excepción que permita que el modelo se salga del sistema de diseño.

¿Quién puede ver qué en una pantalla recién montada?

El control de acceso es difícil incluso en interfaces estáticas. En las interfaces generadas, se convierte en un problema de diferente orden. En una pantalla fija, usted sabe de antemano qué datos muestra y puede vincularles permisos. En una pantalla montada in situ, la composición sólo existe después de que llega el pedido, y la pregunta "¿puede esta persona ver esto?" debe responderse en tiempo real, para una combinación que puede no tener precedentes.

El riesgo es directo. Un usuario solicita un corte de datos, la IA configura un panel, y en ese panel aparece información a la que ese perfil no debería acceder. El modelo no tiene una noción nativa de jerarquía de permisos. Si confía en que respetará los límites de acceso, los datos se filtrarán tarde o temprano.

La regla de oro es no delegar autorización al modelo. El control de acceso debe residir en la capa de datos, administrado por su sistema, con las mismas políticas que rigen todo el producto. La IA puede solicitar una consulta, pero la consulta se ejecuta bajo la identidad y los permisos del usuario real. Si no tiene derecho a esos datos, la consulta no devuelve los datos, independientemente de lo que la IA haya compuesto en la interfaz.

Esto nos obliga a pensar en la autorización a nivel de datos, no en la pantalla. Aquellos que todavía vinculan los permisos a las páginas descubrirán que esta estrategia no sobrevive a las interfaces dinámicas. Es un trabajo arquitectónico que precede a la adopción de la UI generativa, no después.

Auditabilidad: registrar lo generado y en base a lo que

Cuando una decisión se automatiza, la capacidad de explicar por qué ocurrió deja de ser un lujo y se convierte en una obligación. Si un gerente tomó una decisión comercial mirando una pantalla generada por IA y esa pantalla estaba equivocada, alguien preguntará qué apareció, cuándo y en función de qué datos. Sin registro, no tiene respuesta, y la falta de respuesta es una cuestión de responsabilidad, no sólo técnica.

La auditabilidad en la UI generativa significa registrar toda la cadena: la solicitud del usuario, la interpretación del modelo, la consulta que se ejecutó, los datos devueltos y la composición final presentada. No basta con registrar que "se generó una pantalla". Necesitas poder reconstruir la pantalla exacta que vio esa persona en ese momento.

Este registro tiene tres funciones. Responsabilidad: permite responder preguntas internas y externas sobre lo mostrado. Mejora: analizando lo que la IA generó a lo largo del tiempo, descubres dónde cometió errores y dónde necesita crecer el catálogo. Seguridad: los patrones de generación anómalos pueden indicar abuso o intentos de extraer datos inapropiados.

Vale la pena acercar esto al debate sobre los agentes de IA en entornos corporativos, donde la trazabilidad de cada acción autónoma es igualmente central. Un sistema que decide sin dejar rastro es un sistema que nadie puede defender cuando sale mal.

LGPD y datos sensibles en la línea de fuego

Aquí el asunto deja de ser una buena práctica y pasa a ser una obligación legal. La LGPD impone principios claros: finalidad, necesidad, minimización. La interfaz de usuario generativa los pone en tensión a todos, porque le brinda al usuario una ruta flexible para solicitar combinaciones de datos que nadie ha predicho explícitamente.

El riesgo más evidente es la exposición de datos personales sensibles en una composición inesperada. Alguien solicita una intersección aparentemente inocente y la pantalla generada termina revelando, por inferencia, información protegida sobre individuos. La IA, por defecto, no tiene la sensación de que ciertas intersecciones estén prohibidas. Este sentido debe estar codificado en las reglas del sistema, no con la esperanza de que el modelo se comporte.

También está la cuestión del tráfico de datos al modelo. Si interpretar la solicitud implica enviar datos personales a un modelo externo, es necesario saber exactamente qué sale, adónde va y bajo qué base legal. Idealmente, el modelo opera según la intención y la estructura, y los datos personales reales solo se manipulan dentro de su perímetro controlado, y nunca salen innecesariamente. Quien trate el tema con la seriedad que merece encontrará más contexto en la discusión sobre protección de datos y LGPD en la práctica.

La gobernanza de la privacidad en Generative UI requiere anticipación: mapear qué datos puede tocar el sistema, qué intersecciones están prohibidas, cuál es la base legal para cada uso y cómo el titular ejerce sus derechos sobre la información que aparece en las pantallas dinámicas. El modelo no resuelve nada de esto por sí solo.

La gobernanza es lo que hace posible la libertad

Puede parecer que abogo por bloquear todo. No es eso. Sostengo que la libertad de la UI Generativa sólo es sostenible sobre la base de controles estrictos. La valla del catálogo, la separación entre presentación y datos, autorización en la capa de datos, auditoría completa, reglas de privacidad: estos controles no son lo opuesto a la innovación. Son los que nos permiten innovar sin gastar mucho dinero.

El punto que quiero destacar es de postura, no sólo de técnica. Transferir la decisión de presentación a un modelo es una elección legítima y poderosa, siempre que se haga con conciencia de lo que lo mueve. Quien decida sobre el producto y la arquitectura necesita ver esta transferencia como lo que es: poder delegado a un sistema que no tiene responsabilidad propia. La responsabilidad sigue siendo tuya.

Si está evaluando la UI generativa, haga la pregunta difícil antes de comenzar: ¿Tenemos una gobernanza lo suficientemente madura para una capa de presentación autodecidida? Si la respuesta es no, el trabajo empieza ahí. Vale la pena revisar el lado práctico en La UI generativa en la práctica para equilibrar la ambición y la precaución en la misma mesa.