Gobernabilidad: ¿quién cambió el prompt y puedes revertirlo?
Una función de IA es gobernable cuando puedes decir qué prompt, qué modelo y qué configuración produjeron cualquier salida, quién aprobó esa versión y cómo volver a la anterior. Cómo construir eso desde la primera versión.
En la mayoría de los productos con IA, el comportamiento que más importa vive en lugares fáciles de cambiar y difíciles de rastrear: un prompt en una tabla de configuración, el nombre de un modelo en una variable de entorno, un umbral que alguien ajustó en una pantalla de administración. Una edición pequeña puede cambiar lo que ven miles de usuarios, y una semana después nadie sabe decir qué cambió, cuándo ni por qué.
Si lideras el equipo: qué preguntar
- Para cualquier resultado de la IA, ¿podemos saber qué prompt, qué modelo y qué configuración lo produjeron?
- ¿Quién tiene que aprobar un cambio en cómo se comporta la IA, y queda registro de eso?
- Si un cambio sale mal, ¿qué tan rápido volvemos a la última versión que funcionaba, y ya lo probamos?
La gobernabilidad es la capacidad de responder tres preguntas en cualquier momento: ¿qué produjo esta salida, quién la cambió y cómo volvemos atrás? No es papeleo que se agrega al final. Es un conjunto de decisiones de ingeniería que cuestan poco al principio y mucho si se agregan después.
Versiona todo lo que da forma al comportamiento
Trata los prompts, la elección de modelo y la configuración de la IA como artefactos versionados, igual que el código:
- Los prompts viven en el repositorio o en un almacén versionado, cada uno con un ID, nunca como texto libre editado en su lugar.
- El modelo y el proveedor se fijan a una versión específica, no a la “última”, para que una actualización del proveedor no cambie tu producto en silencio.
- La configuración, como la temperatura, las herramientas permitidas, los umbrales y los pesos de las reglas, se versiona junto con el prompt al que pertenece.
Así, una versión de una función de IA es una combinación conocida: esta versión del prompt, este modelo, esta configuración.
Procedencia en cada salida
Cada salida guardada debería llevar su origen: qué versión del prompt, qué modelo, qué calificador o conjunto de reglas, y cuándo. Cuando un gerente pregunta por qué una puntuación se ve mal, puedes ver exactamente qué la produjo. Cuando una versión resulta defectuosa, puedes encontrar todas las salidas que produjo y decidir si volver a generarlas, marcarlas o corregirlas. Sin procedencia, una mala versión deja resultados que no puedes separar de los buenos.
Revisa los cambios como código
Un cambio de prompt puede alterar el comportamiento más que cien líneas de código, así que merece la misma disciplina:
- una razón escrita para el cambio;
- un diff que otra persona lee antes de que salga;
- una corrida contra un conjunto fijo de casos de prueba, incluidos errores pasados, con resultados comparados contra la versión actual;
- un lanzamiento por etapas, para que la versión nueva enfrente primero una parte pequeña del tráfico real.
Aprobaciones para el comportamiento de alto impacto
No todo cambio necesita un comité. Reescribir un prompt de resumen es de bajo riesgo. Cambiar cómo se califica a los clientes, qué puede hacer la IA por su cuenta o qué dice sobre precios, salud o temas legales, no lo es. Clasifica los comportamientos de la IA por impacto y exige una aprobación explícita de un responsable con nombre para los de alto impacto. Mantén la lista corta y clara, para que la regla se cumpla en vez de esquivarse.
Un registro de auditoría que se pueda leer
Registra quién cambió qué, cuándo, con qué aprobación y qué mostraron las pruebas. Guárdalo donde no se pueda editar en silencio. Eso es lo que te permite reconstruir una decisión meses después, y es lo primero que piden quienes revisan cumplimiento y seguridad.
Reversión en minutos, ensayada
Si volver atrás significa un cambio de código y un despliegue completo, la reversión será lenta justo cuando la necesitas rápida. Haz que la versión activa sea una configuración que se pueda regresar a la combinación anterior conocida como buena en un solo paso, y pruébalo antes de necesitarlo. Decide también qué pasa con las salidas producidas por la versión mala: regenerarlas, marcarlas o dejarlas con una nota.
Documentación para los equipos de cumplimiento
Los equipos de cumplimiento, legal y seguridad no necesitan que les expliques el prompt línea por línea. Necesitan un documento corto y actualizado por cada función de IA: qué hace, qué datos lee, qué puede y qué no puede hacer, quién es el responsable, cómo se revisan los cambios y cómo se monitorea. Genera la mayor parte posible desde la configuración versionada, para que no se desactualice.
Un responsable por cada comportamiento de IA
Cada función de IA necesita un responsable con nombre que decida los cambios, vigile sus señales de calidad y responda por su comportamiento. La responsabilidad compartida suele significar que nadie nota cuando se desvía.
Lista de gobernabilidad
- Prompts, versiones de modelo y configuración de IA se versionan juntos.
- Cada salida registra prompt, modelo, calificador y hora.
- Los cambios de prompt se revisan, se prueban contra casos conocidos y se lanzan por etapas.
- Los comportamientos de alto impacto necesitan la aprobación de un responsable con nombre.
- Un registro de auditoría guarda quién cambió qué, cuándo y por qué.
- La reversión es un solo paso y ya se ensayó.
- Cada función de IA tiene un documento corto y actualizado, y un responsable.
Si estás planeando IA sobre tus propios datos, nuestro servicio de IA con tus datos incorpora estos controles desde el primer día.
Escrito a partir del trabajo de nuestros ingenieros en sistemas en producción. ¿Quieres una segunda opinión sobre tu proyecto? Habla con un ingeniero.
Ver el trabajo →