Una persona en el circuito, donde de verdad cuenta

“Una persona lo revisa” es la respuesta más común a “¿cómo sabes que la IA tiene razón?”. También es una de las más fáciles de hacer mal. Pon a alguien frente a cada salida y deja de leer en una semana. No pongas a nadie frente a nada y el primer error dicho con seguridad le llega a un cliente. La pregunta útil no es si debe haber una persona en el circuito, sino dónde, y qué necesita esa persona para hacer bien el trabajo.

Dónde está en el producto de coaching de ventas

En el producto de coaching de ventas con IA que construimos, el modelo califica la actividad de ventas contra reglas definidas. Las puntuaciones que disparan una acción pasan primero por una persona, y las correcciones de esa persona se registran. Con el tiempo, esas correcciones muestran dónde el modelo acierta y dónde no: qué criterios maneja bien y cuáles todavía necesitan ojos humanos. La revisión no es solo un paso de seguridad; es cómo el sistema aprende dónde se puede confiar en él.

Dónde poner a las personas

El esfuerzo de revisión es limitado, así que úsalo donde un error cuesta más:

• Acciones con consecuencias. Cualquier cosa que cambie la experiencia de un cliente, la evaluación de alguien, un registro oficial o dinero.
• Acciones irreversibles. Un correo enviado no se puede desenviar. Un registro borrado quizá no vuelva. Si no se puede deshacer, una persona lo confirma.
• Baja confianza. Cuando la salida del modelo no pasa un control, no coincide con una referencia basada en reglas o la entrada está incompleta, mándala a una persona en vez de adivinar.
• Casos nuevos. Entradas que no se parecen a nada que el sistema haya manejado antes: un producto nuevo, un tipo de cliente nuevo, un formato inusual.

Todo lo demás puede fluir sin aprobación, siempre que quede registrado y se pueda revisar después.

Las colas de revisión necesitan responsables y plazos

Un paso de revisión es un flujo de trabajo, y los flujos necesitan estructura. Cada cola debería tener un responsable, un tiempo objetivo para decidir y un pendiente visible. Decide qué pasa cuando ese tiempo se vence: escalar, retener la acción o volver a un valor seguro por defecto. Una cola sin dueño se convierte en silencio en el lugar donde el trabajo se detiene.

Diseña el paso de aprobación para que haya criterio

La interfaz decide si la revisión es real. Muéstrale al revisor lo que necesita para juzgar, no solo la salida:

• la evidencia que usó el modelo, citada de la fuente;
• por qué el elemento está en la cola: baja confianza, un control fallido, una acción de alto impacto;
• aprobar, editar y rechazar como opciones igual de fáciles, con una razón breve al rechazar;
• lo que va a pasar después de aprobar, dicho con claridad.

Evita la aprobación automática y el cansancio de revisar

Cuando casi todo se aprueba, la gente deja de mirar. Algunas formas de mantener la revisión honesta:

• mantén el volumen manejable enviando solo lo que necesita una persona;
• mide las tasas de aprobación y el tiempo por elemento; un revisor que aprueba cientos de elementos en segundos cada uno es una señal, no productividad;
• incluye de vez en cuando elementos con respuesta conocida para comprobar que la revisión detecta errores;
• deja que los revisores señalen una regla o un prompt malo, no solo una salida mala.

Las correcciones son tus mejores datos

Cada edición o rechazo es un ejemplo etiquetado por alguien que conoce el negocio. Guárdalo con la salida original, la entrada, la versión del prompt y del modelo, y la razón. Eso te da un conjunto de evaluación hecho con casos reales, una forma de probar el próximo cambio de prompt contra errores pasados y evidencia para decidir cuándo un área es lo bastante confiable como para necesitar menos revisión.

Decidir qué partes le tocan al software, al modelo y a las personas es un paso de cómo trabajamos.