Dónde poner a la persona en un proceso con IA.
La pregunta útil no es si la IA puede hacer una tarea, sino qué pasa si se equivoca. Esa respuesta define dónde va la persona, qué aprueba y qué tiene que quedar registrado.
Qué es Human in the loop
Es un principio de diseño: en los puntos donde un error tiene consecuencias, el sistema se detiene y espera la aprobación de una persona antes de actuar. La IA hace el trabajo pesado (lee, cruza, calcula, redacta) y deja la decisión preparada. La persona decide.
No es desconfianza en la tecnología: es la forma de usarla en procesos reales, donde un pago mal hecho o un mensaje equivocado a un cliente cuestan dinero y confianza.
Un criterio simple: ¿qué pasa si se equivoca?
Para cada paso del proceso alcanza con dos preguntas: ¿cuánto cuesta un error acá? y ¿se puede deshacer fácilmente? Con esas dos respuestas, cada paso cae en uno de tres niveles.
| Nivel | Ejemplos | Qué hace la IA | Qué hace la persona |
|---|---|---|---|
| 1. Automático error barato y reversible | Clasificar documentos, leer remitos y facturas, responder el estado de un pedido con datos reales. | Ejecuta y registra. Lo dudoso lo manda a revisión. | Revisa lo dudoso y controla por muestreo. |
| 2. Con aprobación error caro o difícil de revertir | Pagos, cambios de stock, liquidaciones, mensajes a clientes con información sensible, edición de registros. | Prepara la acción con los datos que la justifican. | Aprueba, corrige o rechaza antes de que se ejecute. |
| 3. Solo persona decisiones de criterio | Negociaciones con clientes clave, sanciones, excepciones a una política. | Reúne la información y la resume. | Decide, y la decisión queda registrada. |
Lo dudoso pasa a revisión
Aun en el nivel automático, el sistema no debería tratar todos los casos igual. Una factura legible y coherente con el pedido se carga sola; una con un importe que no coincide o un dato ilegible pasa a una persona. Así la revisión humana se concentra donde aporta, en lugar de repartirse sobre todo.
Qué tiene que quedar registrado
- Qué propuso el sistema y con qué datos.
- Quién aprobó, corrigió o rechazó, y cuándo.
- Qué cambió como resultado.
El registro sirve para auditar, pero también para mejorar: si una persona corrige siempre el mismo tipo de propuesta, hay una regla que ajustar. Y si durante meses aprueba todo sin cambios, hay evidencia para que la empresa decida bajar ese paso al nivel automático.
Permisos distintos para públicos distintos
Los agentes también tienen límites. En la migración del sistema de una administradora de alquileres, la atención a inquilinos y propietarios la resuelve un agente separado del principal y con permisos restringidos: solo puede ver y compartir la información que la empresa autorizó. Lo que pide más que eso se deriva a una persona. El mismo criterio de consecuencias aplica a qué datos puede tocar cada agente.
Errores comunes
- Aprobar sin mirar. Si cada día llegan demasiadas aprobaciones, la persona termina aceptando todo. Hay que bajar el volumen: mejores reglas, más casos en el nivel automático o mejores umbrales.
- Poner la aprobación al final. La persona tiene que estar en el punto donde el error tiene consecuencias, no después de que el mensaje ya salió.
- No registrar los rechazos. Un rechazo sin motivo no enseña nada.
- Fijar los límites una vez y olvidarse. Los límites los define la empresa y conviene revisarlos con los datos del registro.
Preguntas frecuentes
Preguntas directas
¿Human in the loop hace más lento el proceso?
Solo en los pasos donde un error tiene consecuencias, y ahí la aprobación es rápida porque la IA ya dejó la decisión preparada. El resto del proceso corre automático.
¿Se puede quitar la aprobación humana más adelante?
Sí, si el registro muestra que en ese paso las propuestas se aprueban sin cambios de forma sostenida. Es una decisión de la empresa, tomada con datos.
¿Quién define los límites de lo que puede hacer la IA?
La empresa. El proveedor propone dónde ubicar las aprobaciones según la consecuencia de cada error, pero los límites los fija y los revisa el cliente.
Para seguir
