O que dá errado quando o agente trabalha sozinho
- Ele não sabe quando parar, nem quando um caso precisa de uma pessoa.
- Não há tempo máximo, nova tentativa ou plano B quando o modelo falha ou demora.
- Decisões ficam sem registro, e é difícil explicar depois por que algo foi feito.
- Se a execução cai no meio, o trabalho já feito se perde.
- Ninguém é claramente responsável pelo resultado.
Nada disso é um problema do modelo de IA. É falta de processo em volta dele.
O padrão: o agente decide, o processo garante
A divisão de responsabilidades que funciona em operação real:
- O agente de IA interpreta, analisa, classifica, resume, sugere ou executa a tarefa da etapa.
- O processo define a entrada e a saída esperadas, o tempo máximo, as novas tentativas, os limites de autonomia, quando pedir revisão humana, o próximo passo e o registro de tudo.
O agente decide; o processo garante.
Human-in-the-loop na prática
"Humano no loop" não significa revisar tudo. Os padrões mais comuns:
- Aprovação antes de agir: o agente prepara, uma pessoa aprova a ação irreversível.
- Revisão por alçada: acima de um valor, risco ou nível de incerteza, o caso vai para uma pessoa.
- Escalonamento por exceção: o agente resolve o caso comum; o que foge do padrão é transferido com todo o contexto.
- Correção e retomada: se o agente errou, a equipe corrige o caso e o processo continua dali, sem recomeçar.
Controles que o processo aplica ao agente
- Timeout: tempo máximo para a etapa do agente.
- Retry: novas tentativas quando o modelo ou a ferramenta falha.
- Limites: o que o agente pode decidir sozinho e o que precisa de aprovação.
- Pausa para aprovação humana: o caso espera, com estado salvo, até a decisão.
- Trilha auditável: cada passo registrado, incluindo o que o agente fez.
- Retomada: continuar do ponto exato depois de uma falha ou correção.
Exemplo: atendimento com agente de IA
- O cliente abre uma solicitação; o processo registra o caso e o prazo.
- O agente de IA classifica a solicitação e consulta os sistemas para responder.
- Se a confiança for alta e o tema estiver dentro dos limites, o agente responde e o caso é encerrado.
- Se o tema for sensível, ou se o agente não concluir dentro do tempo, o caso vai para um atendente com o histórico e o resumo do agente.
- O atendente resolve; o processo registra a decisão e mede o SLA.
Como fazer isso no Kikwiflow
No Kikwiflow, você chama um LLM ou agente de IA de dentro de qualquer etapa do processo, e o processo cuida do resto: timeout, retry, pausa para aprovação humana e trilha completa de cada passo no Monitor. Como o modelo do processo é um arquivo JSON (.kikwi) separado do código, agentes de IA também conseguem ler, gerar e revisar processos.
Veja também o que é application orchestration e o caso de atendimento com IA e pessoas.
Perguntas frequentes
O que é human-in-the-loop?
É a participação de uma pessoa em pontos definidos do processo em que um agente de IA trabalha: aprovar uma ação irreversível, revisar casos acima de uma alçada, assumir exceções ou corrigir um caso e retomá-lo. Não significa revisar tudo o que o agente faz.
Como colocar agentes de IA na operação sem perder o controle?
Colocando o agente dentro de um processo que define o que ele pode decidir sozinho, o tempo máximo de cada etapa, as novas tentativas, quando pedir aprovação humana e qual é o próximo passo, registrando tudo o que o agente fez.
O que acontece se o agente de IA falhar ou demorar demais?
O processo aplica as regras definidas para a etapa: tenta de novo, encaminha o caso para uma pessoa com todo o contexto ou segue um caminho alternativo. O estado fica salvo, então o trabalho já feito não se perde e o caso continua do ponto exato.
Agentes de IA conseguem criar ou revisar processos no Kikwiflow?
Sim. Como o modelo do processo é um arquivo JSON (.kikwi) separado do código, agentes de IA conseguem ler, gerar e revisar processos.