Human in the loop na prática: onde colocar aprovação humana em agentes de IA

Colocar aprovação humana em tudo parece prudente e trava a operação. Não colocar em nada parece eficiente e expõe a empresa a um erro que ninguém viu sair. A pergunta útil não é se o agente de IA precisa de supervisão. É em quais pontos do fluxo, com qual regra e com qual registro.

O que é human in the loop

Human in the loop é o desenho de processo em que o agente de IA prepara uma ação e aguarda, e a ação só acontece depois que uma pessoa autoriza. Sem a decisão dela, nada é enviado, gravado ou pago.

A expressão costuma ser usada como sinônimo de "tem alguém olhando". Na operação, aprovar antes e olhar depois são controles diferentes, com risco, custo e velocidade diferentes.

Human in the loop, human on the loop e sem humano: qual é a diferença

A diferença está no momento em que a pessoa atua: antes da ação, durante a operação ou só nas exceções. Um mesmo agente pode usar os três desenhos em tarefas diferentes.

A regra de decisão: autonomia proporcional ao risco e à reversibilidade

A regra é dar ao agente autonomia proporcional ao risco da ação e à facilidade de desfazê-la. Duas perguntas resolvem a maior parte dos casos:

1. 1Se der errado, quem é afetado e quanto custa? Um resumo interno errado custa minutos. Uma proposta com preço errado custa margem ou cliente.
2. 2Dá para desfazer? Um campo de CRM se corrige. Um pagamento feito, um contrato assinado e uma mensagem publicada não voltam.

Risco baixo e ação reversível dispensam aprovação prévia. Risco alto ou ação irreversível exigem aprovação.

A escada de autonomia em quatro níveis

A escada de autonomia classifica cada tarefa do agente em quatro níveis, do que ele faz sozinho ao que ele nunca faz. É a escada de autonomia que usamos na Heleveos.

N1 roda sem humano, N2 é human on the loop e N3 é human in the loop. Em N4, o agente não executa.

Onde o ponto de aprovação entra no fluxo

O ponto de aprovação entra imediatamente antes das ações que saem do controle da empresa ou que alteram um registro oficial. Na prática, são três fronteiras:

• Antes de enviar ao cliente. Proposta, cobrança, resposta a reclamação e qualquer mensagem que crie compromisso.
• Antes de gravar em sistema. Lançamento financeiro, alteração de cadastro, mudança de preço ou de estoque no sistema de gestão.
• Antes de pagar, assinar ou publicar. Pagamento, contrato, concessão de acesso e comunicação pública.

Coloque a aprovação no último momento possível. Se o agente ainda altera o conteúdo depois de aprovado, a aprovação não vale para o que foi enviado.

Como desenhar a aprovação para não virar gargalo

A aprovação não vira gargalo quando é rara, rápida e tem dono. Cinco decisões de desenho resolvem:

• Fila única. Todas as aprovações chegam a um só lugar, não espalhadas entre e-mail, mensagens e sistemas.
• Contexto junto. O pedido mostra o que o agente propõe, em qual fonte se baseou e o que muda se for aprovado.
• Prazo e substituto. Cada tipo de aprovação tem prazo e alguém que assume quando o aprovador não responde. Pedido vencido é escalado, nunca aprovado por omissão.
• Amostragem. Tarefas de nível N2 são revisadas por amostra, não uma a uma.
• Alçada. Faixas de valor e de risco definem quem aprova o quê.

Exemplo ilustrativo: um agente prepara 200 propostas por mês, e cada aprovação leva 3 minutos. Com aprovação em todas, são 600 minutos, ou 10 horas de gestor por mês. Se apenas as 40 propostas com desconto acima da alçada exigem aprovação, são 120 minutos, ou 2 horas. As outras 160 seguem com revisão por amostra.

O que registrar na trilha de auditoria

A trilha de auditoria registra cinco coisas de cada ação: quem, o quê, com qual fonte, a decisão e o resultado.

O campo mais esquecido é o motivo da recusa. Ele alimenta a taxa de intervenção humana, um dos indicadores de AI Operations.

Como reduzir a revisão com o tempo

A revisão diminui quando o agente demonstra, com registro, que erra pouco naquele tipo de tarefa. A evolução acontece em quatro estágios:

1. 1E1 Copilot. O agente sugere e a pessoa executa.
2. 2E2 Assistido com revisão. O agente executa e a pessoa revisa cada caso.
3. 3E3 Automático por amostra. O agente executa e a pessoa revisa uma amostra.
4. 4E4 Automático com exceções. O agente executa e a pessoa trata apenas as exceções.

Na Heleveos, um agente só avança de estágio com quatro condições atendidas: amostra auditada, taxa de intervenção humana em queda, custo por execução conhecido e fallback testado, que é o caminho alternativo para quando o agente falha.

O estágio não substitui o nível. A revisão cai nas tarefas N1 e N2. O que é N3 continua exigindo autorização explícita, por mais maduro que o agente esteja.

O que a LGPD diz sobre decisões automatizadas

A LGPD (Lei 13.709/2018) garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. O art. 20 da lei inclui nesse grupo as decisões destinadas a definir o perfil pessoal, profissional, de consumo e de crédito do titular, ou aspectos de sua personalidade.

O mesmo artigo traz dois complementos:

• O controlador, que é a quem competem as decisões sobre o tratamento dos dados, deve fornecer, sempre que solicitadas, informações claras e adequadas sobre os critérios e os procedimentos usados na decisão automatizada, observados os segredos comercial e industrial.
• Se essas informações forem negadas com base em segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificar aspectos discriminatórios no tratamento automatizado.

O texto garante o direito de solicitar a revisão. Ele não descreve como a revisão deve ser feita nem por quem. Se a aprovação humana do seu fluxo altera o enquadramento de uma decisão é uma avaliação jurídica, caso a caso.

Na operação, três providências ajudam a empresa a responder: registrar os critérios que o agente usa, manter um canal para pedidos de revisão e ter uma pessoa com alçada para revisar. Este conteúdo é informativo e não substitui orientação jurídica. Para o conjunto das regras, veja a governança mínima de IA para empresas de médio porte.

Perguntas frequentes

O que significa human in the loop em IA?

Significa que uma pessoa autoriza a ação antes de ela acontecer. O agente de IA prepara, a pessoa decide, e só então a ação é executada. É diferente de monitorar o resultado depois.

Qual a diferença entre human in the loop e human on the loop?

No human in the loop, a pessoa aprova antes e nada acontece sem ela. No human on the loop, o agente executa sozinho e a pessoa supervisiona por amostra ou painel, com poder de corrigir e interromper. O primeiro serve para ações de alto risco ou irreversíveis, e o segundo para rotinas reversíveis em volume.

Todo agente de IA precisa de aprovação humana?

Não. Tarefas internas de baixo risco e sem dado sensível, como classificar e resumir, podem rodar com registro e sem revisão caso a caso. A aprovação é obrigatória em preço, proposta, contrato, pagamento, acesso, dados pessoais e comunicação pública.

A LGPD exige revisão humana de decisões automatizadas?

O art. 20 da LGPD garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. O texto vigente não especifica quem deve fazer essa revisão nem de que forma. A aplicação ao seu caso depende de orientação jurídica.

Como evitar que a aprovação humana vire gargalo?

Reserve a aprovação prévia para o que é de alto risco ou irreversível e use revisão por amostra no restante. Concentre os pedidos em uma fila única, com contexto, prazo e substituto definidos.