Human-on-the-loop

O que significa

Human-on-the-loop descreve como o trabalho se divide entre um agente e uma pessoa. O agente faz a amplitude — explorar a superfície de ataque, mutar parâmetros, reproduzir fluxos, validar o que é explorável — e um pesquisador toma as decisões que exigem responsabilidade humana antes de a execução avançar.

Vale distinguir de dois vizinhos. O human-in-the-loop coloca uma pessoa no caminho de cada passo, o que não escala. A autonomia total remove a pessoa por completo, o que não é seguro em sistemas que importam. O on-the-loop fica entre eles: o agente roda continuamente, e o humano está presente nas decisões que exigem um humano — não a cada tecla.

Por que a automação estagnou

Na maior parte de sua história, o pentest foi definido por pesquisadores individuais. Os achados difíceis — o IDOR enterrado a três fluxos de profundidade, o bypass de autenticação que só aparece após uma sequência específica de requisições, a condição de corrida que exige timing preciso — vêm de gente que raciocina sobre como uma aplicação se comporta, não só sobre quais entradas aceita.

A maioria das ferramentas tratou a automação como multiplicador de técnicas conhecidas: dê um alvo, ela roda suas verificações, devolve um relatório. Ótimo para cobertura de superfície — brute-force de diretórios, verificação de CVEs conhecidas, análise de cabeçalhos — e inútil para o trabalho que importa. Scanners não raciocinam sobre fronteiras de confiança nem sobre comportamento encadeado entre fluxos; encontram o que lhes mandam encontrar. O modelo nunca mudou: o pesquisador fazia todo o raciocínio, e a ferramenta só executava instruções.

Uma divisão de trabalho diferente

Um agente não é um scanner com marketing melhor. A diferença que importa é que ele interage com uma aplicação como um pesquisador — explorando-a, observando como responde, e ajustando-se ao que encontra. Ele pode reproduzir fluxos autenticados, mutar entradas de forma sistemática e testar variações entre endpoints e, quando a aplicação muda após um deploy, revisitar esses caminhos por conta própria.

Crucialmente, ele pode validar achados, não apenas sinalizá-los, e mantém o rastro de execução completo: quais endpoints foram atingidos, como as entradas foram modificadas, que condição fez um sinal surgir. Assim o trabalho do pesquisador deixa de ser “refazer o trabalho do agente para confirmá-lo”. A evidência já está ali para inspecionar. Seu trabalho passa a ser as decisões: quais caminhos valem a pena e quais ações podem prosseguir.

Por que o humano o torna implantável

Manter uma pessoa no circuito não é nostalgia, é o que a segurança ofensiva plenamente autônoma não pode fazer com segurança. Uma ferramenta que executa sem supervisão cria risco concreto: ações que excedem as regras de engajamento, achados que não podem ser atrelados a uma decisão clara, trilhas de auditoria que não se sustentam onde são revisadas. Em um sistema de produção, “foi o agente” não é uma resposta aceitável.

O human-on-the-loop, portanto, não é uma fraqueza do modelo — é o que permite rodá-lo. Quando um agente chega a um guarda-corpo — para proteger a estabilidade, ficar no escopo ou cumprir um requisito de conformidade — ele apresenta a decisão a uma pessoa, e a pessoa decide o que vem a seguir. Essa responsabilidade é deliberada. É a linha entre um sistema em que uma organização pode de fato confiar e um em que não pode.

Guarda-corpos mais precisos, não menos

À medida que os agentes melhoram e os limites se refinam pelo uso real, os momentos que exigem um humano ficam mais raros e mais precisos. Essa é a trajetória honesta, e vale descrevê-la com cuidado: os guarda-corpos não desaparecem. Eles melhoram. Menos interrupções porque o agente aprendeu onde estão as decisões reais, não porque as decisões deixaram de importar.

Há também um efeito cumulativo. Conforme o pesquisador dirige a investigação e confirma o que é relevante, a cobertura contínua passa a refletir esse julgamento acumulado, em vez de um playbook genérico rodado em agenda. O humano não revisa a saída depois do fato; ele molda para onde o teste vai.

O que muda para o pesquisador

O papel do pentester não desaparece, muda. Os pesquisadores tornam-se a camada de responsabilidade que define até onde os agentes podem ir: não dirigir cada ação, mas liberar as que exigem antes uma decisão humana. Menos tempo redescobrindo a mesma superfície; mais em julgamento, validação e as decisões que precisam ser assumidas por uma pessoa.

É essa a afirmação inteira, e é modesta. Para quem se dispõe a trabalhar assim, não é perda de ofício, é uma mudança de onde o ofício é exercido — para longe da amplitude repetitiva que uma máquina lida bem, rumo ao raciocínio e à responsabilidade que uma máquina não deveria assumir.

A CyberStrike é uma plataforma de testes de intrusão aumentados por IA, atualmente em acesso antecipado. Quer ver como os agentes e o humano se encaixam? Conheça os agentes ou entre na lista de espera.