무엇을 뜻하는가

Human-on-the-loop은 일이 에이전트와 사람 사이에서 어떻게 나뉘는지를 설명합니다. 에이전트가 넓이를 맡고——공격면을 탐색하고, 파라미터를 변형하고, 플로우를 재생하고, 무엇이 악용 가능한지 검증하고——연구자는 실행이 더 나아가기 전에 사람의 책임이 필요한 결정을 내립니다.

두 이웃과 구별할 가치가 있습니다. human-in-the-loop은 사람을 모든 단계의 경로에 두어 확장되지 않습니다. 완전 자율은 사람을 아예 없애, 중요한 시스템에서는 안전하지 않습니다. on-the-loop은 그 사이입니다. 에이전트는 지속적으로 돌고, 사람은 사람이 필요한 결정에 함께합니다——모든 키 입력마다가 아니라.

자동화가 정체된 이유

역사의 대부분에서 펜테스트는 개별 연구자가 정의해 왔습니다. 어려운 발견——세 개의 워크플로 깊이에 묻힌 IDOR, 특정 요청 순서 뒤에야 드러나는 인증 우회, 정밀한 타이밍이 필요한 경쟁 상태——은 앱이 어떤 입력을 받는지뿐 아니라 어떻게 동작하는지를 추론하는 사람에게서 나옵니다.

대부분의 도구는 자동화를 알려진 기법의 승수로 취급했습니다. 대상을 주면 검사를 돌리고 보고서를 돌려줍니다. 표면 커버리지에는 좋지만——디렉터리 브루트포스, 알려진 CVE 점검, 헤더 분석——정작 중요한 일에는 쓸모없습니다. 스캐너는 신뢰 경계나 워크플로를 가로지르는 연쇄 동작을 추론하지 않습니다. 시키는 것만 찾습니다. 모델은 바뀌지 않았습니다. 연구자가 모든 추론을 하고, 도구는 지시만 실행했습니다.

다른 역할 분담

에이전트는 마케팅이 더 나은 스캐너가 아닙니다. 중요한 차이는 연구자처럼 앱과 상호작용한다는 점입니다——탐색하고, 응답을 지켜보고, 찾은 것에 맞춰 조정합니다. 인증된 플로우를 재생하고, 입력을 체계적으로 변형하며, 엔드포인트 간 변종을 시험하고, 배포 후 앱이 바뀌면 그 경로를 스스로 다시 방문합니다.

결정적으로, 발견을 단지 표시하는 게 아니라 검증할 수 있고, 전체 실행 추적을 보관합니다. 어떤 엔드포인트에 닿았는지, 입력을 어떻게 바꿨는지, 어떤 조건에서 신호가 떠올랐는지. 그래서 연구자의 일은 “확인을 위해 에이전트의 작업을 다시 하는 것”이 아니게 됩니다. 증거는 이미 검토할 수 있게 있습니다. 그의 일은 결정이 됩니다——어떤 경로가 추적할 가치가 있고, 어떤 행동이 진행을 허가받는가.

왜 사람이 배포 가능하게 하는가

사람을 루프에 두는 것은 향수가 아니라, 완전 자율 공격 보안이 안전하게 할 수 없는 것입니다. 감독 없이 실행하는 도구는 구체적 위험을 만듭니다. 교전 규칙을 넘는 행동, 분명한 결정에 묶을 수 없는 발견, 검토되는 자리에서 버티지 못하는 감사 추적. 운영 시스템에서 “에이전트가 했다”는 받아들일 수 있는 답이 아닙니다.

그래서 human-on-the-loop은 모델의 약점이 아니라, 애초에 그것을 돌릴 수 있게 하는 것입니다. 에이전트가 가드레일에 닿으면——안정을 지키려, 범위에 머무르려, 규정 요건을 맞추려——결정을 사람에게 올리고, 사람이 다음을 정합니다. 그 책임은 의도적입니다. 조직이 실제로 신뢰할 수 있는 시스템과 그렇지 못한 시스템을 가르는 선입니다.

가드레일은 줄지 않고 더 정밀해진다

에이전트가 나아지고 경계가 실제 사용에서 다듬어질수록, 사람이 필요한 순간은 더 드물고 더 정밀해집니다. 그것이 정직한 궤적이며, 어떻게 말하는지 조심할 가치가 있습니다. 가드레일은 사라지지 않습니다. 더 나아집니다. 중단이 줄어드는 것은 에이전트가 진짜 결정이 어디 있는지 배웠기 때문이지, 결정이 더는 중요하지 않아서가 아닙니다.

누적 효과도 있습니다. 연구자가 조사를 이끌고 의미 있는 것을 확인할수록, 지속 커버리지는 일정에 따라 도는 일반 플레이북이 아니라 그 축적된 판단을 반영하기 시작합니다. 사람은 사후에 출력을 검토하는 게 아니라, 테스트가 어디로 갈지 빚습니다.

연구자에게 무엇을 뜻하는가

펜테스터의 역할은 사라지지 않고 바뀝니다. 연구자는 에이전트가 어디까지 갈 수 있는지를 정하는 책임 계층이 됩니다. 모든 행동을 지휘하는 게 아니라, 먼저 사람의 결정이 필요한 것들을 해제합니다. 같은 면을 다시 발견하는 시간은 줄고, 판단·검증, 그리고 사람이 떠안아야 하는 결정에 더 많이 씁니다.

이것이 주장의 전부이며 겸손합니다. 그렇게 일할 뜻이 있는 사람에게 이는 기술의 상실이 아니라, 기술이 쓰이는 자리의 이동입니다——기계가 잘하는 반복적 넓이에서 벗어나, 기계가 떠안아선 안 될 추론과 책임으로.

CyberStrike는 AI로 보강된 침투 테스트 플랫폼으로, 현재 얼리 액세스 중입니다. 에이전트와 사람이 어떻게 맞물리는지 보시겠어요? 에이전트 만나보기 또는 대기자 명단 등록.