何を意味するか

Human-on-the-loop は、仕事がエージェントと人の間でどう分けられるかを表します。エージェントが広さを担い——攻撃面を探索し、パラメータを変異させ、フローを再送し、悪用可能なものを検証し——研究者が、実行がさらに進む前に、人の責任を要する決定を下します。

二つの隣人と区別する価値があります。human-in-the-loop はすべての段階の経路に人を置き、スケールしません。完全自律 は人を丸ごと外し、重要なシステムでは安全ではありません。on-the-loop はその間です。エージェントは継続して走り、人は人を要する決定に立ち会います——一打鍵ごとにではなく。

自動化が停滞した理由

その歴史の大半で、ペンテストは個々の研究者によって定義されてきました。難しい発見——三つのワークフローの奥に埋もれた IDOR、特定のリクエスト列の後にしか現れない認証バイパス、精密なタイミングを要する競合——は、アプリが何の入力を受けるかだけでなく、どう振る舞うかを推論する人から来ます。

多くのツールは自動化を既知手法の倍増器として扱いました。標的を与え、検査を走らせ、報告書を返す。面の網羅には良い——ディレクトリ総当たり、既知 CVE 検査、ヘッダ解析——が、重要な仕事には無用です。スキャナは信頼境界やワークフロー横断の連鎖挙動を推論しません。言われたものを見つけるだけです。モデルは変わりませんでした。研究者が推論のすべてを担い、ツールは指示を実行するだけでした。

異なる役割分担

エージェントはマーケティングのうまいスキャナではありません。重要な違いは、研究者のようにアプリと関わることです——探索し、どう応答するか観察し、見つけたものに応じて調整する。認証済みフローを再送し、入力を体系的に変異させ、エンドポイント間で変種を試し、デプロイ後にアプリが変われば自らその経路を再訪します。

肝心なのは、発見を単に印するのではなく検証でき、完全な実行トレースを保つことです。どのエンドポイントに当たったか、入力をどう変えたか、どの条件で信号が現れたか。こうして研究者の仕事は「確認のためエージェントの作業をやり直す」ではなくなります。証拠はすでに検分できる形であります。その仕事は決定になります——どの経路を追う価値があるか、どの行動が続行を許されるか。

なぜ人が運用可能にするのか

人をループに留めるのは郷愁ではなく、完全自律の攻撃的セキュリティが安全にはできないことです。監督なく実行するツールは具体的なリスクを生みます。交戦規則を超える行動、明確な決定に結び付けられない発見、精査される場で持ちこたえない監査証跡。本番システムで「エージェントがやった」は受け入れられる答えではありません。

ゆえに human-on-the-loop はモデルの弱点ではなく、そもそも運用を可能にするものです。エージェントがガードレールに達したとき——安定を守るため、範囲に留まるため、準拠要件を満たすため——決定を人に差し出し、人が次を決めます。この責任は意図的です。組織が本当に信頼できる系とできない系の境界線です。

ガードレールは減るのではなく精密に

エージェントが上達し、境界が実運用で研がれるにつれ、人を要する瞬間はより少なく、より精密になります。これは誠実な軌道で、言い方には注意が要ります。ガードレールは消えません。良くなります。中断が減るのは、エージェントが本当の決定の在り処を学んだからで、決定が重要でなくなったからではありません。

累積効果もあります。研究者が調査を導き、意味あるものを確認するにつれ、継続的な網羅はその蓄積された判断を反映し始めます——スケジュールで回る汎用プレイブックではなく。人は出力を事後にレビューしているのではありません。テストの向かう先を形づくっています。

研究者にとっての意味

ペンテスターの役割は消えず、変わります。研究者はエージェントがどこまで行けるかを定める責任層になります——あらゆる行動を指揮するのではなく、まず人の決定を要するものを解錠する。同じ面を再発見する時間は減り、判断・検証、そして人が引き受けねばならない決定に多くが割かれます。

これが主張のすべてで、控えめです。そう働くことをいとわない人にとって、これは技の喪失ではなく、技が注がれる場所の移動です——機械が得意とする反復的な広さから離れ、機械が担うべきでない推論と責任へ。

CyberStrike は AI 拡張のペネトレーションテスト・プラットフォームで、現在アーリーアクセス中です。エージェントと人がどう噛み合うかをご覧になりますか？エージェントを知るか、ウェイトリストに参加してください。