菜单

Star on GitHub · 3.2k

Human-on-the-loop

智能体探索、探测并验证;人承担带有问责的决定。这种搭配不是智能体渗透测试的局限——正是它让这项工作得以安全地对真实系统运行。下面讲清这个模型,以及人为何留在其中。

它意味着什么

Human-on-the-loop 描述的是工作如何在智能体与人之间划分。智能体承担广度——探索攻击面、变异参数、重放流程、验证什么可被利用——而研究者在执行继续前,做出需要人类问责的决定。

智能体运行,人来决定:human-on-the-loop

值得与两个邻居区分开。human-in-the-loop 把人放在每一步的路径上,这无法扩展。完全自治 则彻底移除人,这在要紧的系统上并不安全。on-the-loop 介于两者之间:智能体持续运行,而人出现在需要人的决定处,而非每一次按键。

自动化为何停滞

在其历史的大部分时间里,渗透测试由个体研究者定义。那些难缠的发现——埋在三层工作流之下的 IDOR、只有在特定请求序列之后才浮现的认证绕过、需要精确时序的竞态条件——来自那些推理应用如何行为、而不只是它接受何种输入的人。

多数工具把自动化当作已知技术的倍增器:给它一个目标,它跑完检查,交回一份报告。这对面上的覆盖不错——目录爆破、已知 CVE 检查、头部分析——对真正要紧的工作却无用。扫描器不就信任边界或跨流程的链式行为推理;它们只找被告知去找的东西。模型从未改变:研究者做全部推理,工具只执行指令。

一种不同的分工

智能体不是营销更好的扫描器。要紧的区别在于,它像研究者那样与应用互动——探索它、观察其响应、并据所见调整。它能重放已认证流程、系统地变异输入、在各端点间测试变体,并在部署后应用发生变化时,自行重访那些路径。

关键是,它能验证发现,而不只是标记,并保留完整的执行轨迹:哪些端点被触及、输入如何被改动、何种条件让信号浮现。于是研究者的工作不再是“重做智能体的工作以确认它”。证据已在那里供检视。他的工作变成决定:哪些路径值得追查,哪些动作获准继续。

人为何让它可落地

把人留在回路里不是怀旧,而是完全自治的攻击性安全无法安全做到之事。无监督执行的工具制造具体风险:超出交战规则的动作、无法系于清晰决定的发现、在被审查处站不住脚的审计轨迹。在生产系统上,“是智能体干的”不是可接受的答案。

智能体止于红线:它把决定呈上,由人来做

因此 human-on-the-loop 不是模型的弱点,而是让你根本能运行它的东西。当智能体触到一道护栏——为保护稳定、留在范围内,或满足合规要求——它把决定呈给一个人,由人决定下一步。这种问责是刻意的。它正是一个组织能真正信赖的系统与不能信赖者之间的分界。

护栏更精准,而非更少

随着智能体改进、边界在真实使用中被打磨,需要人的时刻变得更少、更精准。这是诚实的走向,也值得谨慎描述:护栏不会消失。它们变得更好。中断更少,是因为智能体学会了真正的决定在哪里,而不是因为决定不再要紧。

还有一种累积效应。随着研究者引导调查并确认何为重要,持续的覆盖开始反映这份累积的判断,而非一份按计划运行的通用剧本。人并非事后审阅产出;他在塑造测试走向何方。

对研究者意味着什么

渗透测试者的角色不会消失,而是在转变。研究者成为设定智能体能走多远的问责层:不指挥每个动作,而是解锁那些需要先有人类决定的动作。更少时间重新发现同一片面;更多花在判断、验证,以及必须由人承担的决定上。

这就是全部主张,而且谦逊。对任何愿意如此工作的人,这不是手艺的失去,而是手艺所在之处的转移——从机器擅长的重复广度,转向机器不应承担的推理与问责。

CyberStrike 是一个由 AI 增强的渗透测试平台,目前处于抢先体验阶段。想看看智能体与人如何契合吗?认识这些智能体或加入等候名单。