Human-on-the-Loop

Was es bedeutet

Human-on-the-Loop beschreibt, wie die Arbeit zwischen einem Agenten und einer Person aufgeteilt ist. Der Agent liefert die Breite — die Angriffsfläche erkunden, Parameter mutieren, Abläufe erneut abspielen, Ausnutzbares validieren — und ein Forscher trifft die Entscheidungen, die menschliche Rechenschaft verlangen, bevor die Ausführung weitergeht.

Es lohnt die Abgrenzung von zwei Nachbarn. Human-in-the-Loop stellt eine Person in den Pfad jedes Schritts, was nicht skaliert. Volle Autonomie entfernt die Person ganz, was auf Systemen, die zählen, nicht sicher ist. On-the-Loop liegt dazwischen: Der Agent läuft fortlaufend, und der Mensch ist bei den Entscheidungen zugegen, die einen Menschen brauchen — nicht bei jedem Tastendruck.

Warum Automatisierung stockte

Den größten Teil seiner Geschichte war Pentesting von einzelnen Forschern geprägt. Die schweren Funde — die IDOR, drei Workflows tief vergraben, der Auth-Bypass, der erst nach einer bestimmten Anfragefolge auftaucht, die Race Condition, die präzises Timing braucht — kommen von Menschen, die darüber schließen, wie sich eine Anwendung verhält, nicht nur, welche Eingaben sie annimmt.

Die meisten Werkzeuge behandelten Automatisierung als Multiplikator bekannter Techniken: Ziel hineingeben, Prüfungen laufen lassen, Bericht zurück. Gut für Flächenabdeckung — Verzeichnis-Brute-Force, bekannte CVE-Prüfungen, Header-Analyse — und nutzlos für die Arbeit, die zählt. Scanner schließen nicht über Vertrauensgrenzen oder verkettetes Verhalten über Workflows; sie finden, was man ihnen sagt. Das Modell änderte sich nie: Der Forscher leistete das ganze Schließen, und das Werkzeug führte nur Anweisungen aus.

Eine andere Arbeitsteilung

Ein Agent ist kein Scanner mit besserem Marketing. Der entscheidende Unterschied ist, dass er mit einer Anwendung umgeht wie ein Forscher — sie erkundet, beobachtet, wie sie antwortet, und sich an dem anpasst, was er findet. Er kann authentifizierte Abläufe erneut abspielen, Eingaben systematisch mutieren und Variationen über Endpunkte testen und, wenn sich die Anwendung nach einem Deployment ändert, diese Pfade von selbst erneut aufsuchen.

Entscheidend: Er kann Funde validieren, nicht nur melden, und er behält die vollständige Ausführungsspur: welche Endpunkte getroffen wurden, wie Eingaben verändert wurden, welche Bedingung ein Signal auftauchen ließ. So hört die Aufgabe des Forschers auf, „die Arbeit des Agenten zur Bestätigung zu wiederholen“. Der Beleg liegt bereits zur Prüfung vor. Seine Aufgabe werden die Entscheidungen: welche Pfade sich lohnen und welche Aktionen fortfahren dürfen.

Warum der Mensch es einsetzbar macht

Eine Person in der Schleife zu halten ist keine Nostalgie, sondern das, was vollautonome Offensive Security nicht sicher kann. Ein Werkzeug, das ohne Aufsicht ausführt, schafft konkretes Risiko: Aktionen, die die Rules of Engagement überschreiten, Funde, die sich keiner klaren Entscheidung zuordnen lassen, Audit-Spuren, die dort nicht standhalten, wo man sie prüft. Auf einem Produktionssystem ist „der Agent hat es getan“ keine akzeptable Antwort.

Der Human-on-the-Loop ist also keine Schwäche des Modells, sondern das, was es überhaupt betreibbar macht. Erreicht ein Agent eine Leitplanke — um Stabilität zu schützen, im Umfang zu bleiben oder eine Compliance-Anforderung zu erfüllen —, legt er die Entscheidung einer Person vor, und die Person entscheidet, was als Nächstes geschieht. Diese Rechenschaft ist Absicht. Sie ist die Linie zwischen einem System, dem eine Organisation wirklich trauen kann, und einem, dem nicht.

Schärfere Leitplanken, nicht weniger

Während die Agenten besser werden und die Grenzen sich im Gebrauch verfeinern, werden die Momente, die einen Menschen brauchen, seltener und präziser. Das ist die ehrliche Entwicklung, und man sollte sie sorgfältig beschreiben: Die Leitplanken verschwinden nicht. Sie werden besser. Weniger Unterbrechungen, weil der Agent gelernt hat, wo die echten Entscheidungen liegen — nicht, weil die Entscheidungen aufgehört hätten zu zählen.

Es gibt auch einen kumulierenden Effekt. Während der Forscher die Untersuchung lenkt und bestätigt, was bedeutsam ist, beginnt die fortlaufende Abdeckung, dieses angesammelte Urteil widerzuspiegeln, statt eines generischen Playbooks nach Zeitplan. Der Mensch prüft die Ausgabe nicht im Nachhinein; er formt, wohin das Testen geht.

Was es für den Forscher bedeutet

Die Rolle des Pentesters verschwindet nicht, sie wandelt sich. Forscher werden zur Rechenschaftsschicht, die festlegt, wie weit die Agenten gehen dürfen: nicht jede Aktion lenken, sondern jene freigeben, die zuerst eine menschliche Entscheidung brauchen. Weniger Zeit, dieselbe Fläche neu zu entdecken; mehr für Urteil, Validierung und die Entscheidungen, die eine Person verantworten muss.

Das ist der ganze Anspruch, und er ist bescheiden. Für jeden, der so arbeiten will, ist es kein Verlust des Handwerks, sondern eine Verschiebung, wo das Handwerk liegt — weg von der repetitiven Breite, die eine Maschine gut beherrscht, hin zum Schließen und zur Verantwortung, die eine Maschine nicht übernehmen sollte.

CyberStrike ist eine KI-gestützte Penetrationstest-Plattform, derzeit im Early Access. Sehen, wie Agenten und Mensch zusammenpassen? Die Agenten kennenlernen oder der Warteliste beitreten.