Human-in-the-Loop

Problem

Ein KI-Agent kann eine Rückerstattung von 50 € automatisch vorbereiten. Sollte sie auch eine Überweisung von 5 Millionen Euro unabhängig genehmigen? Einige Aktionen haben Folgen, die für die probabilistische Automatisierung allein zu wichtig sind.

Lösung — Menschliche Genehmigung

Die Automatisierung bereitet die Aktion vor; an festgelegten Grenzen ist eine menschliche Freigabe erforderlich.

Agent → schlägt Aktion vor
             ↓
Mensch
         ↙     ↘
Genehmigen   Ablehnen

Kerngedanke: Human-in-the-Loop hält folgenreiche Entscheidungen unter menschlicher Kontrolle und automatisiert die begleitende Arbeit.