HazardAuditor: From Executable Threats to Safer Computer-Use Agents
Abstractの概要
HazardAuditorは、静的なプロンプトや応答ではなく実行時の振る舞いに着目した、コンピュータ利用エージェント向けの実行基盤型安全性フレームワークです。そのインフラストラクチャは制御された環境下で異種エージェントを実行し、それらの相互作用を正規化されたイベント表現に変換することで、単一のガードモデルがClaude Code、Codex、Hermes、OpenClawによって生成されたトレースから学習できるようにします。また本論文では、長大な推論根拠がトークンレベルの更新を支配することを防ぎ、安全性判定を最適化の有効な単位として扱う生成型ガードモデル向けの事後学習目的関数であるGuard Policy Optimization（GuardPO）を提案しています。構築されたシステムは監査可能な分析と二値の判定を出力し、複数のエージェント安全性ベンチマークおよびエージェントバックエンドで評価されています。
新規性
主な新規性は、フレームワーク横断的な実行可能安全性監視と、生成型ガード専用の最適化手法を組み合わせた点にあります。特にHazardAuditorは、異種の実行トレースを共有スキーマへと正規化し、決定レベルの安全性監視とトークンレベルの訓練目的関数との不一致を是正するGuardPOを導入しています。
成果
バランス調整されたCUA-Exec診断において、HazardAuditorは最も強力な既存ガードと比較して精度を最大16.5ポイント向上させ、評価された4つすべてのエージェントフレームワークにわたり報告された中で最良の指標を達成しました。AgentHazardや追加の外部ベンチマークでも従来の軌跡学習済みガードと同等以上の結果を示し、アブレーション分析では実行ベースのデータとGuardPOの双方が性能向上に寄与し、ある報告設定ではGuardPOによりエージェント横断トレースの精度がさらに10.4ポイント向上することが示されています。
論文の注目点
- HazardAuditorは、エージェントと環境の相互作用を収集し、異種ログをガード学習用の正規化されたイベント表現にマッピングする実行可能安全性インフラを構築する。
- GuardPOは生成型安全ガード向けに設計されており、可変長の推論根拠が最終的な安全性判定に対して最適化を過度に支配しないよう応答レベルの正規化を用いる。
- 評価されたシステムは、複数のCUA-Execサブセットにおける最良結果やAgentHazard等の外部ベンチマークでの優れた性能を含め、強力なエージェント間およびベンチマーク間の転移性を示す。
参考リンク
- arXiv: https://arxiv.org/abs/2609.15134v1
- Fugu-MT: https://fugumt.com/fugumt/paper_check/2609.15134v1
- Hugging Face Papers: https://huggingface.co/papers/2609.15134
- Project: https://yunhao-feng.github.io/HazardAuditor/