HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
Abstractの概要
本論文は、エージェントハーネスの安全性に関するライフサイクル指向のベンチマークであるHarnessRiskを紹介します。これはリスクを「ハーネス設定」「機能拡張」「ランタイム操作」「状態の永続化」「アクション制御」「インシデント復旧」の6つの運用フェーズに分類します。このベンチマークには128のサンドボックス化されたワークフローケースが含まれており、無害なユーザータスクと、信頼できないアーティファクトに埋め込まれた敵対的な指示が組み合わされ、各実行はユーティリティ、攻撃成功率、永続性、および検出の観点からスコア化されます。著者らは、モックサービスを備え実際の外部副作用がない隔離された環境で、3つのハーネスと6つの言語モデルにわたる14のモデルとハーネスの設定を評価しています。この研究は、エージェントの安全性はモデル単体ではなく、モデルとハーネスの組み合わせに依存するという主張に基づいて動機付けられています。
新規性
主な新規性は、エージェントハーネスの安全性をライフサイクルに基づいて捉えている点にあります。これにより、ランタイム攻撃のみに焦点を当てるのではなく、統一されたプロトコル下で6つの異なる運用責任を評価しています。また、エージェントの軌跡全体にわたり、タスク完了、攻撃の成功、持続的な侵害、および明示的なリスク検出をそれぞれ個別に測定している点も特徴的です。
成果
評価された14の設定すべてにおいて、タスクのユーティリティは全体的に高いにもかかわらず重大な安全性の欠陥が見られ、タスクの成功が安全な動作の信頼できる指標にはならないことが示されました。ハーネスの選択は同じモデルでも結果を大きく変え、ある例では攻撃成功率が4倍以上変動しており、3つのハーネスすべてにおいて「ハーネス設定」が最もリスクの高いフェーズでした。検出は攻撃の成功と負の相関関係にありますが、検出率が高くても、安全でない行動の改善や防止が保証されるわけではありません。
論文の注目点
- HarnessRiskは、128のサンドボックス化されたマルチターン・ワークフローケースを使用し、6つのライフサイクルフェーズにわたってエージェントハーネスの安全性をベンチマークする。
- 評価では、各軌跡をユーティリティ、攻撃成功率、永続性、検出の観点からスコア化することで、ユーティリティと安全性を明確に区別している。
- 実証結果から、安全性は展開されたモデルとハーネスの設定に強く依存し、高いユーティリティが安全でない実行と共存することが多いことが示されている。
参考リンク
- arXiv: https://arxiv.org/abs/2608.17597v1
- Fugu-MT: https://fugumt.com/fugumt/paper_check/2608.17597v1
- Hugging Face Papers: https://huggingface.co/papers/2608.17597