論文の概要: Efficient Auditing of Adversarial AI Agent Behavior from Agent Traces

• arxiv url: http://arxiv.org/abs/2610.07256v1
• Date: Mon, 05 Oct 2026 18:55:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.607431
• Title: Efficient Auditing of Adversarial AI Agent Behavior from Agent Traces
• Title（参考訳）: エージェントトレースからのAIエージェント行動の効率的な監査
• Abstract要約: 本稿では,2段階のエージェントトレース監査フレームワークを提案する。 第1ステージでは、単一イベントとトレースシーケンスルールを使用して、検査のために保留中のアクションを選択する。 2つ目は、LCM監査エージェントを使用して、実行前のエージェントの前のトレースのコンテキストにおいて、選択されたアクションを検査する。 公開ベンチマークのOpenAgentSafetyでは、当社のフレームワークがラン当たり平均LLM監査数を8.15から2.33に削減し、トークン使用率を47.8kから14.6kに引き下げた。
• 参考スコア（独自算出の注目度）: 12.471423567471247
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI agents powered by large language models (LLMs) can perform complex tasks but may harm the systems they operate in, either intentionally or unintentionally. Existing agent monitoring approaches rely on rule-based guardrails or LLM-based trace auditing. However, rule-based guardrails can be bypassed through obfuscation and may miss harmful actions beyond their predefined rules, whereas applying an LLM to audit every action is costly. We present a two-stage agent trace auditing framework. The first stage uses single-event and trace-sequence rules to select pending actions for inspection; the second uses an LLM audit agent to examine each selected action in the context of the agent's preceding trace before execution. We jointly refine the gate rules and audit instructions using training data, allowing the framework to adapt to complex agent behaviors rather than relying solely on predefined rules. On the public benchmark OpenAgentSafety, our framework reduces the average number of LLM audits from 8.15 to 2.33 per run and token usage from 47.8k to 14.6k, with a detection rate of 72.8\% compared with 81.5\% when every action is audited. In two simulated multi-agent case studies, the framework flags all malicious traces while reducing audit token usage by more than 80\%.
• Abstract（参考訳）: 大規模言語モデル(LLM)を利用するAIエージェントは、複雑なタスクを実行できるが、意図的または意図的に運用するシステムを傷つける可能性がある。 既存のエージェント監視アプローチはルールベースのガードレールやLLMベースのトレース監査に依存している。 しかしながら、ルールベースのガードレールは難読化によってバイパスされ、事前に定義されたルールを超えた有害なアクションを見逃す可能性がある。 本稿では,2段階のエージェントトレース監査フレームワークを提案する。 第1段階では、単一イベントおよびトレースシーケンスルールを使用して検査のための保留動作を選択し、第2段階では、実行前のエージェントの先行トレースのコンテキストにおいて、選択された各アクションを検査するためにLLM監査エージェントを使用する。 トレーニングデータを用いてゲートルールと監査命令を共同で洗練し、事前定義されたルールにのみ依存するのではなく、複雑なエージェントの動作に適応できるようにします。 公開ベンチマークであるOpenAgentSafetyでは、1ラン当たり平均LCM監査回数を8.15から2.33に削減し、トークン使用率を47.8kから14.6kに引き下げた。 シミュレーションされた2つのマルチエージェントケーススタディでは、フレームワークはすべての悪意のあるトレースをフラグ付けし、監査トークンの使用量を80%以上削減する。

関連論文リスト

• TraceDance: An Automated System for Building Agent Behavior Benchmarks from Real-World Agent Deployment Traces [49.561879967469714]
  TraceDanceは、ユーザが指定した望ましくない振る舞いのデプロイメントトレースからターゲットベンチマークを構築するエージェントシステムである。 効率的な構築のために、Anchor-and-Confirmはプログラム可能な検索と、Flash大言語モデルによる候補レベルの確認を組み合わせる。 コーディングと一般的なツールの実験では、252,557のセッションで描画され、ビルドターゲット要求の95.3%を満たす4,125のインスタンスで107のベンチマークを生成する。
  論文  参考訳（メタデータ） (2026-09-27T06:58:39Z)
• Symbolic Temporal Supervision of LLM Agents Using Contracts [1.7188280334580195]
  本稿では,大規模言語モデル(LLM)エージェントのシンボリック時間監視のための契約ベースのフレームワークであるContrAgentを紹介する。 ContrAgentは、エージェントの振舞いを一連のツールコールとして捉え、それを固定されたチェック可能な述語セット上のトレースとしてフォーマル化する。 その後、有限トレース上の線形時間論理における仮定保証契約(sum-guarantee contract)を用いて必要な振る舞いを特定する。
  論文  参考訳（メタデータ） (2026-09-16T05:05:35Z)
• ClawArena-Team: Benchmarking Subagent Orchestration and Dynamic Workflows in Language-Model Agents [61.184954205350984]
  ClawArena-Teamは、41のマルチターン、マルチモーダル、マルチエージェントシナリオのベンチマークである。 全体的なスコア -- Subagent-Management Score (SMS) -- は、タスクの正しさを最小限のプライマリとモダリティのルーティング因子によって乗算する。
  論文  参考訳（メタデータ） (2026-06-30T06:06:08Z)
• Local LLM Agents as Vulnerable Runtimes:A Source-Code Audit of the Agent Runtime Layer [19.371045551006304]
  OpenClawやNanobotといったローカルLLMエージェントはエンドユーザマシン上で動作し、ホストリソースで動作します。 CLAWAUDITは、ローカルエージェントランタイムにおける脆弱性の暴露を測定するための静的監査フレームワークである。 事前のライブコード監査では、これらのリコール指向のルールは手作業によるトリアージを必要とし、本番デプロイメント前にセマンティックフィルタリングを動機付けている。
  論文  参考訳（メタデータ） (2026-06-19T03:40:00Z)
• A Layered Security Framework Against Prompt Injection in RAG-Based Chatbots [1.948261185683419]
  推論パイプライン全体を通して直接および間接的なインジェクションをインターセプトする3層フレームワークを提案する。 GPT-4o、Llama 3、Mistral 7Bの5,080サンプルの評価は、このフレームワークが攻撃成功率(ASR)を71.4%から11.3%に下げていることを示している。
  論文  参考訳（メタデータ） (2026-06-17T23:59:57Z)
• RewardHackingAgents: Benchmarking Evaluation Integrity for LLM ML-Engineering Agents [0.9821874476902969]
  LLMエージェントは、単一のスカラーテストメトリクスで成功を判断するエンドツーエンドのMLエンジニアリングタスクをますます実行します。 エージェントは、モデルを改善するのではなく、評価パイプラインを妥協することで、報告されたスコアを増やすことができる。 ワークスペースベースのベンチマークであるRewardHackingAgentsを導入する。
  論文  参考訳（メタデータ） (2026-03-11T22:06:44Z)
• DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
  DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。 ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。 DoVerは失敗試験の18～28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30～60%を検証または否定する。
  論文  参考訳（メタデータ） (2025-12-07T09:23:48Z)
• GuardAgent: Safeguard LLM Agents by a Guard Agent via Knowledge-Enabled Reasoning [79.07152553060601]
  安全ガード要求を満たすか否かを動的に確認し,目標エージェントを保護する最初のガードレールエージェントであるガードアジェントを提案する。 特にGuardAgentは、まず安全ガードの要求を分析してタスクプランを生成し、それからその計画をガードレールコードにマップして実行します。 GuardAgentは、それぞれ98%と83%のガードレール精度を持つ2つのベンチマークにおいて、異なる種類のエージェントに対する違反行為を効果的に抑制することを示した。
  論文  参考訳（メタデータ） (2024-06-13T14:49:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。