論文の概要: X-AgentRed: Red-Teaming Personal Agents in Evolving Multi-Service Ecosystems

• arxiv url: http://arxiv.org/abs/2610.13886v1
• Date: Fri, 09 Oct 2026 17:34:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.701072
• Title: X-AgentRed: Red-Teaming Personal Agents in Evolving Multi-Service Ecosystems
• Title（参考訳）: X-AgentRed: マルチサービスエコシステムの進化における個人エージェントの再編成
• Abstract要約: X-AgentRedは、ツール依存のグラフを通じて有害なツールコールパスを検出する、自己進化型赤チームフレームワークである。 X-AgentRedは、STACの有害パスレート$1.77タイムを達成し、より多様なツールセットを探索し、平均的なツールカバレッジ$2.99タイムを得る。
• 参考スコア（独自算出の注目度）: 27.428487370174366
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Personal agents increasingly connect to services across the web and applications by using tools. As the effects of their actions accumulate and interact across services, unintended or harmful outcomes can arise when agents fulfill benign user requests. Proactively identifying these compositional failures requires systematically exploring diverse cross-service paths. Existing red-teaming methods often simply prompt LLMs to identify potentially harmful paths from task and environment descriptions or decompose harmful objectives specified by humans or LLMs into seemingly benign action combinations. However, generation is biased toward patterns learned during training, potentially favoring familiar tool combinations and leaving novel cross-service interactions underexplored. To address this, we propose X-AgentRed, a self-evolving red-teaming framework that discovers harmful tool call paths through a graph of tool dependencies and expands and refines them using execution feedback. By analyzing each tool's effects, potential harms, and preconditions for execution, the red-teaming agent constructs a directed graph that captures how one tool's effects can satisfy another's execution preconditions. Recipes sampled from this graph are instantiated as realistic scenarios in which agents can produce harmful outcomes. Execution feedback enables self-improvement by diversifying paths that produce harm through tool substitution and refining preconditions at blocked steps in unsuccessful paths to enable further execution. Across four frontier agentic models, X-AgentRed achieves $1.77\times$ the harmful path rate of STAC and explores a more diverse set of tools, yielding $2.99\times$ the tool coverage on average.
• Abstract（参考訳）: パーソナルエージェントは、ツールを使用することで、ますますWebとアプリケーション間のサービスに接続するようになっている。 アクションの効果がサービス間で蓄積され、相互作用するので、エージェントが良心的なユーザリクエストを満たすと、意図しないあるいは有害な結果が発生する可能性がある。 これらの構成上の障害を積極的に識別するには、さまざまなクロスサービスパスを体系的に探索する必要がある。 既存のレッドチーム方式は、単にLSMに、タスクや環境の記述から潜在的に有害な経路を特定するように促したり、人間やLSMが指定した有害な目的を、一見した行動の組み合わせに分解するだけである。 しかし、生成はトレーニング中に学んだパターンに偏りがあり、慣れ親しんだツールの組み合わせを好んでおり、新しいクロスサービスインタラクションを未調査のまま残している可能性がある。 これを解決するために、ツール依存のグラフを通じて有害なツールコールパスを発見し、実行フィードバックを使用してそれらを拡張および洗練する自己進化型レッドチームフレームワークであるX-AgentRedを提案する。 各ツールの効果、潜在的な害、実行の前提条件を分析することで、レッドチームエージェントは、あるツールの効果が他のツールの実行前提条件をどのように満たすかをキャプチャする有向グラフを構築する。 このグラフからサンプリングされたレシピは、エージェントが有害な結果を生み出す現実的なシナリオとしてインスタンス化される。 実行フィードバックは、ツール置換によって害をもたらす経路を多様化し、障害のある経路のブロックステップで事前条件を精製することで、さらなる実行を可能にする。 4つのフロンティアエージェントモデル全体で、X-AgentRedはSTACの有害パスレート$1.77\timesを達成し、より多様なツールセットを探索し、平均で2.99\times$のツールカバレッジを得る。

関連論文リスト

• ASPIRE: Agentic Safety & Prompt Injection Red-teaming Engine [51.17686708121503]
  LLMエージェントは信頼できないコンテンツを検索し、ツールを通して行動し、間接的なインジェクションリスクを発生させる。 我々は,オープンな行動レベルの脆弱性発見のためのエージェントセーフティ&プロンプトインジェクション・レッドチームエンジンであるASPIREを紹介する。
  論文  参考訳（メタデータ） (2026-10-06T18:18:40Z)
• RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution [41.956444145058335]
  我々は,クロスケース攻撃軌跡を簡潔で可読な攻撃技術に蒸留するブラックボックスレッドピーピングエージェントであるRedEvoAgentを提案する。 実験の結果、RedEvoAgentは固定ベースラインとエージェントベースラインを上回り、ツール効率を改善し、アタッカーモデルとターゲット実行ハーネス間で転送することがわかった。
  論文  参考訳（メタデータ） (2026-08-27T17:55:33Z)
• When Agents Do Not Stop: Uncovering Infinite Agentic Loops in LLM Agents [7.986500985812644]
  私たちはこの問題をInfinite Agentic Loops (IALs)と呼んでいる。 IALはエージェントロジック、フレームワークセマンティクス、実行時の観察、終了メカニズム間の相互作用から生まれる。 本研究では,実世界のLLMエージェントプロジェクトにおけるALF検出のための静的解析ツールであるIAL-Scanを提案する。
  論文  参考訳（メタデータ） (2026-07-02T03:14:27Z)
• Helpful to a Fault: Measuring Illicit Assistance in Multi-Turn, Multilingual LLM Agents [35.76774274440008]
  STING(Sequential Testing of Illicit N-step Goal execution)は、自動化された再チームのフレームワークである。 良質なペルソナに接地されたステップバイステップの不正計画を構築し、適応的なフォローアップでターゲットエージェントを反復的にプローブする。 本稿では,マルチターン・リピートをタイム・ツー・ファースト・ジェイルブレイク確率変数としてモデル化する分析フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-18T10:31:19Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)
• Learning to Use Tools via Cooperative and Interactive Agents [58.77710337157665]
  ツール学習は、外部ツールを使用してユーティリティを拡張するエージェントとして、大きな言語モデル(LLM)を促進する。 ツール選択,ツール実行,アクションキャリブレーションの3つの特別なエージェントを個別にコーディネートする,協調型対話型エージェントフレームワークであるConAgentsを提案する。 3つのデータセットに対する実験により、LLMは、ConAgentsを装備した場合、大幅に改善されたベースラインよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2024-03-05T15:08:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。