論文の概要: Misleading the Planner through Deceptive Resumes: Registration-Time Injection in Centralized Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2609.15516v1
• Date: Mon, 14 Sep 2026 13:06:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:06.403373
• Title: Misleading the Planner through Deceptive Resumes: Registration-Time Injection in Centralized Multi-Agent Systems
• Title（参考訳）: 認知的仮定によるプランナーのミスリーディング:集中型マルチエージェントシステムにおける登録時間注入
• Abstract要約: 中央マルチエージェントシステムは、新しいワーカーエージェントを登録し、その説明がプランナーによって読み取られ、どのようにタスクが分解されるかを決定する。 サードパーティの説明はシステム外で作成されるが、プランナーによって信頼され、登録時インジェクションチャンネルが作成される。 DescGuardは、記述がプランナーに届く前に、作業員がスコープしたインタフェース情報のみを保持する登録時間ディフェンスである。
• 参考スコア（独自算出の注目度）: 26.868825332281244
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A centralized LLM-based multi-agent system (MAS) extends its functionality by registering new worker agents, whose descriptions are read by the planner to decide how a task is decomposed, which worker executes each subtask, and what each subtask requires. Third-party descriptions are authored outside the system but trusted by the planner, creating a registration-time injection channel. The payload is planted before any user instruction arrives, targets the planner and propagates through the generated plan to benign workers, taking effect even when the crafted worker is never assigned a subtask or invoked. We define four worker-description fields: functionality, input specification, output specification, and usage constraints. Among 32,000 descriptions from three public agent marketplaces, most omit input specifications and usage constraints, while at least 23.35% contain content outside these fields. We construct eight description-manipulation attack strategies targeting task decomposition, capability grounding, and subtask specification, and evaluate them on GAIA. In the most severe cases, a single manipulated description reduces task success from 84.31% to 37.25%, or increases token consumption or execution time by over 111%, while the user objective remains unchanged and workers faithfully execute the resulting plan. These effects persist across two MAS implementations, six planner LLMs, four LLM evaluators, and the real-world descriptions from three marketplaces. We further propose DescGuard, a registration-time defense that retains only worker-scoped interface information before descriptions reach the planner. DescGuard restores the targeted planning metrics and downstream performance toward their baseline levels without modifying worker implementations, the planner, or the orchestration logic, and composes with existing isolation, permission-control, and runtime mechanisms.
• Abstract（参考訳）: 集中型LDMベースのマルチエージェントシステム(MAS)は、新しいワーカーエージェントを登録して機能を拡張し、その記述をプランナーが読み取ってタスクの分解方法、各サブタスクの実行方法、各サブタスクに必要なものを決定する。 サードパーティの説明はシステム外で作成されるが、プランナーによって信頼され、登録時インジェクションチャンネルが作成される。 ペイロードは、ユーザの指示が到着する前に植え付けられ、プランナーをターゲットにし、生成されたプランを通じて労働者を良心させ、職人がサブタスクを割り当てられたり呼び出されたりしない場合でも効果を発揮する。 機能、入力仕様、出力仕様、使用制約の4つのWorker-descriptionフィールドを定義します。 3つの公開エージェントマーケットプレースからの32,000の記載のうち、ほとんどの入力仕様と使用制限は省略され、少なくとも23.35%はこれらの分野以外のコンテンツを含んでいる。 本研究では,タスク分解,機能基盤,サブタスク仕様を対象とした8つの記述操作攻撃戦略を構築し,それらをGAIA上で評価する。 最も深刻なケースでは、単一の操作された記述がタスクの成功を84.31%から37.25%に減少させるか、トークン消費や実行時間を111%以上増加させる。 これらの効果は、2つのMAS実装、6つのプランナーLSM、4つのLCM評価器、および3つのマーケットプレースからの実際の記述に持続する。 さらに、記述がプランナーに到達する前に、ワーカスコープによるインタフェース情報のみを保持する登録時ディフェンスであるDescGuardを提案する。 DescGuardは、ワーカ実装やプランナ、オーケストレーションロジックを変更することなく、ターゲットとする計画メトリクスとダウンストリームのパフォーマンスをベースラインレベルに復元し、既存の分離、パーミッションコントロール、ランタイムメカニズムで構成する。

関連論文リスト

• EmbodiedSkills: A Unified Framework for Orchestrating, Training, and Deploying VLA Agents [56.25120535601186]
  視覚言語アクション(VLA)モデルは、視覚観察と言語指示を直接ロボットアクションにマッピングする。 本稿では,各スキル決定を実行提案として扱うフレームワークであるEmbodiedSkillsを提案する。 共有可能スキルインタフェースは、ハイレベルスキル選択、バウンドローレベルVLA実行、ポストアクション検証を接続する。
  論文  参考訳（メタデータ） (2026-09-01T14:14:47Z)
• Eluna: An Agentic LLM System for Automating Warehouse Operations with Reasoning and Task Execution [32.27116355787843]
  信頼性の高いSOP実行のための実運用型エージェントシステムであるElunaを提案する。 Elunaは、プログレッシブな開示を伴う非循環グラフとしてSOPをエンコードし、独立したタスクを並列サブエージェントに委譲する。 13タスクのベンチマークと2つのプロダクションアプリケーションでは、微調整されたモデルが教師と一致しているか、あるいは超えるかのどちらかで、オフ・ザ・シェルフのベースラインを全て破り、チケット処理アプリケーションに関して94%のエキスパート合意に達した。
  論文  参考訳（メタデータ） (2026-07-09T21:51:39Z)
• Semantic Intent Fragmentation: A Single-Shot Compositional Attack on Multi-Agent AI Pipelines [0.9772267314090434]
  LLMオーケストレーションシステムに対する攻撃クラスとして,SIF(Semantic Intent Fragmentation)を導入する。 SIFは、バルクスコープ、サイレントデータ抽出、組み込みトリガデプロイメント、擬似識別アグリゲーションの4つのメカニズムを利用する。 GPT-20Bオーケストレータは71%のケースでポリシー違反の計画を作成し、各サブタスクは良心的に見える。
  論文  参考訳（メタデータ） (2026-04-08T18:19:03Z)
• SafePilot: A Framework for Assuring LLM-enabled Cyber-Physical Systems [2.2566909388480743]
  大規模言語モデル(LLM)は、最近、様々なサイバー物理システムに統合され始めている。 LLMは"ハロシン化"(hallucination)を生成します。 属性ベースおよび時間仕様に従ってCPSのエンドツーエンド保証を提供する新しい階層型ニューロシンボリックフレームワークであるSafePilotを提案する。
  論文  参考訳（メタデータ） (2026-03-23T03:31:51Z)
• Stay Unique, Stay Efficient: Preserving Model Personality in Multi-Task Merging [62.61159948488935]
  Decomposition, Thresholding, and Scaling (DTS)は近似ベースのパーソナライズされたマージフレームワークである。 DTSは、最小のストレージオーバーヘッドでタスク固有の情報を保存する。 タスク特性のセマンティックな類似性に基づいて、DTSをデータフリーでタスク固有の情報を融合する変種で拡張する。
  論文  参考訳（メタデータ） (2025-12-01T09:47:17Z)
• Anemoi: A Semi-Centralized Multi-agent System Based on Agent-to-Agent Communication MCP server from Coral Protocol [0.7288110873705294]
  Anemoi は、Coral Protocol の Agent-to-Agent (A2A) 通信 MCP サーバ上に構築された、半集中型の MAS である。 従来のデザインとは異なり、Anemoiは構造的かつ直接的なエージェント間コラボレーションを可能にし、すべてのエージェントが進捗を監視し、結果を評価し、ボトルネックを特定し、リアルタイムに改善を提案する。
  論文  参考訳（メタデータ） (2025-08-23T15:45:10Z)
• MapAgent: Trajectory-Constructed Memory-Augmented Planning for Mobile Task Automation [5.433829353194621]
  MapAgentは、過去のトラジェクトリから構築されたメモリを活用して、現在のタスク計画を強化するフレームワークである。 本稿では,メモリデータベースから関連ページを類似性に基づいて検索するタスクプランニング手法を提案する。 実世界のシナリオにおける結果は、MapAgentが既存のメソッドよりも優れたパフォーマンスを実現していることを示している。
  論文  参考訳（メタデータ） (2025-07-29T16:05:32Z)
• Hindsight Planner: A Closed-Loop Few-Shot Planner for Embodied Instruction Following [62.10809033451526]
  本研究は,Large Language Models (LLM) を用いた Embodied Instruction following (EIF) タスクプランナの構築に焦点をあてる。 我々は,このタスクを部分観測可能なマルコフ決定プロセス (POMDP) として構成し,数発の仮定で頑健なプランナーの開発を目指す。 ALFREDデータセットに対する我々の実験は、プランナーが数ショットの仮定で競争性能を達成することを示す。
  論文  参考訳（メタデータ） (2024-12-27T10:05:45Z)
• Octo-planner: On-device Language Model for Planner-Action Agents [19.627197141903505]
  Planner-Actionフレームワークは、計画とアクションの実行を2つの異なるコンポーネントに分離する。 Agentはまず、タスクをサブステップのシーケンスに分解してユーザクエリに応答し、アクションエージェントによって実行される。 我々は、文脈内学習の代わりにモデル微調整を採用し、計算コストとエネルギー消費を削減した。
  論文  参考訳（メタデータ） (2024-06-26T05:40:10Z)
• GuardAgent: Safeguard LLM Agents by a Guard Agent via Knowledge-Enabled Reasoning [79.07152553060601]
  安全ガード要求を満たすか否かを動的に確認し,目標エージェントを保護する最初のガードレールエージェントであるガードアジェントを提案する。 特にGuardAgentは、まず安全ガードの要求を分析してタスクプランを生成し、それからその計画をガードレールコードにマップして実行します。 GuardAgentは、それぞれ98%と83%のガードレール精度を持つ2つのベンチマークにおいて、異なる種類のエージェントに対する違反行為を効果的に抑制することを示した。
  論文  参考訳（メタデータ） (2024-06-13T14:49:26Z)
• ADaPT: As-Needed Decomposition and Planning with Language Models [131.063805299796]
  As-Needed Decomposition and Planning for Complex Tasks (ADaPT)について紹介する。 ADaPTは、Large Language Modelsがそれらを実行できない場合、複雑なサブタスクを明示的に計画し、分解する。 以上の結果から,ADaPTは強いベースラインを確立した。
  論文  参考訳（メタデータ） (2023-11-08T17:59:15Z)
• AdaPlanner: Adaptive Planning from Feedback with Language Models [56.367020818139665]
  大規模言語モデル(LLM)は、最近、シーケンシャルな意思決定タスクの自律的エージェントとして機能する可能性を実証している。 本研究では,LLMエージェントが環境フィードバックに応じて自己生成計画を適応的に改善することのできるクローズドループアプローチであるAdaPlannerを提案する。 幻覚を緩和するために,様々なタスク,環境,エージェント機能にまたがる計画生成を容易にするコードスタイルのLCMプロンプト構造を開発した。
  論文  参考訳（メタデータ） (2023-05-26T05:52:27Z)
• Plan, Eliminate, and Track -- Language Models are Good Teachers for Embodied Agents [99.17668730578586]
  事前訓練された大言語モデル(LLM)は、世界に関する手続き的な知識をキャプチャする。 Plan, Eliminate, and Track (PET)フレームワークはタスク記述をハイレベルなサブタスクのリストに変換する。 PETフレームワークは、人間の目標仕様への一般化のために、SOTAよりも15%改善されている。
  論文  参考訳（メタデータ） (2023-05-03T20:11:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。