論文の概要: Phantom Merge: When Your Large Language Model Agents Pick One but Tell You About Another

• arxiv url: http://arxiv.org/abs/2610.16141v1
• Date: Mon, 12 Oct 2026 04:01:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.304104
• Title: Phantom Merge: When Your Large Language Model Agents Pick One but Tell You About Another
• Title（参考訳）: Phantom Merge: 大型の言語モデルエージェントが1つ選んだら、もう1つのことを教えてくれる
• Abstract要約: Phantom Merge (PM) は、エージェントがコミットされたエンティティをアトリビュートするエンティティ-エビデンスバインディングの障害である。 本稿では,クレームレベルのリスク推定と修正のための2段階フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 16.151531550259993
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents increasingly operate over multiple entities, where reliable response generation requires not only retrieving relevant evidence but also preserving its association with the correct entity. We identify Phantom Merge (PM), an entity-evidence binding failure in which an agent attributes unsupported claims to its committed entity, potentially even when the task is completed correctly. We formalize PM at the claim level and characterize its prevalence and error subtypes across four agent domains and four backbone families. To address this problem, we propose a two-stage framework for claim-level risk estimation and correction. First, Anchor-Grounded Risk (AGR) combines a representational readout of the agent's pre-emission hidden state with Jacobian-based functional information, providing complementary slot-level and anchor-value risk scores. Second, Fixed-Anchor Correction (FAC) audits flagged claims and selectively revises them using observed anchor evidence or removes them when no supported replacement is available. On the held-out Shopping detection cohort, AGR-slot achieves an AUROC of 96.2% and an average precision of 97.3%, outperforming the evaluated detection baselines. In the end-to-end Shopping mitigation evaluation, FAC reduces trajectory-level PM from 51.4% to 6.2%, with an output-to-original claim ratio of 80.7%. These results demonstrate the prevalence of entity-specific grounding failures and the effectiveness of combining internal risk estimation with evidence-constrained claim correction. Our code is publicly available at https://github.com/LabRAI/PhantomMerge.
• Abstract（参考訳）: LLMエージェントはますます複数のエンティティ上で動作し、信頼できる応答生成には、関連する証拠を検索するだけでなく、正しいエンティティとの関連性も保存する必要がある。 Phantom Merge (PM) は、エージェントがコミットされたエンティティを属性として主張するエンティティ・エビデンス・バインディングの障害であり、タスクが正しく完了した場合でも、潜在的にそうである。 請求項レベルでPMを定式化し、4つのエージェントドメインと4つのバックボーンファミリーにまたがるその有病率とエラーのサブタイプを特徴付ける。 この問題に対処するために,クレームレベルのリスク推定と修正のための2段階のフレームワークを提案する。 まず、AGR(Anchor-Grounded Risk)はエージェントのプリエミッション隠れ状態の表現的読み出しとジャコビアンベースの機能情報を組み合わせて、補完的なスロットレベルとアンカー値のリスクスコアを提供する。 第二に、Fixed-Anchor Correction (FAC)は、フラグ付きクレームを監査し、観察されたアンカー証拠を使用してそれらを選択的に修正する。 ホールドアウトされたショッピング検出コホートでは、AGR-slotは96.2%のAUROCと97.3%の平均精度を達成し、評価された検出ベースラインを上回っている。 エンドツーエンドのショッピング緩和評価では、FACはトラジェクトリレベルのPMを51.4%から6.2%に削減し、アウトプット・ツー・オリジンのクレーム比は80.7%である。 これらの結果から, 実体特異的な接地障害の発生頻度と, 内部リスク推定と証拠制約付きクレーム補正の併用の有効性が示唆された。 私たちのコードはhttps://github.com/LabRAI/PhantomMerge.comで公開されています。

関連論文リスト

• TwinCheck: Evidence-Grounded Negative-Twin Verification for Stateful Tool Agents [1.1279808969568255]
  TwinCheckは、トレースがトレースローカル障害仮説に結びついている証拠条件を満たす場合にのみ、置換を検討するポリシーである。 ペア評価の場合、正確なリプレイはエージェントのパースされた応答とアクションを保持し、最初の置換が受け入れられるまで固定される。
  論文  参考訳（メタデータ） (2026-09-22T18:09:40Z)
• Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees [57.41572512458446]
  公開されたテキストからの経験的アイデンティティリークは、大きな言語モデル(LLM)とドキュメントを個人にリンクするための補助的な知識を組み合わせた攻撃者によって駆動される。 本稿では,各文書の再識別リスクの統計証明を提供する分散フリーキャリブレーションフレームワークであるConformal Privacy Auditingを紹介する。
  論文  参考訳（メタデータ） (2026-09-18T05:49:54Z)
• Engineering Reliable Commit Gates for Agentic AI: Cost-Aware Verification Portfolios under Common-Mode Data Failures [4.287745257410248]
  コスト対応コミットゲートのランタイム保証ベンチマークを提案する。 48のタスクテンプレートは、6つの障害レジームで2,880のシナリオを生成する。 結果は明確なエビデンスライン、コストアウェアの選択、コミットタイムの実施を動機付けます。
  論文  参考訳（メタデータ） (2026-09-10T01:42:40Z)
• SEVA: Self-Evolving Verification Agent with Process Reward for Fact Attribution [6.908637308550535]
  SEVAは、エビデンスアライメント、ステップバイステップの推論チェーン、キャリブレーションされた信頼度、6カテゴリのエラー診断を発行する構造化検証エージェントである。 ClearFacts では、SEVA-3B は GPT-4o-mini (69.0 vs. 69.8 F1) と一致し、よりリッチで監査可能な出力を生成する。
  論文  参考訳（メタデータ） (2026-06-29T02:37:13Z)
• The Capability Paradox: How Smarter Auditors Make Multi-Agent Systems Less Secure [11.822284421559814]
  これは、有害な要求がドメイン固有の物語の中に隠され、Workerレポートを通じてマネージャに伝達される攻撃である。 労働者の能力が増加するにつれて、平均的なシステムレベルの攻撃成功率(ASR)は18.4%から63.9%に増加し、94.4%がピークである。 非対称なドメイン能力とWorkersのペアを組み合わさった異種アンサンブル検証を提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:42:44Z)
• VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
  大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。 しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。 本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:09:35Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。