論文の概要: Hallucination as Context Drift: Synchronization Protocols for Multi-Agent LLM Systems
- arxiv url: http://arxiv.org/abs/2606.21666v1
- Date: Fri, 19 Jun 2026 18:17:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 04:08:36.688232
- Title: Hallucination as Context Drift: Synchronization Protocols for Multi-Agent LLM Systems
- Title（参考訳）: コンテキストドリフトとしての幻覚:マルチエージェントLLMシステムのための同期プロトコル
- Authors: Carson Rodrigues,
- Abstract要約: マルチエージェントLLMシステムは、モデル欠陥だけでは説明できない幻覚出力を生成する。
エージェントが共有世界状態のミスマッチや古い表現で協調作業に入ると、それらの共同推論は幻覚として表される矛盾を生み出す。
本稿では,圧縮状態の要約を定期的に交換する共有状態検証プロトコル(SSVP,Shared State Verification Protocol)を提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-agent LLM systems routinely produce hallucinated outputs that cannot be explained by model deficiencies alone. A significant class of these failures arises not from model incapacity but from context drift: the divergence of internal knowledge states between concurrent agents. When agents enter a collaborative task with mismatched or stale representations of shared world state, their joint reasoning produces contradictions that manifest as hallucination. We define the Context Divergence Score (CDS), a lightweight scalar metric quantifying knowledge-state discrepancy between agent pairs across spatial, temporal, and task dimensions, and propose the Shared State Verification Protocol (SSVP), which lets agents periodically exchange compressed state summaries and flag high-divergence conditions before joint reasoning. We evaluate SSVP across two domains (multi-agent travel and software project planning) using Claude Haiku. In controlled experiments (n=30 per condition, travel; n=10, software) across 8 scenarios, naive full-broadcast synchronization increases hallucination rate by 34% above the no-sync baseline (HR: 0.658 vs. 0.492, p=0.0022, d=1.18), a contamination effect from propagating erroneous agent states. SSVP avoids this failure mode while showing modest, consistent reduction (HR: 0.463, d=0.30) and achieves significantly lower hallucination than full-broadcast (p=0.0005, d=1.47) using 58% fewer API calls. The contamination effect does not replicate in the software domain, where all conditions converge to low HR (<0.2), confirming it is specific to tasks where one erroneous shared belief cascades across evaluation dimensions. Our results reframe hallucination mitigation as a distributed systems problem and establish context synchronization as a first-class primitive in multi-agent LLM design.
- Abstract（参考訳）: マルチエージェントLLMシステムは、モデル欠陥だけでは説明できない幻覚出力を日常的に生成する。
これらの失敗の重大なクラスは、モデル能力の欠如ではなく、コンテキストドリフトから生じている: 並行エージェント間の内部知識状態のばらつきである。
エージェントが共有世界状態のミスマッチや古い表現で協調作業に入ると、それらの共同推論は幻覚として表される矛盾を生み出す。
我々は,空間的,時間的,タスク次元にわたるエージェントペア間の知識状態の不一致を定量化する軽量スカラー尺度であるContext Divergence Score (CDS)を定義し,共同推論の前に圧縮状態の要約とフラグ高分割条件を定期的に交換する共有状態検証プロトコル (SSVP) を提案する。
我々はClaude Haikuを用いて2つのドメイン(マルチエージェント旅行とソフトウェアプロジェクト計画)にわたるSSVPを評価した。
8つのシナリオにまたがる制御された実験(n=30、旅行、n=10、ソフトウェア)では、非同期ベースライン(HR: 0.658 vs. 0.492, p=0.0022, d=1.18)より34%、完全なブロードキャスト同期は幻覚率を高める。
SSVPはこの障害モードを避けつつ、穏やかで一貫した減少(HR: 0.463, d=0.30)を示し、58%のAPI呼び出しでフルブロードキャスト(p=0.0005, d=1.47)よりもはるかに低い幻覚を達成する。
汚染効果は、全ての条件が低いHR(0.2)に収束するソフトウェア領域では複製されない。
本結果は,分散システム問題としての幻覚緩和を再構築し,マルチエージェントLLM設計における第1級プリミティブとしてコンテキスト同期を確立した。
関連論文リスト
- Game-Theoretic Multi-Agent Control for Robust Contextual Reasoning in LLMs [6.335875360476155]
マルチターンインタラクションにおける大規模言語モデル(LLM)は、独立した応答を生成するのではなく、進化するコンテキストを維持している。
GT-MCP(Game-Theoretic Secure Model Context Protocol)は,コンテキスト管理を閉ループ動的プロセスとして扱うコントローラ駆動型マルチエージェント手法である。
不安定性が検出されると、ロールバックベースの自己修復機構が検証済みのコンテキストを復元し、不要なフラグメントの伝播を防止する。
論文 参考訳（メタデータ） (2026-06-09T02:18:44Z) - Collective Hallucination in Multi-Agent LLMs:Modeling and Defense [0.5076419064097734]
大型言語モデル(LLM)における幻覚は、マルチエージェント設定におけるリスクを高める。
本稿では, 相互作用するLLMエージェントのネットワークにまたがるシステムレベルの時間進化過程として幻覚をモデル化する。
本稿では,信頼度重み付けアグリゲーション,適応的影響規制,外部クレーム検証,信頼できないエージェントの選択的分離を組み合わせたインタラクション対応制御手法を提案する。
論文 参考訳（メタデータ） (2026-06-06T02:04:03Z) - Hallucination Cascade: Analyzing Error Propagation in Multi-Agent LLM Systems [6.047611029478951]
GPT-5.3, DeepSeek-V3, LLaMA-3-70B-Instruct を用いて, 知識領域10のカスケード実験を行った。
より深いカスケードは, 正常化幻覚スコアを第1剤で0.422から最終薬で0.272まで下げることを示した。
この減少は、実際の精度が0.789から0.769に低下し、幻覚抑制と事実保存のトレードオフが明らかになる。
論文 参考訳（メタデータ） (2026-06-06T01:56:55Z) - Agent-BRACE: Decoupling Beliefs from Actions in Long-Horizon Tasks via Verbalized State Uncertainty [70.43119366710778]
本稿では,Agens-BRACE: Agent Belief state Representation by Abstraction and Confidence Estimationを紹介する。
LLMエージェントを信頼状態モデルと政策モデルに分離し、強化学習を通じて協調的に最適化する手法である。
長期にわたる部分的に観察可能な言語環境において、平均して+14.5%の絶対的な改善を実現している。
論文 参考訳（メタデータ） (2026-05-12T02:37:04Z) - Learning Uncertainty from Sequential Internal Dispersion in Large Language Models [52.29267172760918]
不確実性推定は、大規模言語モデルにおける幻覚を検出するための有望なアプローチである。
最近の手法は一般に不確実性を推定するために内部状態のモデルに依存する。
本稿では,教師付き幻覚検出フレームワークであるシークエンシャル内部変数表現(SIVR)を提案する。
論文 参考訳（メタデータ） (2026-04-17T06:31:29Z) - Dynamic Attentional Context Scoping: Agent-Triggered Focus Sessions for Isolated Per-Agent Steering in Multi-Agent LLM Orchestration [0.0]
マルチエージェント LLM オーケストレーションシステムは,コンカレントエージェントがオーケストレータのコンテキストウィンドウと競合する場合,コンテキスト汚染に悩まされる。
本研究では,2つの非対称モードでオーケストレータを動作させる機構である動的注意コンテキストスコープ(DACS)を導入する。
DACSは平文ベースラインでは21.0--60.0%に対して90.0-98.4%のステアリング精度を達成した。
論文 参考訳（メタデータ） (2026-04-09T07:26:42Z) - SENTINEL: Stagewise Integrity Verification for Pipeline Parallel Decentralized Training [54.8494905524997]
分散トレーニングは、信頼できない、地理的に分散したノードで実行される場合、重大なセキュリティリスクをもたらす。
重複のないパイプライン並列性(PP)トレーニングの検証機構であるSENTINELを提案する。
実験では、モデル収束と性能を維持しながら、最大176人の労働者を持つ信頼できない分散環境における最大4BパラメータLSMのトレーニングを成功させた。
論文 参考訳（メタデータ） (2026-03-03T23:51:10Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳（メタデータ） (2026-02-10T21:08:53Z) - Collaborative Value Function Estimation Under Model Mismatch: A Federated Temporal Difference Analysis [55.13545823385091]
フェデレーション強化学習(FedRL)は、エージェント間のデータ交換を防止し、データのプライバシを維持しながら協調学習を可能にする。
現実世界のアプリケーションでは、各エージェントは若干異なる遷移ダイナミクスを経験し、固有のモデルミスマッチを引き起こす。
情報共有の適度なレベルでさえ、環境固有のエラーを著しく軽減することを示す。
論文 参考訳（メタデータ） (2025-03-21T18:06:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。