論文の概要: The Hallucination Snowball: Modeling Error Propagation as State Transitions in Multi-Agent LLM Pipelines
- arxiv url: http://arxiv.org/abs/2608.14588v1
- Date: Mon, 22 Jun 2026 06:32:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.222084
- Title: The Hallucination Snowball: Modeling Error Propagation as State Transitions in Multi-Agent LLM Pipelines
- Title（参考訳）: 幻覚雪玉:多エージェントLLMパイプラインにおける状態遷移としての誤差伝播のモデル化
- Abstract要約: ステージ1で注入された幻覚は単に持続するだけでなく、変化することを示す。
我々はこれを4つの状態におけるマルコフ過程である幻覚雪玉効果として定式化する。
- 参考スコア（独自算出の注目度）: 0.17188280334580197
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sequential multi-agent LLM pipelines chain specialized agents without verification at handoffs, creating a structural flaw with measurable and severe consequences. We show that hallucinations injected at Stage 1 do not merely persist; they transform: raw numerical facts become derived computations, then narrative prose, then editorially approved conclusions. At each transformation, detectability degrades near-irreversibly. We formalize this as the hallucination snowball effect, a first-order Markov process over four states (Raw Fact $\to$ Derived $\to$ Narrative $\to$ Invisible) with empirically measured per-boundary escape probabilities of 24.6%, 48.3%, and 89.3%. Across 346 automatically injected hallucinations in a 4-agent financial analysis pipeline on FinanceBench, gpt-4o detection drops from 72.0% at Stage 1 to 50.9% at Stage 4, and 23.7% of hallucinations survive completely undetected in the final output. Even the strongest model tested (Qwen3.5-397B-A17B, 87.0% at Stage 1) faces a structural ceiling; projected Stage 4 detection is only ${\sim}$60--65%. Critically, boundary gates using identical RAG verification tools reduce hallucination survival from 58.4% to 16.2% versus end-of-pipeline checking (Cohen's $h = -0.911$, $p < 0.000001$), while end-checking alone achieves merely 2.3 pp improvement over no verification. When you verify matters more than whether you verify. Our model predicts survival for $n$-agent linear pipelines and prescribes optimal verification resource allocation: invest at $S_1{\to}S_2$ first, where 75.4% of hallucinations are still catchable, not at $S_3{\to}S_4$ where 89.3% have already escaped.
- Abstract（参考訳）: 連続したマルチエージェントLLMパイプラインは、ハンドオフ時に検証せずに特殊なエージェントをチェーンし、測定可能で深刻な結果を伴う構造上の欠陥を発生させる。
段階1で注入された幻覚は、単に持続するものではなく、生の数値的事実が導出的計算となり、物語の散文となり、編集的に承認された結論となる。
各変換において、検出可能性はほぼ不可逆的に低下する。
我々はこれを幻覚の雪だるま効果として定式化し、4つの州(Raw Fact $\to$ Derived $\to$ Narrative $\to$ Invisible)におけるマルコフ過程を24.6%、48.3%、89.3%と実証的に測定した。
346年にわたって、ファイナンスベンチの4年目の金融分析パイプラインで幻覚を自動注入し、gpt-4o検出はステージ1で72.0%からステージ4で50.9%に低下し、最終出力で23.7%の幻覚は完全に検出されなかった。
最強のモデル(Qwen3.5-397B-A17B、ステージ1では87.0%)でさえ、構造的な天井に直面している。
重要な点として、同一のRAG検証ツールを用いた境界ゲートは、幻覚の生存率を58.4%から16.2%に低下させる(コーエンの$h = -0.911$, $p < 0.000001$)。
検証する時には、検証する以上のことを行う。
我々のモデルは、$n$-agent線形パイプラインの生存を予測し、最適な検証資源割り当てを規定する:まず、$S_1{\to}S_2$に投資し、そこでは75.4%の幻覚がキャッチ可能であるが、$S_3{\to}S_4$では89.3%が既に逃げている。
関連論文リスト
- Better Understanding, Better Fixes? A Study of Hallucination in LLM-based Automated Program Repair [27.262974988013728]
大規模言語モデル(LLM)は、大幅に進歩した自動プログラム修復(APR)を備えている。
APRでは、幻覚は最終パッチだけでなく、パッチ生成を導く中間アーティファクトにも生じうる。
我々は幻覚を、利用可能な修復証拠に忠実に根ざしていないパッチや中間的アーティファクトの生成として特徴づける。
論文 参考訳（メタデータ） (2026-09-04T09:11:27Z) - Located but Not Releasable: Silent Gate Inversion and Bounded Linear Release [0.0]
完全なパイプライン -- 検出、ローカライズ、リリース -- を、25.7Mトランス上で完全に事前登録されたストレステストに送信します。
中層層の観測エビデンスチャネルでの干渉は、他の抑圧された世界における標的の挙動を復元する。
配当外のキャリブレーションをゼロにするために調整された検出器は、6.9-7.3%の配当前の世代と、実際にそれを必要とする2,400世代のうちゼロにトリガーをトリガーする。
論文 参考訳（メタデータ） (2026-08-12T09:04:54Z) - A Few Neurons Reveal When LLMs Misuse Tools: Sparse Detection and Selective Steering for Reliable Tool Use [28.57781785937644]
PRISMS(Probing Representations In Support of Monitoring and Steering)は,スパース検出とアクティベーションの間に障害特異的ニューロンベースを共有するクローズループフレームワークである。
6つのモデル全体で、PRISMSはプールされたオーバーコール率を80%削減し、ツール要求の精度を14.2%向上させた。
論文 参考訳（メタデータ） (2026-07-31T19:03:44Z) - Looping Is Not Reliability: State-Bound Evidence and Typed Revision Contracts for Agentic Code Repair [36.56438114281786]
正しいパッチの発見と保持、検証、提出のギャップについて検討する。
我々はエビデンスバウンド型ループ契約を導出し、その機械的に強制可能なサブセットを参照実装でインスタンス化する。
論文 参考訳（メタデータ） (2026-07-27T16:05:23Z) - Constrained Path Reasoning: Measuring When Committed Stages Earn Their Cost [2.9867974725783113]
Constrained Path Reasoning (CPR)は、ソース認識パス仮説とステージレベルの会計とをペアリングする。
CPRは、タスク互換のコミットメントは、移行を分解し、候補の質量を集中し、正規性を誘導し、そのゲインが宣伝されたエラーや実行コストを超えたときにフィードバックを公開することができると予測している。
論文 参考訳（メタデータ） (2026-07-19T13:11:18Z) - Silent Failures in Quantized LLM Reasoning: A Taxonomy-Based Analysis of Hollow Convergence and Failure Mode Shifts [0.0]
学習後の量子化は,タスク精度が保存されている場合でも,大きな言語モデルがどのように推論するかを静かに変更できることを示す。
3つの量子化精度で5つの命令調整LDMから3万のチェーン・オブ・シント出力を分類する。
精度は精度で高いが,Hollow Convergence は NF4 で大きく依存的な変化を示す。
論文 参考訳（メタデータ） (2026-07-10T21:55:05Z) - From Patches to Trajectories: Privileged Process Supervision for Software-Engineering Agents [56.31499185764872]
教師の長い軌道上の監督された微調整(SFT)は、オープンソフトウェアエンジニアリング(SWE)エージェントに調査と推論を浸透させる主要な方法である。
本稿では,P2T (Patches-to-Trajectories) を提案する。P2T (Patches-to-Trajectories) は,P2T (Patches-to-Trajectories) において,P2T (Patches-to-Trajectories) とP2T (Patches-to-Trajectories) の2つの最適化法である。
論文 参考訳（メタデータ） (2026-05-21T04:54:55Z) - Hallucination as Trajectory Commitment: Causal Evidence for Asymmetric Attractor Dynamics in Transformer Generation [0.0]
自己回帰言語モデルにおける幻覚は非対称的な誘引力学によって制御される。
高速分岐法を用いて、軌道力学をインパルスレベルから分離する。
論文 参考訳（メタデータ） (2026-04-16T12:16:53Z) - Phase Transition for Budgeted Multi-Agent Synergy [41.486076708302456]
マルチエージェントシステムは信頼性を向上させることができるが、固定された推論予算の下では、しばしば役立つか、飽和するか、崩壊するかさえある。
我々は、現代のエージェントスタックの3つの束縛制約からこれらの状態を予測する最小限の校正可能な理論を開発する。
論文 参考訳（メタデータ） (2026-01-24T05:32:50Z) - The Semantic Illusion: Certified Limits of Embedding-Based Hallucination Detection in RAG Systems [0.0]
幻覚予測をRAG検出に適用し、スコアを有限サンプルカバレッジ保証付き決定セットに変換する。
分布尾レンズを用いてこの障害を分析し,NLIモデルが許容可能なAUC(0.81)を達成する一方で,「最も厳しい」幻覚は,忠実な応答と意味的に区別できないことを示した。
論文 参考訳（メタデータ） (2025-12-17T04:22:28Z) - SABER: Small Actions, Big Errors -- Safeguarding Mutating Steps in LLM Agents [52.20768003832476]
我々は$$-Bench (Airline/Retail) および SWE-Bench Verified 上での実行トレースを分析する。
成功を失敗に戻すための、先進的な逸脱、最初期の行動、レベル分岐を形式化する。
モデルに依存しない,勾配のない,テスト時のセーフガードである cm を導入します。
論文 参考訳（メタデータ） (2025-11-26T01:28:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。