論文の概要: The Cost of Compression: A Rate-Distortion Limit on Factual Hallucination
- arxiv url: http://arxiv.org/abs/2609.12111v1
- Date: Thu, 10 Sep 2026 18:37:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.513342
- Title: The Cost of Compression: A Rate-Distortion Limit on Factual Hallucination
- Title（参考訳）: 圧縮のコスト--ハロシン化の速度歪曲限界-
- Abstract要約: クローズドブックの質問応答における幻覚は、しばしばカバレッジ問題として扱われる。
本研究では,この効果を,ファクトリコールの単純なカバレッジ・圧縮モデルを用いて検討する。
予測されたシグネチャを理論的に実装したシミュレーションと,現代言語モデルにおける制御されたファクトインジェクションプローブを用いて検討する。
- 参考スコア（独自算出の注目度）: 5.158280959759542
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Factual hallucination in closed-book question answering is often treated as a coverage problem: a model fails because the relevant fact is absent from its internal memory. This view misses a second source of error. Even when a fact has been observed, finite memory may force it to be stored only approximately. We study this effect through a simple coverage--compression model of factual recall. We consider an unstructured question-answering task with $N$ possible queries and $K$ possible answers. A learner observes $M$ training facts, compresses them into at most $B$ bits, and answers uniformly drawn test queries without retrieval. For a uniformly random ground-truth mapping, we prove $\mathcal{E} \geq \frac{M}{N}δ^\star\!\left(\frac{B}{M}\right) + \left(1-\frac{M}{N}\right)\left(1-\frac{1}{K}\right)$, where $δ^\star(r)$ is the inverse rate-distortion function of a uniform $K$-ary source under zero-one loss. The two terms separate compression distortion on observed facts from missing coverage on unobserved facts. The bound gives a compact way to reason about selective memory, forced compression, structure, retrieval, abstention, and long-context organization. We study the predicted signatures with theory-implied simulations and controlled fact-injection probes in modern language models that vary fact load and effective trainable memory. The result is not a complete theory of hallucination, but an information-theoretic account of a separable failure mode: lossy recall of observed facts under finite memory.
- Abstract（参考訳）: クローズドブックの質問応答における実際の幻覚は、しばしばカバレッジ問題として扱われる:モデルが失敗するのは、関連する事実が内部記憶から欠落しているためである。
このビューは、第2のエラーソースを見逃します。
ある事実が観測されたとしても、有限記憶はそれをほぼ保存するように強制する。
本研究では,この効果を,ファクトリコールの単純なカバレッジ・圧縮モデルを用いて検討する。
可能なクエリは$N$、可能な答えは$K$である。
学習者は、100万ドルのトレーニング事実を観察し、それらを少なくとも$B$ビットに圧縮し、検索なしで一様に描画されたテストクエリに答える。
一様ランダムな接地真実写像に対して、$\mathcal{E} \geq \frac{M}{N}δ^\star\!
\left(\frac{B}{M}\right) + \left(1-\frac{M}{N}\right)\left(1-\frac{1}{K}\right)$, ここで$δ^\star(r)$は、一様な$K$-項の損失の下での逆速度歪関数である。
2つの用語は、観測された事実に対する圧縮歪みと、観測されていない事実に対するカバレッジを区別する。
このバウンダリは、選択メモリ、強制圧縮、構造、検索、棄権、長いコンテキスト組織を推論するためのコンパクトな方法を提供する。
本研究では, 予測されたシグネチャを, 理論によって実現されたシミュレーションと, 実負荷と効果的なトレーニング可能なメモリの異なる現代言語モデルにおける制御されたファクトインジェクションプローブを用いて検討する。
その結果は幻覚の完全な理論ではなく、分離可能な障害モードについての情報理論的な説明である。
関連論文リスト
- REIN: Bridging the Gap between Reasoning and Reliability via Reflection and Abstention Alignment [35.47736821237044]
大規模な推論モデル(LRM)は幻覚を起こしやすいため、信頼性が損なわれ、安全な配置の課題が生じる。
構造的推論シーケンスを生成するためにLEMをトレーニングするアライメントフレームワークであるREINを提案する。
REINは、サンプル化された推論鎖のどれにも正しい答えが得られない場合、明示的な棄権を促す報酬機構を導入する。
論文 参考訳（メタデータ） (2026-08-08T05:37:13Z) - Reclaim Evaluation: A Lossy Memory Is Worse Than an Empty One [0.0]
言語モデルのメモリは、メモリを全く持たないよりも悪い場合がある。
間違った結論を維持しながら、その背後にある作業を捨てるメモリは、確実な答えとして古い値を出力する。
論文 参考訳（メタデータ） (2026-06-24T06:24:53Z) - Strategic PAC Learnability via Geometric Definability [69.34283267701421]
戦略分類は、個人が分類者の判断に影響を与えるために、コストで特徴を修正できる学習環境を研究する。
中心的な問題は、帰納的(戦略的な)仮説クラスのサンプルの複雑さが、基礎となる仮説クラスの複雑さと、実現可能な操作を管理するコスト構造にどのように依存するかである。
仮説クラスとコスト誘起近傍関係は、$mathbbR_mathtexp$上の一階式で定義することができる。
難易度は, 複雑度によって制御され, 学習性は維持されていることを証明した。
論文 参考訳（メタデータ） (2026-05-13T12:21:56Z) - Hallucination is a Consequence of Space-Optimality: A Rate-Distortion Theorem for Membership Testing [3.4782736103257323]
大きな言語モデルはしばしば「ランダムな事実」に高い信頼を持って幻覚を与える
我々はそのような事実の記憶を会員試験問題として定式化する。
幻覚は, 損失圧縮の自然な帰結として持続することを示す。
論文 参考訳（メタデータ） (2026-01-31T21:18:28Z) - Bias-Class Discrimination of Universal QRAM Boolean Memories [0.0]
コヒーレントでアドレス可能なクエリを使って$f$のバイアスクラスについて推測できるものは何か?
重み付きバイアスクラスの場合、アドレスレジスタ上で誘導される単一クエリアンサンブル状態は、単一コピーのヘルストロム等価測定と成功確率に対して閉形式の式を生成する2固有空間構造を持つことを示す。
これはDeutsch-Jozsaの完全識別のケースを超えて、Bernstein-Vaziraniのような正確な識別設定を補完する。
論文 参考訳（メタデータ） (2025-12-19T12:14:18Z) - LLMs Can Get "Brain Rot"! [68.08198331505695]
ジャンクウェブテキストへの連続曝露は、大規模言語モデル(LLM)の持続的認知低下を誘導する
実Twitter/Xコーパスで制御された実験を行い、ジャンクと逆制御されたデータセットを構築します。
その結果、データ品質がLLM能力の崩壊の原因であることを示す重要な多視点的証拠が得られた。
論文 参考訳（メタデータ） (2025-10-15T13:28:49Z) - Are Hallucinations Bad Estimations? [19.11290014868759]
損失最小化の最適推定器でさえまだ幻覚的であることを示す。
これにより、幻覚は損失最小化と人間の許容できる出力の間の構造的ミスアライメントとして再編成される。
論文 参考訳（メタデータ） (2025-09-25T19:39:09Z) - The Law of Knowledge Overshadowing: Towards Understanding, Predicting, and Preventing LLM Hallucination [85.18584652829799]
本稿では,知識のシェードイングをモデル化することで,事実の幻覚を定量化する新しい枠組みを提案する。
オーバシャドウ(27.9%)、MemoTrap(13.1%)、NQ-Swap(18.3%)のモデル事実性を顕著に向上させる。
論文 参考訳（メタデータ） (2025-02-22T08:36:06Z) - Trust Me, I'm Wrong: LLMs Hallucinate with Certainty Despite Knowing the Answer [51.7407540261676]
本研究では,モデルが常に正しい解答を行うことのできる幻覚の別のタイプについて検討するが,一見自明な摂動は,高い確実性で幻覚応答を生じさせる。
この現象は特に医学や法学などの高度な領域において、モデルの確実性はしばしば信頼性の代用として使用される。
CHOKEの例は、プロンプト間で一貫性があり、異なるモデルやデータセットで発生し、他の幻覚と根本的に異なることを示す。
論文 参考訳（メタデータ） (2025-02-18T15:46:31Z) - On Large Language Models' Hallucination with Regard to Known Facts [74.96789694959894]
大規模な言語モデルはファクトイドの質問に答えることに成功したが、幻覚を起こす傾向がある。
正しい解答知識を持つLLMの現象を推論力学の観点から検討する。
我々の研究は、LLMの幻覚が既知の事実について、そしてより重要なのは、幻覚を正確に予測する理由を理解することに光を当てた。
論文 参考訳（メタデータ） (2024-03-29T06:48:30Z) - Causal Expectation-Maximisation [70.45873402967297]
ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。
我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。
我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
論文 参考訳（メタデータ） (2020-11-04T10:25:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。