論文の概要: Understanding as No-Arbitrage: Bounded Dutch Books as a Definition and Training Objective for Language Models
- arxiv url: http://arxiv.org/abs/2609.39341v1
- Date: Wed, 30 Sep 2026 09:07:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.484423
- Title: Understanding as No-Arbitrage: Bounded Dutch Books as a Definition and Training Objective for Language Models
- Title（参考訳）: 非アービタージュとしての理解: 言語モデルの定義と学習対象としてのオランダの書籍の境界
- Abstract要約: 我々はこの疑問を、非アービタージュのレンズを通して「理解」を定義することで測定可能とする。
計算的に有界なトレーダーが保証された利益を抽出できない場合、モデルは語彙をある程度理解する。
Arbitrは、敵対的トレーダーが論理的不整合のモデルをペナルティ化するトレーニングフレームワークである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Does a language model merely predict tokens, or does it understand what it says? We make this question measurable by defining "understanding" through the lens of no-arbitrage. A model understands a vocabulary to a certain degree if a computationally bounded trader cannot extract guaranteed profit by betting against the model's probabilities on logically related claims (a "Dutch book"). We establish three theoretical results: first, because full logical coherence is computationally intractable, understanding is inherently graded, not absolute. Second, we prove that the exact optimum of standard next-token prediction is inherently incoherent across different question formats; the flaw lies in the training objective, not the architecture. Third, we show that uncertainty accumulates predictably along reasoning chains, making unjustified overconfidence an arbitrage opportunity in itself. To address this, we introduce Arbitr, a training framework where an adversarial trader penalizes the model for logical inconsistencies, paired with a calibration anchor to prevent uninformative collapse. Across five pre-registered experiments on Qwen2.5 and Phi-3.5 models, we demonstrate that standard models are highly exploitable across different phrasings. Arbitr reduces this exploitability by orders of magnitude without sacrificing task accuracy, and the effect successfully transfers to unseen logical patterns and new model families. Crucially, we uncover a scaling illusion: at 7B parameters, near-zero measured incoherence often coincides with extreme, unjustified confidence. We conclude that while Arbitr enforces rigorous logical consistency, coherence is a necessary condition for knowledge, but not a sufficient one
- Abstract（参考訳）: 言語モデルは単にトークンを予測するだけなのか、それとも、それが言っていることを理解しているのか?
我々はこの疑問を、非アービタージュのレンズを通して「理解」を定義することで測定可能とする。
モデルが語彙をある程度理解するのは、計算的に有界なトレーダーが論理的に関連するクレーム("Dutch book")上でモデルの確率に賭けることで保証された利益を抽出できない場合である。
まず、完全な論理的コヒーレンスは計算的に難解であるため、理解は本質的に等級化され、絶対的ではない。
第二に、標準次トーケン予測の正確な最適性は、本質的に異なる質問形式で一致しないことを証明し、その欠陥は、アーキテクチャではなく、トレーニング対象にある。
第三に、不確実性は推論連鎖に沿って予測通りに蓄積し、不当な過信はそれ自体が仲裁の機会であることを示す。
これを解決するために、敵のトレーダーが論理的不整合のモデルをペナルティ化し、キャリブレーションアンカーと組み合わせて非形式的崩壊を防止する訓練フレームワークArbitrを導入する。
Qwen2.5モデルとPhi-3.5モデルに対する5つの事前登録実験において、標準モデルは異なるフレーズ間で非常に有効であることを示した。
Arbitrはタスクの精度を犠牲にすることなく、桁違いにこのエクスプロイザビリティを削減し、その効果は目に見えない論理パターンと新しいモデルファミリにうまく移行する。
7Bパラメータでは、ほぼゼロで測定された非コヒーレンスはしばしば、極端な不当な信頼と一致します。
我々は、Arbitrは厳密な論理的一貫性を強制するが、コヒーレンスは知識に必要な条件であるが、十分ではないと結論づける。
関連論文リスト
- A hierarchy of faithfulness criteria for knowledge base completion [0.5463417677777276]
知識ベース完成モデルが論理的に忠実であることの意味を問う。
相対モデルでは$P(midmathcalO) = #(mathcalOcup)/#(mathcalOO)$という最強の基準を定めています。
論文 参考訳（メタデータ） (2026-08-20T11:03:10Z) - Surprisal Theory is Tautological (without Rational Grounding) [60.917028769172795]
予備理論は、文脈における言語単位の人間の処理困難は、ある言語モデルの下でのそのサブプライムのアフィン関数であると主張している。
この主張は、これ以上の制約を伴わないタウトロジーであると私は主張する。
私は、タウトロジーを破るには合理主義的な介入が必要だと結論付けます。
論文 参考訳（メタデータ） (2026-07-23T17:54:37Z) - Can We Trust LLM's Logic? Quantifying Uncertainty, Coherence, and Robustness via a Graph-Based Framework [0.6743011393792991]
GraphEVAL はグラフベースの推論フレームワークであり、不確実性定量化(UQ)を全体論的推論忠実性問題として再編成する。
推論空間の意味的構造的コンセンサスを定量化する新しいUQ測度であるグラフ推論コヒーレンススコア(GRCS)を提案する。
また,グラフ自己整合性 (GSC) も導入した。
論文 参考訳（メタデータ） (2026-07-09T00:45:26Z) - Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。
このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。
これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
論文 参考訳（メタデータ） (2026-05-23T04:42:45Z) - Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
モデル・オーガニゼーションのベンチマークであるPandoを紹介します。
Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。
説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
論文 参考訳（メタデータ） (2026-04-13T06:42:24Z) - LLM Reasoning Predicts When Models Are Right: Evidence from Coding Classroom Discourse [0.18268488712787334]
大規模言語モデル(LLM)は、大規模に教育対話を自動的にラベル付けし分析するために、ますます多くデプロイされている。
本研究では,LLMが生成した推論がモデル自身の予測の正確性を予測するのに有効かどうかを検討する。
授業の対話から30,300人の教師の発話を分析し,複数の最先端LPMでラベル付けし,指導的移動構造とそれに伴う推論を行った。
論文 参考訳（メタデータ） (2026-02-10T14:38:13Z) - EpiCaR: Knowing What You Don't Know Matters for Better Reasoning in LLMs [9.412828452977553]
既存のアプローチは成功した推論パスを強化し、かなりのキャリブレーションコストを発生させる。
この失敗は、アライメントにおけるモデル崩壊の一形態として特徴づけられている。
推論性能とキャリブレーションを協調的に最適化する訓練目標として,EpiCaRを提案する。
論文 参考訳（メタデータ） (2026-01-11T06:21:13Z) - Scoring Rules and Calibration for Imprecise Probabilities [7.289672463326423]
我々は、適切なスコアリングルールとキャリブレーションが2つの異なるゴールを果たすと主張している。
本稿では,機械学習の実践における理論的洞察,特に分布ロバスト性における損失関数の選択に関する微妙な落とし穴を例示する。
論文 参考訳（メタデータ） (2024-10-30T13:29:47Z) - Don't Just Blame Over-parametrization for Over-confidence: Theoretical
Analysis of Calibration in Binary Classification [58.03725169462616]
理論上は、過剰パラメトリゼーションは過剰信頼の唯一の理由ではない。
我々は、ロジスティック回帰は本質的に信頼過剰であり、実現可能で、非パラメータな設定であることを示す。
おそらく驚くことに、過剰な信頼が常にそうであるとは限らないことも示します。
論文 参考訳（メタデータ） (2021-02-15T21:38:09Z) - A Weaker Faithfulness Assumption based on Triple Interactions [89.59955143854556]
より弱い仮定として, 2$-adjacency faithfulness を提案します。
より弱い仮定の下で適用可能な因果発見のための音方向規則を提案する。
論文 参考訳（メタデータ） (2020-10-27T13:04:08Z) - Why do you think that? Exploring Faithful Sentence-Level Rationales
Without Supervision [60.62434362997016]
文レベルで忠実な論理を出力するモデルを作成するために,異なる訓練枠組みを提案する。
本モデルでは,各理性に基づいて各課題を個別に解決し,その課題を最もよく解決した者に高いスコアを割り当てることを学ぶ。
論文 参考訳（メタデータ） (2020-10-07T12:54:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。