論文の概要: Foundations of Stochastic Lexical Calculus: Semantic Descent and Random Dynamics on Probability Simplices
- arxiv url: http://arxiv.org/abs/2609.20207v1
- Date: Sat, 25 Jul 2026 12:17:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.635176
- Title: Foundations of Stochastic Lexical Calculus: Semantic Descent and Random Dynamics on Probability Simplices
- Title(参考訳): 確率論的語彙計算の基礎:確率の単純性に関する意味的発散とランダムダイナミクス
- Abstract要約: 大規模言語モデルは単語よりも即時依存確率を生成する一方、科学的システムは証拠が到着すると更新できる意味のある状態に対して不確実性を必要とする。
我々は、言語由来の確率がこのようなシーケンシャルな状態表現をサポートするかどうかを決定するための観測可能なフレームワークを開発する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models produce prompt-dependent probabilities over words, whereas scientific systems require uncertainty over meaningful states that can be updated as evidence arrives. We develop an observable framework for determining when language-derived probabilities support such a sequential state representation. Theoretically, we define typed measurable transformations of contextual language, construct a minimal closed representation, and give necessary and sufficient conditions for semantic updates to exist uniquely. We bound irreducible nonclosure and accumulated error, and under average contraction prove existence, uniqueness and stability of an external random recursion on a probability simplex. These results define a stochastic lexical calculus without attributing an internal calculus to the language model. Empirically, frozen experiments test the observable implications. Raw prompt-conditioned probabilities fail the prespecified invariance gate; after prompt-specific calibration, a common three-state representation passes the stability gates and covers 28 of 30 untouched eight-step paths, or 0.933 at nominal level 0.90. Accordingly, language probabilities support a stochastic state only conditionally on verified closure, stability and coverage within a declared operating domain.
- Abstract(参考訳): 大規模言語モデルは単語よりも即時依存確率を生成する一方、科学的システムは証拠が到着すると更新できる意味のある状態に対して不確実性を必要とする。
我々は、言語由来の確率がこのようなシーケンシャルな状態表現をサポートするかどうかを決定するための観測可能なフレームワークを開発する。
理論的には、文脈言語の型付き可測変換を定義し、最小限の閉じた表現を構築し、意味的更新に必要かつ十分な条件を与える。
我々は、既約な非閉包と累積誤差を負い、平均的な収縮の下では、確率的単純性上の外部ランダム再帰の存在、一意性、安定性が証明される。
これらの結果は、内部計算を言語モデルに関連付けることなく確率的語彙計算を定義する。
実験的に、凍結実験は観測可能な影響をテストする。
プロンプト条件付き確率は、予め規定された不変性ゲートに失敗し、プロンプト固有のキャリブレーションの後、一般的な三状態表現は安定性ゲートを通過し、30の未接触8ステップパスのうち28か0.933を名目レベル0.90でカバーする。
したがって、言語確率は、宣言された操作領域内の証明されたクロージャ、安定性、カバレッジのみを条件に確率的状態をサポートする。
関連論文リスト
- Identification and Learning of Semantic Observation Kernels: Partial Observation, Uniform Recovery, & Minimax Limits [0.0]
我々は、宣言された状態に対する再現可能な後続法を、可観測言語法が支持できるかどうかを問う。
意味写像群 (semantic map group) は、意味等価な連続(continuation)であり、参照後続の保留ケースは、グループ化された言語確率から状態確率への半パラメトリック逆を識別する。
論文 参考訳(メタデータ) (2026-07-25T10:14:58Z) - Calibrating Semantic Uncertainty from Observable Language-Model Probabilities [0.0]
言語モデルは単語よりも確率を生み出すが、専門的な決定は意味のある状態に対して不確実性を必要とする。
宣言された状態に対する言語応答から確率への応答に対する確率から、事前に特定され、検証可能なブリッジであるセマンティックマップを導入する。
我々は、存在、独自性、安定性、シーケンシャルなベイズ更新のための後エラー境界と条件を導出する。
論文 参考訳(メタデータ) (2026-07-20T00:29:04Z) - Semantic Self-Distillation for Language Model Uncertainty [19.97226069762587]
軽量な学生モデルでは,言語モデルが応答トークンを生成する前に,迅速な条件付き不確実性を推定できることを示す。
この分布のエントロピーは、幻覚予測のための効果的な不確実性信号を提供し、確率密度は、候補回答を信頼性のために評価することを可能にする。
TriviaQAでは,学生モデルが幻覚予測のための有限サンプルセマンティック分散に適合あるいは優れ,ドメイン外応答検出のための強い信号を提供する。
論文 参考訳(メタデータ) (2026-02-04T14:03:28Z) - Semantic Energy: Detecting LLM Hallucination Beyond Entropy [106.92072182161712]
大規模言語モデル(LLM)は、現実のアプリケーションにますますデプロイされているが、幻覚の影響を受けやすいままである。
不確実性推定は、そのような幻覚を検出するための実現可能なアプローチである。
本稿では,新しい不確実性推定フレームワークであるセマンティック・エナジーを紹介する。
論文 参考訳(メタデータ) (2025-08-20T07:33:50Z) - Inv-Entropy: A Fully Probabilistic Framework for Uncertainty Quantification in Language Models [12.743668975795144]
大規模言語モデル(LLM)は自然言語処理を変換しているが、信頼性の高いデプロイメントには有効な不確実性定量化(UQ)が必要である。
既存のUQ手法はしばしば確率論的解釈を欠いている。
本稿では, 与えられた出力に条件付き入力空間の多様性を評価することによって不確実性を定量的に評価する, 逆モデルに基づく完全確率的フレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-11T13:02:17Z) - User-defined Event Sampling and Uncertainty Quantification in Diffusion
Models for Physical Dynamical Systems [49.75149094527068]
拡散モデルを用いて予測を行い,カオス力学系に対する不確かさの定量化が可能であることを示す。
本研究では,雑音レベルが低下するにつれて真の分布に収束する条件付きスコア関数の確率的近似法を開発する。
推論時に非線形ユーザ定義イベントを条件付きでサンプリングすることができ、分布の尾部からサンプリングした場合でもデータ統計と一致させることができる。
論文 参考訳(メタデータ) (2023-06-13T03:42:03Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳(メタデータ) (2021-11-22T08:54:10Z) - Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware
Regression [91.3373131262391]
不確かさが唯一の確実性である。
伝統的に、直接回帰定式化を考慮し、ある確率分布の族に出力空間を変更することによって不確実性をモデル化する。
現在のレグレッション技術における不確実性をモデル化する方法は、未解決の問題である。
論文 参考訳(メタデータ) (2021-03-25T06:56:09Z) - Tractable Inference in Credal Sentential Decision Diagrams [116.6516175350871]
確率感性決定図は、解離ゲートの入力が確率値によってアノテートされる論理回路である。
我々は、局所確率を質量関数のクレーダル集合に置き換えることができる確率の一般化である、クレーダル感性決定図を開発する。
まず,ノイズの多い7セグメント表示画像に基づく簡単なアプリケーションについて検討する。
論文 参考訳(メタデータ) (2020-08-19T16:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。