論文の概要: Identification and Learning of Semantic Observation Kernels: Partial Observation, Uniform Recovery, & Minimax Limits
- arxiv url: http://arxiv.org/abs/2607.23130v1
- Date: Sat, 25 Jul 2026 10:14:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:14.999569
- Title: Identification and Learning of Semantic Observation Kernels: Partial Observation, Uniform Recovery, & Minimax Limits
- Title(参考訳): 意味的観察カーネルの同定と学習:部分観察, 一様回復,ミニマックス限界
- Abstract要約: 我々は、宣言された状態に対する再現可能な後続法を、可観測言語法が支持できるかどうかを問う。
意味写像群 (semantic map group) は、意味等価な連続(continuation)であり、参照後続の保留ケースは、グループ化された言語確率から状態確率への半パラメトリック逆を識別する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Probabilistic text generators supply conditional distributions over tokens and complete verbal continuations, whereas scientific use often requires a posterior over a finite state. Large language models are the leading example: phrase probabilities depend on prompt wording, and model-printed percentages are generated text rather than state posteriors. More generally, we ask when an observable language law can support a reproducible posterior over declared states. A semantic map groups meaning-equivalent continuations; held-out cases with reference posteriors identify a semiparametric inverse from grouped language probabilities to state probabilities. The language law remains nonparametric and no hidden model quantity is used. This is principally a theory and methods paper and makes several contributions. On the theoretical side, we derive conditions for existence, identification, stable recovery, and sequential updating; concentration, asymptotic, and nonparametric rates; identified sets under truncated probabilities; and a minimax boundary for uniform stability. On the empirical side, theorem- directed simulations verify recovery rates, compatible-set coverage, and stability gates, while two frozen language-model studies illustrate held-out recovery and conformal coverage. The results specify when observable language probabilities can provide an auditable state measurement without being interpreted as internal belief.
- Abstract(参考訳): 確率的テキストジェネレータはトークン上の条件分布と完全な動詞継続を提供するが、科学的には有限状態以上の後部を必要とすることが多い。
大きな言語モデルは主要な例である: 句の確率は即時語遣いに依存し、モデル印刷されたパーセンテージは状態の後部ではなく、生成されたテキストである。
より一般的には、観測可能な言語法が宣言された状態よりも再現可能な後続法を支持できるかどうかを問う。
意味写像群 (semantic map group) は、意味等価な連続(continuation)であり、参照後続の保留ケースは、グループ化された言語確率から状態確率への半パラメトリック逆を識別する。
言語法則は非パラメトリックであり、隠されたモデル量を使用しない。
これは主に理論と方法の論文であり、いくつかの貢献をしている。
理論的には, 存在条件, 同定条件, 安定回復条件, 逐次更新条件, 濃度, 漸近速度および非パラメトリックレート, 切り離された確率下での特定集合, 均一安定性のためのミニマックス境界を導出する。
実証的な側面から、定理指向のシミュレーションは、回復率、互換性のあるセットカバレッジ、安定性ゲートを検証し、2つの凍結言語モデル研究は、保留されたリカバリと整合性カバレッジを示している。
その結果、観測可能な言語確率が、内的信念として解釈されることなく、監査可能な状態測定を提供できるかが特定される。
関連論文リスト
- How to Verify Consistency of Probabilistic Claims [49.47758039235095]
予測モデルの一貫性を証明するために,対話型PCPを構築する。
添加音の小さなギャップがBへの依存を除去することを示す。
我々は,対話型PCPを,自身の一貫性を証明するための予測モデルに向けた第一歩だと考えている。
論文 参考訳(メタデータ) (2026-08-11T17:41:39Z) - Calibrating Semantic Uncertainty from Observable Language-Model Probabilities [0.0]
言語モデルは単語よりも確率を生み出すが、専門的な決定は意味のある状態に対して不確実性を必要とする。
宣言された状態に対する言語応答から確率への応答に対する確率から、事前に特定され、検証可能なブリッジであるセマンティックマップを導入する。
我々は、存在、独自性、安定性、シーケンシャルなベイズ更新のための後エラー境界と条件を導出する。
論文 参考訳(メタデータ) (2026-07-20T00:29:04Z) - Finite Certificates for In-Context Determinacy and a Threshold Theory of Emergence in Language Models [0.2864713389096699]
本稿では,文脈条件付き言語モデル行動を検証するためのモデル理論フレームワークを開発する。
有限コンテキスト証明書、ペアセパレータのヒットセット、クエリ教育のディメンション、プロンプト保存基準、スケール制限証人を提供する。
論文 参考訳(メタデータ) (2026-05-30T14:07:58Z) - The Need for an External Observer Formalizing the Sufficiency Gap: A Mathematical Extension of Mixture Identifiability and Contextual Grounding in Sequence Models [0.0]
我々は、決定論的テキスト構造と、保存されていない潜在状態によって支配される1つのランダム構造を持つ2元混合登録プロセスを構築した。
結果として生じるエントロピー差は通常の最適化誤差ではない。
補正信号は、その忠実度が誤解を招く状態に割り当てられたテキストのみの後方重みを超えると、テキスト履歴によって引き起こされる後続のオッズを正確に反転させる。
論文 参考訳(メタデータ) (2026-05-26T08:53:11Z) - When Is Next-Token Prediction Useful? Marginalization, Ergodicity, Mixture Identifiability, Local Sufficiency, RAG, Tools, and Programming [0.0]
モデルトレーニングを限界テキストのみの法則の推定と解釈するには、定常性、代表性、エルゴディダリティの強い仮定が必要である、と論文は主張する。
本論文は、検索拡張生成(RAG)と、条件付き充足装置としてのツールの使用を解釈する。
論文 参考訳(メタデータ) (2026-05-22T06:34:17Z) - Agent-BRACE: Decoupling Beliefs from Actions in Long-Horizon Tasks via Verbalized State Uncertainty [70.43119366710778]
本稿では,Agens-BRACE: Agent Belief state Representation by Abstraction and Confidence Estimationを紹介する。
LLMエージェントを信頼状態モデルと政策モデルに分離し、強化学習を通じて協調的に最適化する手法である。
長期にわたる部分的に観察可能な言語環境において、平均して+14.5%の絶対的な改善を実現している。
論文 参考訳(メタデータ) (2026-05-12T02:37:04Z) - Diverse Dictionary Learning [47.381311762862985]
観測データ$X = g(Z)$のみを与えられた場合、潜伏変数$Z$と生成プロセス$g$は未知であり、追加の仮定なしで$Z$を回収することは誤りである。
我々は、任意の観測に関連付けられた潜伏変数の交叉、補間、対称的な相違と、観測される潜伏変数の依存関係構造が、いまだ適切な不確定性まで同定可能であることを示す。
論文 参考訳(メタデータ) (2026-04-19T18:18:34Z) - FactReasoner: A Probabilistic Approach to Long-Form Factuality Assessment for Large Language Models [59.171510592986735]
本稿では,確率論的推論に依拠した新たな事実性評価器FactReasonerを提案する。
ラベル付きおよびラベルなしのベンチマークデータセットの実験は、FactReasonerが最先端のプロンプトベースのアプローチよりも大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2025-02-25T19:01:48Z) - General detectability measure [45.85698554568285]
資源のない状態から資源状態を排除することは、量子情報の基本課題である。
我々は、与えられた$n$-tensorの積状態を検出するために、故障確率の最適指数減衰率を導出した。
論文 参考訳(メタデータ) (2025-01-16T05:39:22Z) - Detecting Renewal States in Chains of Variable Length via Intrinsic
Bayes Factors [0.0]
本稿では,各更新状態の妥当性を評価するために,固有ベイズ係数(Intrinsic Bayes Factor)を提案する。
本手法の強みを示すために,2つのバイナリモデルモデルから生成された人工データセットと,言語学の分野から得られた1つの例を分析した。
論文 参考訳(メタデータ) (2021-10-14T14:57:44Z) - Nested Counterfactual Identification from Arbitrary Surrogate
Experiments [95.48089725859298]
観測と実験の任意の組み合わせからネスト反事実の同定について検討した。
具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
論文 参考訳(メタデータ) (2021-07-07T12:51:04Z) - Tractable Inference in Credal Sentential Decision Diagrams [116.6516175350871]
確率感性決定図は、解離ゲートの入力が確率値によってアノテートされる論理回路である。
我々は、局所確率を質量関数のクレーダル集合に置き換えることができる確率の一般化である、クレーダル感性決定図を開発する。
まず,ノイズの多い7セグメント表示画像に基づく簡単なアプリケーションについて検討する。
論文 参考訳(メタデータ) (2020-08-19T16:04:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。