論文の概要: Exact Distinguishability in Non-Markovian Decision Processes
- arxiv url: http://arxiv.org/abs/2610.01527v1
- Date: Thu, 01 Oct 2026 12:04:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.101138
- Title: Exact Distinguishability in Non-Markovian Decision Processes
- Title(参考訳): 非マルコフ決定過程における排他的識別可能性
- Abstract要約: 固定行動ポリシーの下で収集されたデータが2つの候補を区別できるかどうかを検討する。
観測的に等価な候補間の後続確率は、標本サイズ毎に先行確率と等しいことが証明された。
次に、この等価性を正確に特徴付け、製品オートマトンのサイズを線形に決定するアルゴリズムであるPECを導出する。
- 参考スコア(独自算出の注目度): 0.8050185660669951
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Non-Markovian environments are often modeled as Regular Decision Processes (RDPs), where dynamics depend on the interaction history through a finite automaton. Existing offline guarantees for RDPs rely on a distinguishability assumption on the behaviour policy but provide no means of verifying it. When the assumption is violated, distinct models may explain the data equally well. We study when data collected under a fixed behaviour policy can distinguish two candidate RDPs. We prove that the posterior odds between observationally equivalent candidates remain equal to the prior odds at every sample size, even when the policy visits every automaton state, and verify both results formally in Lean 4. We then characterize this equivalence exactly and derive PEC, an algorithm that decides it in time linear in the size of the product automaton. The distinguishability assumption of prior work fails on three of our four test environments, and the experiment identified by PEC restores it in each case.
- Abstract(参考訳): 非マルコフ環境はしばしば規則決定過程(RDP)としてモデル化され、力学は有限オートマトンによる相互作用履歴に依存する。
既存の RDP のオフライン保証は、動作ポリシーの区別可能性の仮定に頼っているが、それを検証する手段は提供していない。
仮定が破られた場合、別のモデルでも同様にデータを説明できる。
固定行動ポリシーの下で収集されたデータが2つの候補DPを区別できるかどうかを検討する。
観察的に等価な候補間の後続のオッズが,すべての自動状態を訪問した場合でも,各サンプルサイズで先行のオッズに等しいことを証明し,Lean 4で両結果を正式に検証する。
次に、この等価性を正確に特徴付け、製品オートマトンのサイズを線形に決定するアルゴリズムであるPECを導出する。
先行作業の区別可能性の仮定は、我々の4つのテスト環境のうち3つで失敗し、PECによって特定された実験は、それぞれのケースでそれを復元する。
関連論文リスト
- Reuse Before You Retrieve: Diagnosing Headroom and Complementarity for Test-Time Augmentation of Embodied Multimodal Policies [56.86456077356948]
凍結言語アクション(VLA)ポリシーは、テスト時に徐々に改善されている。
追加のサンプリングは、ポリシーのロールアウト内により優れた振る舞いが存在する場合にのみ有効である。
検索は、関連するアクションがポリシーによって確実に表現されない場合に最も有用である。
論文 参考訳(メタデータ) (2026-08-18T08:11:31Z) - Adaptive auditing of AI systems with anytime-valid guarantees [8.752768302067638]
2つの'重複'の観点から仮説テストフレームワークを導入します。
我々は,オーディタを「賭けによる検証」の実行として形式化し,これは重複するヌル仮説をテストするための同時eプロセスに変換する。
提案手法は, 任意の値の型I誤差制御を維持し, 事前特定試験法より優れており, 統計的に厳密な結論に到達でき, 時には20の観測しか得られない。
論文 参考訳(メタデータ) (2026-05-07T22:33:48Z) - Unified Precision-Guaranteed Stopping Rules for Contextual Learning [8.604741134620559]
文脈学習は、個人の特徴をデータ収集を通じて行動にマッピングする決定ポリシーを学習しようとする。
本研究は,文脈的基準と政策価値基準の総合的基準の2つの精度基準の下で検討する。
我々は、未知のサンプリング分散を伴う文脈学習のための統一的な停止規則を、非構造化と構造化の両方の線形設定で開発する。
論文 参考訳(メタデータ) (2026-04-09T07:30:15Z) - A Sample Efficient Conditional Independence Test in the Presence of Discretization [54.047334792855345]
離散化されたデータに直接条件付き独立テスト(CI)は、誤った結論につながる可能性がある。
最近の進歩は、観測データをバイナライズすることで、潜伏変数間の適切なCI関係を推測することを目指している。
そこで本研究では,バイナライゼーションプロセスに依存しないサンプル効率のCIテストを提案する。
論文 参考訳(メタデータ) (2025-06-10T12:41:26Z) - Detecting and Identifying Selection Structure in Sequential Data [53.24493902162797]
我々は,音楽のシーケンスなどの実践的な状況において,潜在目的に基づくデータポイントの選択的包摂が一般的である,と論じる。
選択構造はパラメトリックな仮定や介入実験なしで識別可能であることを示す。
また、他の種類の依存関係と同様に、選択構造を検知し、識別するための証明可能な正当性アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-06-29T20:56:34Z) - Mitigating LLM Hallucinations via Conformal Abstention [70.83870602967625]
我々は,大言語モデルが一般ドメインでの応答をいつ無視すべきかを決定するための,原則化された手順を開発する。
我々は、幻覚率(エラー率)の厳密な理論的保証の恩恵を受けるため、共形予測手法を活用して、禁忌手順を開発する。
実験によって得られた共形禁忌法は, 種々の閉書, オープンドメイン生成質問応答データセットに, 幻覚率を確実に拘束する。
論文 参考訳(メタデータ) (2024-04-04T11:32:03Z) - General Identifiability and Achievability for Causal Representation
Learning [33.80247458590611]
本稿では,潜伏因果グラフにおけるノード毎の2つのハードアンカップリング介入を用いて,識別可能性と達成性を評価する。
同定可能性について,未結合の介入の下で潜伏因果モデルと変数の完全回復が保証されることを示す。
さらに、この分析は、2つのハードカップリングされた介入に対して、同一ノードが介在する2つの環境に関するメタデータが知られている場合に、識別可能性の結果を回復する。
論文 参考訳(メタデータ) (2023-10-24T01:47:44Z) - Sequential Predictive Two-Sample and Independence Testing [114.4130718687858]
逐次的非パラメトリック2サンプルテストと独立テストの問題点について検討する。
私たちは賭けによる(非パラメトリックな)テストの原則に基づいています。
論文 参考訳(メタデータ) (2023-04-29T01:30:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。