論文の概要: How Wrong Can a Good Predictor Be? Diverging Updates with Vanishing Predictive KL
- arxiv url: http://arxiv.org/abs/2609.11132v1
- Date: Thu, 10 Sep 2026 06:22:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.220967
- Title: How Wrong Can a Good Predictor Be? Diverging Updates with Vanishing Predictive KL
- Title（参考訳）: 予測能力の低下はどんなものか? 予測のKLが消える
- Abstract要約: 更新写像の間の非有界なギャップは、定常対称ガウス HMM において、固定有限$Kge2$ に対して消滅する予測的 KL と共存することができる。
この構成は$K$で固定されており、圧縮が無害である場合や内部のギャップがタスク損失を発生させる必要がある場合の普遍的な基準を提供していない。
- 参考スコア（独自算出の注目度）: 8.929322780616545
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Accurate posterior prediction need not require accurate approximation of Bayesian updates. We prove that an unbounded gap between the update maps can coexist with vanishing predictive KL for every fixed finite $K\ge2$ in a stationary symmetric Gaussian HMM. Exact Bayesian mixing and an explicit deterministic radial filter act on the same $K-1$ belief coordinates. As $q\to0^+$, their separation in centered logits in the worst case grows at least linearly in the natural confidence scale $L_K(q)$, while their categorical $D_{\mathrm{KL}}(\mathrm{exact}\|\mathrm{radial})$ vanishes at the same explicit witness. Along stationary HMM trajectories, the expected terminal KL between filtered posteriors also converges to zero at $H(q)=\lceil-\log(q)/c\rceil+1$. Typical blocks without switches drive both filters into a common confidence cone, where softmax curvature suppresses their disagreement; a single Gaussian maximal event controls adaptive noise. A sweep with equally spaced Gaussians over $K\in\{2,4,8\}$ illustrates the opposing trends, and binary controls at long horizons compare saturating and nonsaturating recurrences. The result isolates two missing links between internal update gaps and predictive cost: the contribution of separating states to expected loss and decoder sensitivity. Thus even an unbounded internal update gap does not by itself certify predictive failure. The construction is fixed in $K$ and does not provide a universal criterion for when compression is harmless or characterize when internal gaps must incur task loss.
- Abstract（参考訳）: 正確な後方予測はベイズ更新の正確な近似を必要としない。
定常対称ガウス HMM において、更新写像間の非有界なギャップは、固定有限$K\ge2$ に対して消滅する予測的 KL と共存できることを示す。
厳密なベイズ混合と明示的な決定論的ラジアルフィルタは、同じK-1$の信念座標に作用する。
q\to0^+$として、最悪の場合における中心ロジットの分離は、少なくとも自然な信頼尺度$L_K(q)$において線形に増大するが、それらの分類学$D_{\mathrm{KL}}(\mathrm{exact}\|\mathrm{radial})$は、同じ明示的な証人に対して消滅する。
定常HMM軌道とともに、フィルター後部の間の期待端子 KL も、$H(q)=\lceil-\log(q)/c\rceil+1$ で 0 に収束する。
スイッチのない典型的なブロックは、両方のフィルタを共通の信頼円錐に駆動し、ソフトマックス曲率はその不一致を抑制する。
K\in\{2,4,8\}$ 上の等間隔ガウスによる一掃は、反対の傾向を示し、長い地平線における二元制御は飽和と非飽和の繰り返しを比較する。
その結果、内部更新ギャップと予測コストの間に欠落している2つのリンクを分離した。
したがって、非有界な内部更新ギャップでさえ、それ自体が予測失敗を証明していない。
この構成は$K$で固定されており、圧縮が無害である場合や内部のギャップがタスク損失を発生させる必要がある場合の普遍的な基準を提供していない。
関連論文リスト
- Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
LEDGERは、非負のバランスでネット消費を観測した。
LEDGERは、$O(sqrt T/V)$期待の後悔と$O(sqrt V,T3/4+sqrt T)$期待の予算違反を$Vin[T-1/2,1]$で達成する。
論文 参考訳（メタデータ） (2026-09-07T01:38:41Z) - Demixing Sparse Signals from Nonlinear Observations using Generalized Non-convex Regularization [0.0]
重畳の非線形観測回数が限られていることから, スパースベクトルの回復を考察する。
本稿では, 一般化畳み込みペナルティとハマー化データ忠実度を組み合わせた正規化に基づくフレームワークを提案する。
仮に局所的な定常点を保った位数$sqrtslog(n)/m$の誤差境界を導出する。
論文 参考訳（メタデータ） (2026-07-12T07:29:39Z) - Asymptotic-Preserving A Posteriori Analysis of Diffusion and Flow-Matching Samplers [0.6768558752130311]
拡散及びフローマッチングサンプリングは、学習した確率フローODEを、大きなノイズスケールから小さな終端フロア($_min$)まで統合し、スコアが硬く、フローが境界層を発達させる。
特異摂動パラメータとして$_min$を扱い、どの固定ステップサンプリングが解けるかを決定する。
論文 参考訳（メタデータ） (2026-07-05T04:48:33Z) - Rao-Blackwellized Score Matching on Manifolds [0.0]
本研究では,滑らかな組込み多様体上に潜伏分布が支持された場合,DSM(Denoising score matching)について検討する。
最近点射影 $(X)$ 上の条件付けは、この特異点を正則に除去することを示す。
次に、この標準的対象の小さな雑音展開を計算する。
論文 参考訳（メタデータ） (2026-05-25T08:18:45Z) - Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳（メタデータ） (2026-05-21T08:57:38Z) - Adaptive Confidence Intervals in Efron's Gaussian Two-Groups Model [28.636700996382558]
敵のノイズに満ちた性質により、Efronのガウス的二群分数モデルにおいて、ヌル位置パラメータ$$に対する信頼区間を研究する。
信頼区間の最小最適長を、未知の割合の汚染と全てのノイズに満ちた敵に対して、所定のカバレッジレベルで特徴付ける。
論文 参考訳（メタデータ） (2026-04-28T22:40:54Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳（メタデータ） (2026-02-19T17:21:15Z) - Scale-Invariant Regret Matching and Online Learning with Optimal Convergence: Bridging Theory and Practice in Zero-Sum Games [60.871651115241406]
ゼロサムゲームにおける理論と実践の間、何十年にもわたってかなりのシャズムが一階法によって浸食されてきた。
我々は、IREG-PRM$+$と呼ぶPRM$+$の新しいスケール不変かつパラメータフリーな変種を提案する。
ベンチマークゲームでは, PRM$+$と同等でありながら, 最適収束保証を$T-1/2$, $T-1$とする。
論文 参考訳（メタデータ） (2025-10-06T00:33:20Z) - Anchor-MoE: A Mean-Anchored Mixture of Experts For Probabilistic Regression [0.0]
本稿では,確率的および点回帰の両方を扱うAnchored Mixture of Experts (Anchor-MoE)モデルを提案する。
Anchor-MoE がminimax-optimal $L2$ risk rate を達成することを示す。
RMSEとNLLの強いNGベースラインと一貫して一致または超える。
論文 参考訳（メタデータ） (2025-08-22T21:12:41Z) - Conformal Predictions under Markovian Data [50.24983453990065]
マルコフデータに適用した場合の分割等角予測法について検討する。
データ間の相関によって引き起こされる被覆率の差を定量化する。
K$-split CP は鎖の混合特性に適応する手法である。
論文 参考訳（メタデータ） (2024-07-21T22:01:09Z) - Improved Algorithm for Adversarial Linear Mixture MDPs with Bandit
Feedback and Unknown Transition [71.33787410075577]
線形関数近似,未知遷移,および逆損失を用いた強化学習について検討した。
我々は高い確率で$widetildeO(dsqrtHS3K + sqrtHSAK)$ regretを実現する新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-03-07T15:03:50Z) - Online nonparametric regression with Sobolev kernels [99.12817345416846]
我々は、ソボレフ空間のクラス上の後悔の上限を$W_pbeta(mathcalX)$, $pgeq 2, beta>fracdp$ とする。
上界は minimax regret analysis で支えられ、$beta> fracd2$ または $p=infty$ の場合、これらの値は(本質的に)最適である。
論文 参考訳（メタデータ） (2021-02-06T15:05:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。