論文の概要: Don't Forget Its Variance! The Minimum Path Variance Principle for Accurate and Stable Score-Based Density Ratio Estimation

• arxiv url: http://arxiv.org/abs/2602.00834v1
• Date: Sat, 31 Jan 2026 17:57:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:33.42222
• Title: Don't Forget Its Variance! The Minimum Path Variance Principle for Accurate and Stable Score-Based Density Ratio Estimation
• Title（参考訳）: 変分を忘れるな! 高精度で安定なスコアベース密度比推定のための最小経路変分原理
• Authors: Wei Chen, Jiacheng Li, Shigui Li, Zhiqi Lin, Junmei Yang, John Paisley, Delu Zeng,
• Abstract要約: 抽出可能なトレーニング対象は,時間スコアの経路分散という,決定的かつ見過ごされた用語によって,理想的,根本的目標と異なることを示す。 我々は,経路分散を最小化するための基本性能を導入するMinPV(textbfMinimum textbfPath textbfVariance)原理を提案する。
• 参考スコア（独自算出の注目度）: 15.094412534684116
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Score-based methods have emerged as a powerful framework for density ratio estimation (DRE), but they face an important paradox in that, while theoretically path-independent, their practical performance depends critically on the chosen path schedule. We resolve this issue by proving that tractable training objectives differ from the ideal, ground-truth objective by a crucial, overlooked term: the path variance of the time score. To address this, we propose MinPV (\textbf{Min}imum \textbf{P}ath \textbf{V}ariance) Principle, which introduces a principled heuristic to minimize the overlooked path variance. Our key contribution is the derivation of a closed-form expression for the variance, turning an intractable problem into a tractable optimization. By parameterizing the path with a flexible Kumaraswamy Mixture Model, our method learns a data-adaptive, low-variance path without heuristic selection. This principled optimization of the complete objective yields more accurate and stable estimators, establishing new state-of-the-art results on challenging benchmarks.
• Abstract（参考訳）: スコアベースの手法は密度比推定(DRE)の強力なフレームワークとして登場したが、理論上はパスに依存しないが、実際の性能は選択した経路スケジュールに大きく依存する。 我々は,学習目標が理想的かつ根本的目標と異なることを,決定的かつ見過ごされた用語,すなわち時間スコアの経路分散によって証明することによって,この問題を解消する。 そこで我々はMinPV (\textbf{Min}imum \textbf{P}ath \textbf{V}ariance) 原則を提案する。 我々の重要な貢献は、分散に対する閉形式表現の導出であり、難解な問題を抽出可能な最適化に変換することである。 フレキシブルなクマラスワミー混合モデルを用いて経路をパラメータ化することにより,ヒューリスティックな選択を伴わないデータ適応型低分散経路を学習する。 この原理的な目的の最適化により、より正確で安定した推定器が得られ、挑戦的なベンチマークに関する新しい最先端の結果が確立される。

関連論文リスト

• From Noisy Traces to Stable Gradients: Bias-Variance Optimized Preference Optimization for Aligning Large Reasoning Models [90.45197506653341]
  大規模推論モデルは最終回答を生成する前に中間的推論トレースを生成する。 LRMと人間の好みの整合性は、モデルデプロイメントにとって重要な前提条件であり、まだ過小評価されていない。 共通の回避策は1つのサンプル軌道を最適化し、トレースサンプリングからかなり勾配のばらつきをもたらす。
  論文  参考訳（メタデータ） (2025-10-06T17:58:01Z)
• Aligning Latent Spaces with Flow Priors [72.24305287508474]
  本稿では,学習可能な潜在空間を任意の目標分布に整合させるための新しいフレームワークを提案する。 特に,提案手法は計算コストの高い確率評価を排除し,最適化時のODE解決を回避する。
  論文  参考訳（メタデータ） (2025-06-05T16:59:53Z)
• Contextual Optimization under Covariate Shift: A Robust Approach by Intersecting Wasserstein Balls [18.047245099229325]
  We propose a novel approach called Intersection Wasserstein-balls DRO (IW-DRO)。 IW-DROは分散ロバストな最適化フレームワークに複数の推定手法を統合する。 IW-DROは単一のWarsserstein-ball DROモデルと比較して優れた性能を示す。
  論文  参考訳（メタデータ） (2024-06-04T15:46:41Z)
• Optimal Baseline Corrections for Off-Policy Contextual Bandits [61.740094604552475]
  オンライン報酬指標の偏りのないオフライン推定を最適化する意思決定ポリシーを学習することを目指している。 学習シナリオにおける同値性に基づく単一のフレームワークを提案する。 我々のフレームワークは、分散最適非バイアス推定器の特徴付けを可能にし、それに対する閉形式解を提供する。
  論文  参考訳（メタデータ） (2024-05-09T12:52:22Z)
• Nearest Neighbor Sampling for Covariate Shift Adaptation [7.940293148084844]
  重みを推定しない新しい共変量シフト適応法を提案する。 基本的な考え方は、ソースデータセットの$k$-nearestの隣人によってラベル付けされたラベル付けされていないターゲットデータを直接扱うことだ。 実験の結果, 走行時間を大幅に短縮できることがわかった。
  論文  参考訳（メタデータ） (2023-12-15T17:28:09Z)
• A unified algorithm framework for mean-variance optimization in discounted Markov decision processes [7.510742715895749]
  本稿では,無限水平割引マルコフ決定過程(MDP)におけるリスク-逆平均分散最適化について検討する。 本稿では,処理不能なMPPを標準形式で再定義された報酬関数を持つ標準形式に変換するための擬似平均を導入する。 平均分散最適化のための2レベル最適化構造を持つ統合アルゴリズムフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-01-15T02:19:56Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• KL Guided Domain Adaptation [88.19298405363452]
  ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。 ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。 確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
  論文  参考訳（メタデータ） (2021-06-14T22:24:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。