論文の概要: Unbiased Estimation using Underdamped Langevin Dynamics

• arxiv url: http://arxiv.org/abs/2206.07202v2
• Date: Tue, 15 Aug 2023 19:12:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-17 18:00:31.951905
• Title: Unbiased Estimation using Underdamped Langevin Dynamics
• Title（参考訳）: アンダーダムランゲヴィンダイナミクスを用いた非バイアス推定
• Authors: Hamza Ruzayqat, Neil K. Chada, Ajay Jasra
• Abstract要約: 我々は,アンダーダムのランゲヴィン力学による非バイアスな手法の開発に焦点をあてる。 標準的な仮定の下では、推定子は有限分散であり、期待されるコストが有限であるか、あるいは高い確率で有限コストであることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work we consider the unbiased estimation of expectations w.r.t.~probability measures that have non-negative Lebesgue density, and which are known point-wise up-to a normalizing constant. We focus upon developing an unbiased method via the underdamped Langevin dynamics, which has proven to be popular of late due to applications in statistics and machine learning. Specifically in continuous-time, the dynamics can be constructed {so that as the time goes to infinity they} admit the probability of interest as a stationary measure. {In many cases, time-discretized versions of the underdamped Langevin dynamics are used in practice which are run only with a fixed number of iterations.} We develop a novel scheme based upon doubly randomized estimation as in \cite{ub_grad,disc_model}, which requires access only to time-discretized versions of the dynamics. {The proposed scheme aims to remove the dicretization bias and the bias resulting from running the dynamics for a finite number of iterations}. We prove, under standard assumptions, that our estimator is of finite variance and either has finite expected cost, or has finite cost with a high probability. To illustrate our theoretical findings we provide numerical experiments which verify our theory, which include challenging examples from Bayesian statistics and statistical physics.
• Abstract（参考訳）: 本研究では,非負のルベーグ密度を持ち,点的に上向きに正規化定数となる期待値w.r.t.~probability測度の偏りのない推定について考察する。 我々は、統計学や機械学習の応用により最近人気が高まっているランジェヴィン力学(Langevin dynamics)を用いて、バイアスのない方法の開発に注力する。 特に連続時間において、ダイナミクスは、時間が無限になるにつれて、静止測度として興味の確率を受け入れるように構成できる。 多くの場合、無傷ランジュバンダイナミクスの時間的離散化バージョンは、一定の数のイテレーションでのみ実行される、実際に使われます。 我々は,2倍のランダム化推定に基づく新しいスキームを,時間離散化バージョンのダイナミクスへのアクセスのみを必要とする \cite{ub_grad,disc_model} のように開発する。 提案手法は,有限個の反復のダイナミクスを実行することによって生じる二項化バイアスとバイアスを取り除くことを目的としている。 標準的な仮定の下では、推定子は有限分散であり、期待されるコストが有限であるか、あるいは高い確率で有限コストであることを示す。 理論的な知見を説明するために,ベイズ統計学や統計物理学の挑戦的な例を含む,理論を検証する数値実験を行う。

関連論文リスト

• Constrained Sampling with Primal-Dual Langevin Monte Carlo [15.634831573546041]
  この研究は、正規化定数まで既知の確率分布からサンプリングする問題を考察する。 一般非線形関数の期待値によって定義された統計的制約の集合を満たす。 我々は,目標分布とサンプルを同時に制約する離散時間原始二元Langevin Monte Carloアルゴリズム(PD-LMC)を提唱した。
  論文  参考訳（メタデータ） (2024-11-01T13:26:13Z)
• Distributionally Robust Instrumental Variables Estimation [10.765695227417865]
  本稿では,機器変数(IV)推定のための分散ロバストなフレームワークを提案する。 Wasserstein DRIVEは、特に実践者がモデル仮定やデータの分散シフトについて不確実な場合、実際に好まれることを示す。
  論文  参考訳（メタデータ） (2024-10-21T04:33:38Z)
• Learning Unstable Continuous-Time Stochastic Linear Control Systems [0.0]
  有限長状態軌跡に基づく連続時間力学におけるシステム同定の問題について検討する。 適切なランダム化制御入力を用いて不安定なオープンループ行列を推定する手法を提案する。 我々は,推定誤差が軌道長,励起率,信号対雑音比で減衰することを示す理論的性能保証を確立する。
  論文  参考訳（メタデータ） (2024-09-17T16:24:51Z)
• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• Extending Path-Dependent NJ-ODEs to Noisy Observations and a Dependent Observation Framework [6.404122934568861]
  ノイズの多い観測を処理できる新しい損失関数を導入し、これまで使用されていた損失関数が一貫した推定値に導かなかった理由を説明する。
  論文  参考訳（メタデータ） (2023-07-24T22:01:22Z)
• Continuous-Time Modeling of Counterfactual Outcomes Using Neural Controlled Differential Equations [84.42837346400151]
  反現実的な結果を予測することは、パーソナライズされたヘルスケアをアンロックする可能性がある。 既存の因果推論アプローチでは、観察と治療決定の間の通常の離散時間間隔が考慮されている。 そこで本研究では,腫瘍増殖モデルに基づく制御可能なシミュレーション環境を提案する。
  論文  参考訳（メタデータ） (2022-06-16T17:15:15Z)
• Uncertainty estimation of pedestrian future trajectory using Bayesian approximation [137.00426219455116]
  動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。 著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。 将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
  論文  参考訳（メタデータ） (2022-05-04T04:23:38Z)
• Time varying regression with hidden linear dynamics [74.9914602730208]
  線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。 反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
  論文  参考訳（メタデータ） (2021-12-29T23:37:06Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Optimization Variance: Exploring Generalization Properties of DNNs [83.78477167211315]
  ディープニューラルネットワーク(DNN)のテストエラーは、しばしば二重降下を示す。 そこで本研究では,モデル更新の多様性を測定するために,新しい測度である最適化分散(OV)を提案する。
  論文  参考訳（メタデータ） (2021-06-03T09:34:17Z)
• Removing the mini-batching error in Bayesian inference using Adaptive Langevin dynamics [0.0]
  我々は、動的摩擦を伴う標準慣性ランゲヴィン力学の修正である、Adaptive Langevin dynamics(アダプティブランゲヴィン力学)を提唱する。 本稿では,Adaptive Langevinの前提となる仮定の実践的妥当性について検討する。
  論文  参考訳（メタデータ） (2021-05-21T13:39:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。