論文の概要: Differentiable Particle Filtering without Modifying the Forward Pass
- arxiv url: http://arxiv.org/abs/2106.10314v1
- Date: Fri, 18 Jun 2021 18:58:52 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-25 08:01:58.114949
- Title: Differentiable Particle Filtering without Modifying the Forward Pass
- Title(参考訳): フォワードパスを変更せずに微分可能な粒子フィルタリング
- Authors: Adam \'Scibior, Vaden Masrani, Frank Wood
- Abstract要約: バックプロパゲーションで用いられるメッセージのみを修正することにより、限界確率の勾配の偏りのない推定値を得る方法を示す。
我々はこれを停止段階再サンプリングと呼び、自動微分ライブラリで容易に実装できる。
- 参考スコア(独自算出の注目度): 21.430102374292666
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: In recent years particle filters have being used as components in systems
optimized end-to-end with gradient descent. However, the resampling step in a
particle filter is not differentiable, which biases gradients and interferes
with optimization. To remedy this problem, several differentiable variants of
resampling have been proposed, all of which modify the behavior of the particle
filter in significant and potentially undesirable ways. In this paper, we show
how to obtain unbiased estimators of the gradient of the marginal likelihood by
only modifying messages used in backpropagation, leaving the standard forward
pass of a particle filter unchanged. Our method is simple to implement, has a
low computational overhead, does not introduce additional hyperparameters, and
extends to derivatives of higher orders. We call it stop-gradient resampling,
since it can easily be implemented with automatic differentiation libraries
using the stop-gradient operator instead of explicitly modifying the backward
messages.
- Abstract(参考訳): 近年, 粒子フィルタは勾配勾配に最適化されたエンド・ツー・エンドの成分として用いられている。
しかし、粒子フィルタの再サンプリングステップは微分可能ではなく、勾配の偏りや最適化の妨げとなる。
この問題を改善するために、いくつかの異なる種類の再サンプリングが提案されており、これらは全て、粒子フィルタの振る舞いを重要かつ望ましくない方法で修正している。
本稿では,バックプロパゲーションに使用されるメッセージのみを変更し,パーティクルフィルタの標準フォワードパスを変更せずに残すことで,限界確率の勾配の偏りのない推定値を得る方法を示す。
本手法は実装が簡単で計算オーバーヘッドが低く,追加のハイパーパラメータは導入せず,高次導関数にも拡張できる。
我々はこれを停止段階再サンプリングと呼び、後方メッセージを明示的に変更するのではなく、停止段階演算子を使用して自動微分ライブラリで容易に実装できる。
関連論文リスト
- Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - Implicit Maximum a Posteriori Filtering via Adaptive Optimization [4.767884267554628]
標準ベイズフィルタ問題を時間変化目標に対する最適化として検討する。
我々のフレームワークは、高次元システムに対して効率的で堅牢でスケーラブルなフィルタをもたらすことを示す。
論文 参考訳(メタデータ) (2023-11-17T15:30:44Z) - Nonlinear Filtering with Brenier Optimal Transport Maps [4.745059103971596]
本稿では,非線形フィルタリング,すなわち動的システムの状態の条件分布の計算の問題について述べる。
従来の逐次重要再サンプリング(SIR)粒子フィルタは、縮退確率や高次元状態を含むシナリオにおいて、基本的な制限に悩まされる。
本稿では,Brenier 最適輸送 (OT) マップを,現在の状態の分布から次のステップにおける後部分布へ推定する手法について検討する。
論文 参考訳(メタデータ) (2023-10-21T01:34:30Z) - Computational Doob's h-transforms for Online Filtering of Discretely
Observed Diffusions [65.74069050283998]
本研究では,Doobの$h$-transformsを近似する計算フレームワークを提案する。
提案手法は、最先端粒子フィルタよりも桁違いに効率的である。
論文 参考訳(メタデータ) (2022-06-07T15:03:05Z) - Reverse image filtering using total derivative approximation and
accelerated gradient descent [82.93345261434943]
線形あるいは非線形な画像フィルタの効果を逆転する新たな問題に対処する。
この仮定では、フィルタのアルゴリズムは未知であり、フィルタはブラックボックスとして利用できる。
この逆問題を、局所的なパッチベースのコスト関数の最小化として定式化し、全導関数を用いて勾配勾配の勾配を近似し、問題を解く。
論文 参考訳(メタデータ) (2021-12-08T05:16:11Z) - Variational Marginal Particle Filters [38.94802937100392]
状態空間モデル(SSM)の変分推論は一般に難しいことが知られている。
最近の研究は、不偏連続モンテカルロ推定器からSSMの変動目標を導出することに焦点を当てている。
変動限界粒子フィルタ(VMPF)を提案する。
論文 参考訳(メタデータ) (2021-09-30T13:55:16Z) - Fourier Series Expansion Based Filter Parametrization for Equivariant
Convolutions [73.33133942934018]
2次元フィルタパラメトリゼーション技術は同変畳み込みの設計において重要な役割を果たす。
F-Convというフィルタパラメトリゼーション法に基づく新しい同変畳み込み法
F-Convは、画像超解像タスクにおいて、以前のフィルタパラメトリゼーション法よりも明らかに優れている。
論文 参考訳(メタデータ) (2021-07-30T10:01:52Z) - Unsharp Mask Guided Filtering [53.14430987860308]
本論文の目的は,フィルタ中の構造伝達の重要性を強調した画像フィルタリングである。
アンシャープマスキングにインスパイアされたガイドフィルタの新しい簡易な定式化を提案する。
我々の定式化は低域フィルタに先立ってフィルタを楽しみ、単一の係数を推定することで明示的な構造伝達を可能にする。
論文 参考訳(メタデータ) (2021-06-02T19:15:34Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳(メタデータ) (2020-12-21T18:33:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。