論文の概要: Solving Linear Inverse Problems using Higher-Order Annealed Langevin Diffusion

• arxiv url: http://arxiv.org/abs/2305.05014v4
• Date: Wed, 6 Dec 2023 14:11:40 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-08 19:02:14.426977
• Title: Solving Linear Inverse Problems using Higher-Order Annealed Langevin Diffusion
• Title（参考訳）: 高次Annealed Langevin拡散を用いた線形逆問題の解法
• Authors: Nicolas Zilberstein, Ashutosh Sabharwal, Santiago Segarra
• Abstract要約: 本稿では,Langevin拡散に基づく線形逆問題に対する解を提案する。 両プレコンディショナブル力学はよく定義されており、非コンディショナブルな場合と同じ一意な不変分布を持つことを証明している。
• 参考スコア（独自算出の注目度）: 36.230439476675826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a solution for linear inverse problems based on higher-order Langevin diffusion. More precisely, we propose pre-conditioned second-order and third-order Langevin dynamics that provably sample from the posterior distribution of our unknown variables of interest while being computationally more efficient than their first-order counterpart and the non-conditioned versions of both dynamics. Moreover, we prove that both pre-conditioned dynamics are well-defined and have the same unique invariant distributions as the non-conditioned cases. We also incorporate an annealing procedure that has the double benefit of further accelerating the convergence of the algorithm and allowing us to accommodate the case where the unknown variables are discrete. Numerical experiments in two different tasks in communications (MIMO symbol detection and channel estimation) and in three tasks for images showcase the generality of our method and illustrate the high performance achieved relative to competing approaches (including learning-based ones) while having comparable or lower computational complexity.
• Abstract（参考訳）: 我々は高次ランゲヴィン拡散に基づく線形逆問題に対する解を提案する。 より正確には、未知の変数の後続分布から確実にサンプリングできる事前条件付き二階および三階ランゲヴィン力学を提案し、その計算効率は、その第一条件と両方の力学の非条件バージョンよりも高い。 さらに, 事前条件付きダイナミクスはどちらも well-defined であり, 非条件付きの場合と同じ一意な不変分布を持つことを証明した。 また,アルゴリズムの収束をさらに加速し,未知変数が離散的な場合に対応するという2つの利点を持つアニーリング手順も取り入れた。 通信における2つの異なるタスク(MIMOシンボルの検出とチャネル推定)と画像に対する3つのタスクの数値実験は、我々の手法の汎用性を示し、計算複雑性を同等あるいは低めながら、競合するアプローチ(学習ベースを含む)と比較して高い性能を示す。

関連論文リスト

• Distributed Optimization via Energy Conservation Laws in Dilated Coordinates [5.35599092568615]
  本稿では,拡張座標における連続時間力学系の解析のためのエネルギー保存手法を提案する。 収束率を逆時間差係数で明示的に表すことができる。 その高速化された収束挙動は、実用的、大規模問題に対する様々な最先端分散最適化アルゴリズムに対してベンチマークされる。
  論文  参考訳（メタデータ） (2024-09-28T08:02:43Z)
• State-Free Inference of State-Space Models: The Transfer Function Approach [132.83348321603205]
  状態のない推論では、状態サイズが大きくなると大きなメモリや計算コストは発生しない。 提案した周波数領域転送関数のパラメトリゼーション特性を用いてこれを実現する。 長い畳み込みハイエナベースライン上での言語モデリングにおける難易度の改善を報告した。
  論文  参考訳（メタデータ） (2024-05-10T00:06:02Z)
• Proximal Algorithms for Accelerated Langevin Dynamics [57.08271964961975]
  我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。 統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
  論文  参考訳（メタデータ） (2023-11-24T19:56:01Z)
• Comparison of Single- and Multi- Objective Optimization Quality for Evolutionary Equation Discovery [77.34726150561087]
  進化的微分方程式の発見は、より優先順位の低い方程式を得るための道具であることが証明された。 提案した比較手法は、バーガーズ方程式、波動方程式、コルテヴェーグ・ド・ブリーズ方程式といった古典的なモデル例で示される。
  論文  参考訳（メタデータ） (2023-06-29T15:37:19Z)
• Reweighted Interacting Langevin Diffusions: an Accelerated Sampling Methodfor Optimization [28.25662317591378]
  本稿では, サンプリング手法を高速化し, 難解な最適化問題の解法を提案する。 提案手法は, 後部分布サンプリングとLangevin Dynamicsを用いた最適化の関連性について検討する。
  論文  参考訳（メタデータ） (2023-01-30T03:48:20Z)
• Second Order Ensemble Langevin Method for Sampling and Inverse Problems [10.406582941856099]
  本稿では,ランジュバン力学のアンサンブル近似に基づくサンプリング手法を提案する。 数値計算の結果は,逆問題における数値サンプリング器の基礎としての可能性を示している。
  論文  参考訳（メタデータ） (2022-08-09T02:17:22Z)
• Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with Variance Reduction and its Application to Optimization [50.83356836818667]
  勾配ランゲヴィン・ダイナミクスは非エプス最適化問題を解くための最も基本的なアルゴリズムの1つである。 本稿では、このタイプの2つの変種、すなわち、分散還元ランジュバンダイナミクスと再帰勾配ランジュバンダイナミクスを示す。
  論文  参考訳（メタデータ） (2022-03-30T11:39:00Z)
• Accelerating Stochastic Probabilistic Inference [1.599072005190786]
  変分推論(SVI)は確率モデルの良好な後部近似を求める能力により、ますます魅力的になっている。 最先端のSVIアルゴリズムのほとんど全てが一階最適化に基づいており、しばしば収束率の低下に悩まされている。 我々は二階法と変分推論のギャップを二階法に基づく変分推論手法によって埋める。
  論文  参考訳（メタデータ） (2022-03-15T01:19:12Z)
• Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
  平均場ランゲヴィン力学の収束速度解析について述べる。 ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
  論文  参考訳（メタデータ） (2022-01-25T17:13:56Z)
• Sharp global convergence guarantees for iterative nonconvex optimization: A Gaussian process perspective [30.524043513721168]
  回帰モデルのクラスに対する反復アルゴリズムの収束を解析するための一般的なレシピを開発する。 決定論的には、有限サンプル状態におけるアルゴリズムの収束率と最終的なエラーフロアの両方を正確にキャプチャする。 我々は、更新の交互化に基づく高次アルゴリズムと、下位次数に基づく一次アルゴリズムの両方に対して、鋭い収束率を示す。
  論文  参考訳（メタデータ） (2021-09-20T21:48:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。