論文の概要: Bregman divergence based em algorithm and its application to classical
and quantum rate distortion theory
- arxiv url: http://arxiv.org/abs/2201.02447v3
- Date: Thu, 5 May 2022 03:43:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-02 01:28:21.041035
- Title: Bregman divergence based em algorithm and its application to classical
and quantum rate distortion theory
- Title(参考訳): bregman divergenceに基づくemアルゴリズムとその古典・量子速度歪理論への応用
- Authors: Masahito Hayashi
- Abstract要約: 本稿では,Bregman分散系における指数サブファミリーと混合サブファミリー間のBregman分散の最小化問題に対処する。
このアルゴリズムを量子設定を含む歪みとその変種の評価に適用する。
- 参考スコア(独自算出の注目度): 61.12008553173672
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We formulate em algorithm in the framework of Bregman divergence, which is a
general problem setting of information geometry. That is, we address the
minimization problem of the Bregman divergence between an exponential subfamily
and a mixture subfamily in a Bregman divergence system. Then, we show the
convergence and its speed under several conditions. We apply this algorithm to
rate distortion and its variants including the quantum setting, and show the
usefulness of our general algorithm. In fact, existing applications of
Arimoto-Blahut algorithm to rate distortion theory make the optimization of the
weighted sum of the mutual information and the cost function by using the
Lagrange multiplier. However, in the rate distortion theory, it is needed to
minimize the mutual information under the constant constraint for the cost
function. Our algorithm directly solves this minimization. In addition, we have
numerically checked the convergence speed of our algorithm in the classical
case of rate distortion problem.
- Abstract(参考訳): 我々は情報幾何の一般的な問題設定であるbregman divergenceの枠組みでemアルゴリズムを定式化する。
すなわち、ブレグマン発散系における指数関数的部分族と混合部分族との間のブレグマン発散の最小化問題に対処する。
そして、いくつかの条件下で収束と速度を示す。
このアルゴリズムを量子設定を含む歪みとその変種の評価に適用し,本アルゴリズムの有用性を示す。
実際、有本ブラフトアルゴリズムのレート歪理論への既存の応用は、ラグランジュ乗算器を用いて相互情報の重み付き和とコスト関数の最適化を行う。
しかし、速度歪み理論では、コスト関数の定数制約の下での相互情報の最小化が必要である。
我々のアルゴリズムはこの最小化を直接解決する。
さらに, 従来のレート歪み問題において, アルゴリズムの収束速度を数値的に検証した。
関連論文リスト
- Alternating Minimization Schemes for Computing Rate-Distortion-Perception Functions with $f$-Divergence Perception Constraints [10.564071872770146]
離散メモリレスソースに対するRDPF(Ralse-Distortion-Perception Function)の計算について検討した。
最適パラメトリック解を特徴付ける。
歪みと知覚制約について十分な条件を提供する。
論文 参考訳(メタデータ) (2024-08-27T12:50:12Z) - Bregman-divergence-based Arimoto-Blahut algorithm [53.64687146666141]
本稿では,Arimoto-BlahutアルゴリズムをBregman-Diversergenceシステム上で定義された一般関数に一般化する。
本稿では,古典的および量子速度歪み理論に適用可能な凸最適化自由アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-08-10T06:16:24Z) - A Bregman Proximal Perspective on Classical and Quantum Blahut-Arimoto Algorithms [6.281229317487581]
Blahut-Arimotoアルゴリズムは、古典的なチャネル容量とレート歪み関数を計算するためのよく知られた方法である。
近年の研究では、様々な量子アナログを計算するためにこのアルゴリズムを拡張している。
このBlahut-Arimotoアルゴリズムがミラー降下の特別な例であることを示す。
論文 参考訳(メタデータ) (2023-06-07T15:02:10Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳(メタデータ) (2023-02-13T19:57:17Z) - First-Order Algorithms for Nonlinear Generalized Nash Equilibrium
Problems [88.58409977434269]
非線形一般化ナッシュ均衡問題(NGNEP)における平衡計算の問題を考える。
我々の貢献は、2次ペナルティ法と拡張ラグランジアン法に基づく2つの単純な一階アルゴリズムフレームワークを提供することである。
これらのアルゴリズムに対する漸近的理論的保証を提供する。
論文 参考訳(メタデータ) (2022-04-07T00:11:05Z) - The Last-Iterate Convergence Rate of Optimistic Mirror Descent in
Stochastic Variational Inequalities [29.0058976973771]
本稿では,アルゴリズムの収束率とBregman関数によって誘導される局所幾何学との複雑な関係を示す。
この指数はアルゴリズムの最適ステップサイズポリシーと得られた最適レートの両方を決定する。
論文 参考訳(メタデータ) (2021-07-05T09:54:47Z) - A proximal-proximal majorization-minimization algorithm for nonconvex
tuning-free robust regression problems [4.261680642170457]
非回帰問題に対する PMM (proximal-proximal majorization-minimization) アルゴリズムを提案する。
提案アルゴリズムは既存の最先端アルゴリズムよりも優れている。
論文 参考訳(メタデータ) (2021-06-25T15:07:13Z) - An Asymptotically Optimal Primal-Dual Incremental Algorithm for
Contextual Linear Bandits [129.1029690825929]
複数の次元に沿った最先端技術を改善する新しいアルゴリズムを提案する。
非文脈線形帯域の特別な場合において、学習地平線に対して最小限の最適性を確立する。
論文 参考訳(メタデータ) (2020-10-23T09:12:47Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳(メタデータ) (2020-06-11T17:43:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。