論文の概要: Sinkhorn Flow: A Continuous-Time Framework for Understanding and
Generalizing the Sinkhorn Algorithm
- arxiv url: http://arxiv.org/abs/2311.16706v1
- Date: Tue, 28 Nov 2023 11:29:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-29 18:46:15.123071
- Title: Sinkhorn Flow: A Continuous-Time Framework for Understanding and
Generalizing the Sinkhorn Algorithm
- Title(参考訳): Sinkhorn Flow: Sinkhornアルゴリズムの理解と一般化のための継続的時間フレームワーク
- Authors: Mohammad Reza Karimi, Ya-Ping Hsieh, Andreas Krause
- Abstract要約: 我々はシンクホーンアルゴリズムの連続時間アナログを導入する。
この観点から、ノイズやバイアスに頑健なシンクホーンスキームの新たな変種を導出することができる。
- 参考スコア(独自算出の注目度): 49.45427072226592
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many problems in machine learning can be formulated as solving
entropy-regularized optimal transport on the space of probability measures. The
canonical approach involves the Sinkhorn iterates, renowned for their rich
mathematical properties. Recently, the Sinkhorn algorithm has been recast
within the mirror descent framework, thus benefiting from classical
optimization theory insights. Here, we build upon this result by introducing a
continuous-time analogue of the Sinkhorn algorithm. This perspective allows us
to derive novel variants of Sinkhorn schemes that are robust to noise and bias.
Moreover, our continuous-time dynamics not only generalize but also offer a
unified perspective on several recently discovered dynamics in machine learning
and mathematics, such as the "Wasserstein mirror flow" of (Deb et al. 2023) or
the "mean-field Schr\"odinger equation" of (Claisse et al. 2023).
- Abstract(参考訳): 機械学習における多くの問題は、確率測度の空間におけるエントロピー正規化最適輸送の解法として定式化することができる。
正準的アプローチは、その豊かな数学的性質で有名なシンクホーンイテレートを含む。
近年、シンクホーンアルゴリズムはミラー降下フレームワーク内で再キャストされ、古典的な最適化理論の洞察の恩恵を受けている。
そこで,この結果を基に,シンクホーンアルゴリズムの連続時間類似性を導入する。
この観点から、ノイズやバイアスに頑健なシンクホーンスキームの新しい変種を導出することができる。
さらに、我々の連続時間ダイナミクスは一般化するだけでなく、機械学習や数学で最近発見されたいくつかの力学、例えば(deb et al. 2023)の「wasserstein mirror flow」や(claisse et al. 2023)の「mean-field schr\"odinger equation」に対する統一的な視点を提供する。
関連論文リスト
- Already Moderate Population Sizes Provably Yield Strong Robustness to Noise [53.27802701790209]
2つの進化的アルゴリズムは、OneMaxベンチマークのランタイムを増大させることなく、一定のノイズ確率を許容できることを示す。
この結果は、ノイズのない子孫は親と騒々しい子孫の間に偏りのある均一な交叉と見なすことができるという、新しい証明の議論に基づいている。
論文 参考訳(メタデータ) (2024-04-02T16:35:52Z) - Accelerating Sinkhorn Algorithm with Sparse Newton Iterations [14.094908995798757]
本稿ではSinkhornアルゴリズムの拡張であるSinkhorn-Newton-Sparse(SNS)を提案する。
SNSは、広範囲の実践事例において、注文を桁違いに早く収束させる。
論文 参考訳(メタデータ) (2024-01-20T21:23:09Z) - Compressed online Sinkhorn [3.2534959204741085]
我々は最近導入された[Mensch and Peyr'e, 2020]オンラインシンクホーンアルゴリズムを再考する。
我々は、オンラインシンクホーンアルゴリズムの収束解析を改善し、パラメータ選択によって得られる新しいレートは、以前のレートよりも高速である。
次に, オンラインシンクホーン法と, オンラインシンクホーン法を組み合わせた圧縮オンラインシンクホーン法を提案する。
論文 参考訳(メタデータ) (2023-10-08T05:33:32Z) - Data Assimilation for Sign-indefinite Priors: A generalization of
Sinkhorn's algorithm [0.0]
更新された値が指定された限界値と一致するように,符号の不確定な多次元配列を再検討する。
我々のアプローチはシュル「オーディンガー問題」の理性に従っており、限界分布に一致するように「適切な」確率測度を更新することを目的としている。
論文 参考訳(メタデータ) (2023-08-22T21:13:39Z) - Non-asymptotic convergence bounds for Sinkhorn iterates and their
gradients: a coupling approach [10.568851068989972]
本稿では,アルゴリズムの効率的な解法を実現するために,元のOT問題であるエントロピックOT問題の緩和に焦点をあてる。
この定式化はSchr"odinger Bridge問題としても知られ、特に最適制御(SOC)と結びつき、人気のあるシンクホーンアルゴリズムで解くことができる。
論文 参考訳(メタデータ) (2023-04-13T13:58:25Z) - Simulating Markovian open quantum systems using higher-order series
expansion [1.713291434132985]
マルコフ開量子系の力学をシミュレーションするための効率的な量子アルゴリズムを提案する。
我々のアルゴリズムは概念的にクリーンであり、圧縮符号化なしで単純な量子プリミティブのみを使用する。
論文 参考訳(メタデータ) (2022-12-05T06:02:50Z) - Losing momentum in continuous-time stochastic optimisation [62.997667081978825]
近年,運動量に基づくアルゴリズムが特に普及している。
本研究では,運動量を伴う勾配降下の連続時間モデルを提案し,解析する。
我々は、時間とともに運動量を減らす際に、我々のシステムを世界規模のミニミザーに収束させることを示す。
論文 参考訳(メタデータ) (2022-09-08T10:46:05Z) - A Unified Framework for Implicit Sinkhorn Differentiation [58.56866763433335]
暗黙の微分によってシンクホーン層の解析勾配を求めるアルゴリズムを提案する。
特にGPUメモリなどのリソースが不足している場合には,計算効率が向上する。
論文 参考訳(メタデータ) (2022-05-13T14:45:31Z) - Debiased Sinkhorn barycenters [110.79706180350507]
最適輸送(OT)におけるエントロピー正則化(Entropy regularization)は、機械学習におけるWassersteinメトリクスやバリセンタに対する近年の関心の原動力となっている。
このバイアスがエントロピー正則化器を定義する基準測度とどのように密接に関連しているかを示す。
両世界の長所を保ち、エントロピーを滑らかにしないシンクホーン様の高速な反復をデバイアスド・ワッサースタインのバリセンタとして提案する。
論文 参考訳(メタデータ) (2020-06-03T23:06:02Z) - Forecasting Sequential Data using Consistent Koopman Autoencoders [52.209416711500005]
クープマン理論に関連する新しい物理学に基づく手法が導入された。
本稿では,既存の作業の多くと異なり,前方・後方のダイナミクスを生かした新しいコンシスタント・クープマン・オートエンコーダモデルを提案する。
このアプローチの鍵となるのは、一貫性のある力学と関連するクープマン作用素との相互作用を探索する新しい解析である。
論文 参考訳(メタデータ) (2020-03-04T18:24:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。