論文の概要: A Riemannian Approach to Low-Rank Optimal Transport
- arxiv url: http://arxiv.org/abs/2606.12120v1
- Date: Wed, 10 Jun 2026 14:17:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.500979
- Title: A Riemannian Approach to Low-Rank Optimal Transport
- Title(参考訳): 低ランク最適輸送に対するリーマン的アプローチ
- Authors: Pratik Jawanpuria, Bamdev Mishra,
- Abstract要約: 低ランク最適輸送(OT)は古典的ソルバの2次スケーリングを緩和するが、既存のアプローチは1次ミラーの更新に大きく依存している。
低ランクOTのための統一リーマン幾何学的枠組みを提案し、バランスの取れたランクとアンバランスなランク-$r$正の係数結合をモデル化する。
我々の正則化のない1次および2次解法は、既存の最先端の低ランクOT解法よりも高速な収束と優れた性能を実現する。
- 参考スコア(独自算出の注目度): 10.296598409953278
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Low-rank optimal transport (OT) mitigates the quadratic scaling of classical solvers, yet existing approaches rely heavily on first-order mirror-descent updates that require careful hyperparameter tuning and ignore the optimization landscape's curvature. To address these limitations, we propose a unified Riemannian geometric framework for low-rank OT, modeling balanced and unbalanced rank-$r$ positive factored couplings as novel smooth embedded submanifolds of the positive orthant. By equipping these manifolds with the Fisher-Rao product metric, we derive tractable formulations for Riemannian projectors, retractions, and Hessian-vector products. Our cost-agnostic framework seamlessly extends to linear OT, Gromov-Wasserstein (GW), fused GW, and their unbalanced counterparts. For balanced OT, our geometric ingredients are computed via efficient conjugate-gradient and iterative Bregman updates. For the unbalanced OT, our operations elegantly reduce to closed-form scalings, completely eliminating inner iterative loops. In both regimes, per-iteration complexity scales linearly with dataset size, and we provide a rank-sufficiency certificate for global optimality verification. Extensive experiments across a range of problem sizes demonstrate that our regularization-free first- and second-order solvers achieve faster convergence and superior performance over existing state-of-the-art low-rank OT solvers.
- Abstract(参考訳): 低ランク最適輸送(OT)は古典的ソルバの2次スケーリングを緩和するが、既存のアプローチは、注意深いハイパーパラメータチューニングを必要とし、最適化ランドスケープの曲率を無視する一階ミラーの更新に大きく依存している。
これらの制限に対処するため、我々は低ランクOTのための統一リーマン幾何学的枠組みを提案し、正のオルサントの新しい滑らかな埋め込み部分多様体として、バランスの取れた階数と非バランスな階数-$r$正の因子結合をモデル化する。
これらの多様体にフィッシャー・ラオ積計量を組み込むことで、リーマン射影、簡約、およびヘッセンベクトル積に対して、引き込み可能な定式化を導出する。
我々のコスト非依存のフレームワークは、線形OT、Gromov-Wasserstein (GW)、融合GW、およびそれらの不均衡なフレームワークにシームレスに拡張する。
バランスの取れた OT に対して,我々の幾何学的成分は,効率的な共役次数および反復的なブレグマン更新によって計算される。
不均衡なOTに対して、我々の操作はエレガントに閉形式のスケーリングに還元され、内部反復ループを完全に排除する。
いずれの場合も,データセットサイズに比例して項目毎の複雑性は線形にスケールし,グローバルな最適性検証のためのランク充足証明を提供する。
様々な問題サイズにわたる大規模な実験により、我々の正則化のない1階と2階の解法は、既存の最先端のOT解法よりも高速な収束と優れた性能が得られることを示した。
関連論文リスト
- GPU-friendly and Linearly Convergent First-order Methods for Certifying Optimal $k$-sparse GLMs [7.079949618914198]
ブランチ・アンド・バウンド(BnB)フレームワークは、パースペクティブ・リラクゼーションを使って最適性を証明できる。
これらの緩和を解く既存の手法は計算集約的であり、スケーラビリティを制限している。
我々は線形収束性と計算効率の両立した近位フレームワークを開発する。
論文 参考訳(メタデータ) (2026-03-01T22:26:09Z) - Optimal Transportation and Alignment Between Gaussian Measures [80.4634530260329]
最適なトランスポート(OT)とGromov-Wasserstein(GW)アライメントは、データセットの解釈可能な幾何学的フレームワークを提供する。
これらのフレームワークは計算コストが高いため、大規模アプリケーションは2次コストでガウス分布の閉形式解に依存することが多い。
この研究は、ガウス的、二次的コスト OT と内部積 GW (IGW) のアライメントを包括的に扱い、文学におけるいくつかのギャップを埋めて適用性を広げる。
論文 参考訳(メタデータ) (2025-12-03T09:01:48Z) - LoRA meets Riemannion: Muon Optimizer for Parametrization-independent Low-Rank Adapters [43.04933165005961]
ローランド適応(LoRA)のための新しいフレームワークを提案する。
LoRAは、固定階多様体上で直接最適化することで、低階アダプタを幾何学的に扱う。
私たちのフレームワークは、これを実現するために3つの重要なコンポーネントを統合しています。
論文 参考訳(メタデータ) (2025-07-16T11:17:12Z) - Retraction-Free Decentralized Non-convex Optimization with Orthogonal Constraints [12.414718831844041]
提案手法は,textbfDecentralized textbfRetraction-textbfFree textbfGradient textbfTracking (DRFGT) と呼ばれる,リトラクションフリーランディングアルゴリズムの最初の分散バージョンを提案する。
実験により、DRFGTは計算オーバーヘッドを大幅に削減した最先端のリトラクションベースの手法と同等に動作することが示された。
論文 参考訳(メタデータ) (2024-05-19T15:50:57Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Energy-Guided Continuous Entropic Barycenter Estimation for General Costs [95.33926437521046]
任意のOTコスト関数に対して連続的エントロピーOT(EOT)バリセンタを近似する新しいアルゴリズムを提案する。
本手法は、弱いOTに基づくEOT問題の二重再構成に基づいている。
論文 参考訳(メタデータ) (2023-10-02T11:24:36Z) - Unbalanced Optimal Transport through Non-negative Penalized Linear
Regression [9.668391961887027]
対応する最適化問題は、非負のペナル化線形回帰問題として再構成可能であることを示す。
逆問題と非負行列分解から着想を得た新しいアルゴリズムを提案する。
UOTの正規化経路を2次ペナルティで計算する効率的なアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-06-08T07:16:37Z) - Support recovery and sup-norm convergence rates for sparse pivotal
estimation [79.13844065776928]
高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。
非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
論文 参考訳(メタデータ) (2020-01-15T16:11:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。