論文の概要: Mirror Sinkhorn: Fast Online Optimization on Transport Polytopes
- arxiv url: http://arxiv.org/abs/2211.10420v1
- Date: Fri, 18 Nov 2022 18:35:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-21 14:15:03.961219
- Title: Mirror Sinkhorn: Fast Online Optimization on Transport Polytopes
- Title(参考訳): Mirror Sinkhorn: トランスポートポリトープの高速オンライン最適化
- Authors: Marin Ballu, Quentin Berthet
- Abstract要約: 最適転送は機械学習において重要なツールであり、データの幾何学的性質をキャプチャすることができる。
本研究では、シンクホーン行列スケーリングとミラー降下を利用して、この領域の凸目標を最小化する最適化アルゴリズムを提案する。
凸関数を最小化するためのアルゴリズムの収束率の数学的解析と、合成データおよび実世界のデータに対するその性能を示す実験を提供する。
- 参考スコア(独自算出の注目度): 12.043804229571872
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimal transport has arisen as an important tool in machine learning,
allowing to capture geometric properties of the data. It is formulated as a
linear program on transport polytopes. The problem of convex optimization on
this set includes both OT and multiple related ones, such as point cloud
registration.
We present in this work an optimization algorithm that utilizes Sinkhorn
matrix scaling and mirror descent to minimize convex objectives on this domain.
This algorithm can be run online and is both adaptive and robust to noise. A
mathematical analysis of the convergence rate of the algorithm for minimising
convex functions is provided, as well as experiments that illustrate its
performance on synthetic data and real-world data.
- Abstract(参考訳): 最適転送は機械学習において重要なツールとして生まれ、データの幾何学的性質を捉えることができる。
輸送ポリトープの線形プログラムとして定式化されている。
このセットでの凸最適化の問題は、OTと、ポイントクラウド登録のような複数の関連するものの両方を含む。
本研究では、シンクホーン行列スケーリングとミラー降下を利用して、この領域の凸目標を最小化する最適化アルゴリズムを提案する。
このアルゴリズムはオンラインで実行でき、ノイズに適応し、堅牢である。
凸関数を最小化するためのアルゴリズムの収束率の数学的解析と、合成データおよび実世界のデータに対するその性能を示す実験を提供する。
関連論文リスト
- The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Generative Models for Anomaly Detection and Design-Space Dimensionality
Reduction in Shape Optimization [0.0]
本研究は,グローバルアルゴリズムの効率向上と高品質な設計の促進を目的として,新たな形状最適化手法を提案する。
これは、幾何学的分散を最大化する新しい縮小部分空間を定義する元の設計変数の数を減らすことで達成される。
計算結果から,グローバル最適化アルゴリズムの収束性を改善するとともに,高品質な幾何学的特徴を持つ設計のみを生成する。
論文 参考訳(メタデータ) (2023-08-08T04:57:58Z) - Generative modeling of time-dependent densities via optimal transport
and projection pursuit [3.069335774032178]
本稿では,時間的モデリングのための一般的なディープラーニングアルゴリズムの代替として,安価に提案する。
我々の手法は最先端の解法と比較して非常に競争力がある。
論文 参考訳(メタデータ) (2023-04-19T13:50:13Z) - Sequential Linearithmic Time Optimal Unimodal Fitting When Minimizing
Univariate Linear Losses [0.0]
スコア値と対象領域の最適マッピングは長方形関数であることを示す。
このアプローチは反復ごとに対数的時間的複雑さを持ち、最適に効率的です。
論文 参考訳(メタデータ) (2023-04-04T22:00:40Z) - Performance Embeddings: A Similarity-based Approach to Automatic
Performance Optimization [71.69092462147292]
パフォーマンス埋め込みは、アプリケーション間でパフォーマンスチューニングの知識伝達を可能にする。
本研究では, 深層ニューラルネットワーク, 密度およびスパース線形代数合成, および数値風速予測ステンシルのケーススタディにおいて, この伝達チューニング手法を実証する。
論文 参考訳(メタデータ) (2023-03-14T15:51:35Z) - On a class of geodesically convex optimization problems solved via
Euclidean MM methods [50.428784381385164]
ユークリッド凸化関数の違いは、統計学と機械学習の異なるタイプの問題の違いとして記述できることを示す。
最終的に、より広い範囲、より広い範囲の作業を支援するのです。
論文 参考訳(メタデータ) (2022-06-22T23:57:40Z) - Topology-Preserving Dimensionality Reduction via Interleaving
Optimization [10.097180927318703]
本稿では, インターリーブ距離を最小化する最適化手法を次元還元アルゴリズムに組み込む方法について述べる。
データビジュアライゼーションにおけるこのフレームワークの有用性を実証する。
論文 参考訳(メタデータ) (2022-01-31T06:11:17Z) - Global Optimality Beyond Two Layers: Training Deep ReLU Networks via
Convex Programs [39.799125462526234]
我々は凸最適化のレンズを通して隠れ正規化機構を明らかにするための新しい統一フレームワークを開発した。
我々は、合成データセットと実データセットの両方を含む実験を通して、理論的結果を数値的に検証する。
論文 参考訳(メタデータ) (2021-10-11T18:00:30Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Sequential Subspace Search for Functional Bayesian Optimization
Incorporating Experimenter Intuition [63.011641517977644]
本アルゴリズムは,実験者のガウス過程から引き出された一組の引き数で区切られた関数空間の有限次元ランダム部分空間列を生成する。
標準ベイズ最適化は各部分空間に適用され、次の部分空間の出発点(オリジン)として用いられる最良の解である。
シミュレーションおよび実世界の実験,すなわちブラインド関数マッチング,アルミニウム合金の最適析出強化関数の探索,深層ネットワークの学習速度スケジュール最適化において,本アルゴリズムを検証した。
論文 参考訳(メタデータ) (2020-09-08T06:54:11Z) - Multi-View Spectral Clustering with High-Order Optimal Neighborhood
Laplacian Matrix [57.11971786407279]
マルチビュースペクトルクラスタリングは、データ間の固有のクラスタ構造を効果的に明らかにすることができる。
本稿では,高次最適近傍ラプラシア行列を学習するマルチビュースペクトルクラスタリングアルゴリズムを提案する。
提案アルゴリズムは, 1次ベースと高次ベースの両方の線形結合の近傍を探索し, 最適ラプラシア行列を生成する。
論文 参考訳(メタデータ) (2020-08-31T12:28:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。