論文の概要: Trace Ratio Optimization with an Application to Multi-view Learning
- arxiv url: http://arxiv.org/abs/2101.04292v1
- Date: Tue, 12 Jan 2021 04:38:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-04 01:35:57.106432
- Title: Trace Ratio Optimization with an Application to Multi-view Learning
- Title(参考訳): トレース比最適化と多視点学習への応用
- Authors: Li Wang and Lei-Hong Zhang and Ren-Cang Li
- Abstract要約: Stiefel多様体上のトレース比最適化問題を検討する。
この問題の特別なケースは、フィッシャー線形判別分析、正準相関解析、および不均衡プロクリスト問題から生じている。
新たなフレームワークとそのインスタンス化コンクリートモデルを提案し,実証した。
- 参考スコア(独自算出の注目度): 10.196148937138275
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A trace ratio optimization problem over the Stiefel manifold is investigated
from the perspectives of both theory and numerical computations. At least three
special cases of the problem have arisen from Fisher linear discriminant
analysis, canonical correlation analysis, and unbalanced Procrustes problem,
respectively. Necessary conditions in the form of nonlinear eigenvalue problem
with eigenvector dependency are established and a numerical method based on the
self-consistent field (SCF) iteration is designed and proved to be always
convergent. As an application to multi-view subspace learning, a new framework
and its instantiated concrete models are proposed and demonstrated on real
world data sets. Numerical results show that the efficiency of the proposed
numerical methods and effectiveness of the new multi-view subspace learning
models.
- Abstract(参考訳): スティーフェル多様体上のトレース比最適化問題について,理論と数値計算の両方の観点から検討した。
この問題は,フィッシャー線形判別分析,正準相関解析,非平衡散逸問題から,少なくとも3つの特別な事例が生じた。
固有ベクトル依存性を持つ非線形固有値問題の形で必要条件が確立され、自己整合体(SCF)反復に基づく数値法が設計され、常に収束することが証明された。
多視点サブスペース学習の応用として,実世界データセット上で新しいフレームワークとそのインスタンス化された具体モデルを提案する。
数値実験の結果,提案手法の有効性と新しい多視点部分空間学習モデルの有効性が示された。
関連論文リスト
- On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
複数モーダルな)自己教師付き表現学習のための連続領域における識別確率モデル問題について検討する。
我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。
論文 参考訳(メタデータ) (2024-10-11T18:02:46Z) - Joint Graph Learning and Model Fitting in Laplacian Regularized
Stratified Models [5.933030735757292]
ラプラシア正規化成層モデル(Laplacian regularized Stratified Model、LRSM)は、サブプロブレムの明示的または暗黙的なネットワーク構造を利用するモデルである。
本稿では,LRSMにおけるグラフ重みの重要性と感度を示し,その感度が任意に大きいことを示す。
本稿では,1つの最適化問題を解くことで,モデルパラメータを適合させながらグラフを共同学習する汎用的手法を提案する。
論文 参考訳(メタデータ) (2023-05-04T06:06:29Z) - Unified Multi-View Orthonormal Non-Negative Graph Based Clustering
Framework [74.25493157757943]
我々は,非負の特徴特性を活用し,多視点情報を統合された共同学習フレームワークに組み込む,新しいクラスタリングモデルを定式化する。
また、深層機能に基づいたクラスタリングデータに対するマルチモデル非負グラフベースのアプローチを初めて検討する。
論文 参考訳(メタデータ) (2022-11-03T08:18:27Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Deep Efficient Continuous Manifold Learning for Time Series Modeling [11.876985348588477]
対称正定値行列はコンピュータビジョン、信号処理、医療画像解析において研究されている。
本稿では,リーマン多様体とコレスキー空間の間の微分同相写像を利用する枠組みを提案する。
時系列データの動的モデリングのために,多様体常微分方程式とゲートリカレントニューラルネットワークを体系的に統合した連続多様体学習法を提案する。
論文 参考訳(メタデータ) (2021-12-03T01:38:38Z) - Partial Counterfactual Identification from Observational and
Experimental Data [83.798237968683]
観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。
我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
論文 参考訳(メタデータ) (2021-10-12T02:21:30Z) - Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector
Problems [78.95866278697777]
本研究では,多元的固有ベクトルを分散制約で同時に計算するTruncated Orthogonal Iterationの2つの変種を提案する。
次に,我々のアルゴリズムを適用して,幅広いテストデータセットに対するスパース原理成分分析問題を解く。
論文 参考訳(メタデータ) (2021-03-24T23:11:32Z) - Joint Continuous and Discrete Model Selection via Submodularity [1.332560004325655]
機械学習のモデル選択問題では、意味のある構造を持つ優れたモデルに対する欲求は、典型的には正規化された最適化問題によって表される。
しかし、多くのシナリオでは、数値的に意味のある構造が離散空間において特定され、難しい非最適化問題を引き起こす。
我々は、ロバスト最適化によって動機づけられた特定の問題クラスに対して、単純な連続的あるいは離散的な制約をいかに扱うかを示す。
論文 参考訳(メタデータ) (2021-02-17T21:14:47Z) - Orthogonal Multi-view Analysis by Successive Approximations via
Eigenvectors [7.870955752916424]
このフレームワークは、複数のビューに相関関係、教師付き識別能力、距離保存を統合する。
特殊ケースとして既存のモデルがいくつか含まれているだけでなく、新しいモデルにもインスピレーションを与えている。
多視点識別分析と多視点多ラベル分類のための実世界のデータセットを用いて実験を行った。
論文 参考訳(メタデータ) (2020-10-04T17:16:15Z) - Consistency analysis of bilevel data-driven learning in inverse problems [1.0705399532413618]
本稿では,データからの正規化パラメータの適応学習を最適化により検討する。
線形逆問題に対する我々のフレームワークの実装方法を示す。
勾配降下法を用いてオンライン数値スキームを導出する。
論文 参考訳(メタデータ) (2020-07-06T12:23:29Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。