論文の概要: Learning to Solve Multiresolution Matrix Factorization by Manifold Optimization and Evolutionary Metaheuristics

• arxiv url: http://arxiv.org/abs/2406.00469v2
• Date: Sun, 18 Aug 2024 02:27:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-21 02:38:38.174406
• Title: Learning to Solve Multiresolution Matrix Factorization by Manifold Optimization and Evolutionary Metaheuristics
• Title（参考訳）: マニフォールド最適化と進化的メタヒューリスティックスによる多分解能行列因子分解の学習
• Authors: Truong Son Hy, Thieu Khang, Risi Kondor,
• Abstract要約: We propose a learnable' version of Multi resolution Matrix Factorization (MMF)。 得られたウェーブレット基底は,従来のMMFアルゴリズムよりも優れていることを示す。 本研究では,スペクトル領域上のウェーブレットニューラルネットワーク(WNN)学習グラフを,MMF学習アルゴリズムによって生成されたウェーブレットベースで構築する。
• 参考スコア（独自算出の注目度）: 6.4671761956203655
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multiresolution Matrix Factorization (MMF) is unusual amongst fast matrix factorization algorithms in that it does not make a low rank assumption. This makes MMF especially well suited to modeling certain types of graphs with complex multiscale or hierarchical strucutre. While MMF promises to yields a useful wavelet basis, finding the factorization itself is hard, and existing greedy methods tend to be brittle. In this paper, we propose a ``learnable'' version of MMF that carfully optimizes the factorization using metaheuristics, specifically evolutionary algorithms and directed evolution, along with Stiefel manifold optimization through backpropagating errors. We show that the resulting wavelet basis far outperforms prior MMF algorithms and gives comparable performance on standard learning tasks on graphs. Furthermore, we construct the wavelet neural networks (WNNs) learning graphs on the spectral domain with the wavelet basis produced by our MMF learning algorithm. Our wavelet networks are competitive against other state-of-the-art methods in molecular graphs classification and node classification on citation graphs. We release our implementation at https://github.com/HySonLab/LearnMMF
• Abstract（参考訳）: 多分解能行列因数分解(MMF)は、低ランクの仮定をしない高速行列因数分解アルゴリズムの中でも珍しい。 これにより、MMFは複雑なマルチスケールまたは階層的なストラクタを持つある種のグラフをモデル化するのに特に適している。 MMFは有用なウェーブレット基底を生成することを約束するが、分解そのものを見つけることは困難であり、既存のグリーディ法は脆い傾向にある。 本稿では,メタヒューリスティックス(メタヒューリスティックス,特に進化的アルゴリズムと有向進化)を用いた因子分解を,バックプロパゲートエラーによるスティーフェル多様体の最適化とともに巧みに最適化するMMFの'learnable'バージョンを提案する。 得られたウェーブレット基底は、従来のMMFアルゴリズムよりも優れており、グラフ上の標準学習タスクに匹敵する性能を示す。 さらに、スペクトル領域上のウェーブレットニューラルネットワーク(WNN)学習グラフを、MMF学習アルゴリズムによって生成されたウェーブレットベースで構築する。 我々のウェーブレットネットワークは、分子グラフの分類と引用グラフのノード分類において、他の最先端の手法と競合する。 実装はhttps://github.com/HySonLab/LearnMMFで公開しています。

関連論文リスト

• Quadratic Matrix Factorization with Applications to Manifold Learning [1.6795461001108094]
  本稿では,データセットの配置する曲線多様体を学習するための2次行列分解(QMF)フレームワークを提案する。 アルゴリズムでは,QMFを最適化し,その理論的収束特性を確立するための交代最小化アルゴリズムを提案する。 合成多様体学習データセットとMNIST手書きデータセットと低温電子顕微鏡データセットを含む2つの実データセットの実験は、提案手法が競合相手よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-30T15:09:00Z)
• Graph Polynomial Convolution Models for Node Classification of Non-Homophilous Graphs [52.52570805621925]
  本研究では,高階グラフ畳み込みからの効率的な学習と,ノード分類のための隣接行列から直接学習する。 得られたモデルが新しいグラフと残留スケーリングパラメータをもたらすことを示す。 提案手法は,非親和性パラメータのノード分類における精度の向上を実証する。
  論文  参考訳（メタデータ） (2022-09-12T04:46:55Z)
• Unitary Approximate Message Passing for Matrix Factorization [90.84906091118084]
  行列分解 (MF) を一定の制約で考慮し, 様々な分野の応用を見いだす。 我々は,効率の良いメッセージパッシング実装であるUAMPMFを用いて,MFに対するベイズ的アプローチを開発する。 UAMPMFは、回復精度、ロバスト性、計算複雑性の観点から、最先端のアルゴリズムを著しく上回ることを示す。
  論文  参考訳（メタデータ） (2022-07-31T12:09:32Z)
• FastSTMF: Efficient tropical matrix factorization algorithm for sparse data [0.0]
  機械学習における最も一般的な手法の一つである行列分解は、最近、熱帯セミリングを用いた予測タスクに非線形性を導入することで恩恵を受けている。 本研究では,STMF(Sparse Tropical Matrix Factorization)に基づく新しいFastSTMF法を提案する。 我々は,TCGAデータベースからの合成および実遺伝子発現データ上でFastSTMFを評価し,FastSTMFがSTMFの精度と実行時間の両方で優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-13T13:13:06Z)
• Learning Multiresolution Matrix Factorization and its Wavelet Networks on Graphs [11.256959274636724]
  多分解能行列分解法(MMF)は高速行列分解法では珍しい。 本稿では、強化学習とスティーフェル多様体の最適化を組み合わせることで、因子化を巧みに最適化するMMFの学習可能なバージョンを提案する。 得られたウェーブレット基底は、従来のMMFアルゴリズムよりも優れており、標準学習タスクに頑健に展開可能な、この種の分解の最初のバージョンを提供する。
  論文  参考訳（メタデータ） (2021-11-02T23:14:17Z)
• Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
  シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。 より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。 SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
  論文  参考訳（メタデータ） (2021-03-02T12:47:40Z)
• Evolutionary Algorithms for Fuzzy Cognitive Maps [0.0]
  ファジィ認知マップ(FCMs)は、近年人気が高まっている複雑なシステムモデリング手法である。 本研究では、FCMの訓練に用いられる遺伝的アルゴリズムをレビューするとともに、FCM学習アルゴリズムの概要を概観する。
  論文  参考訳（メタデータ） (2020-12-19T15:17:01Z)
• Positive Semidefinite Matrix Factorization: A Connection with Phase Retrieval and Affine Rank Minimization [71.57324258813674]
  位相探索(PR)とアフィンランク最小化(ARM)アルゴリズムに基づいてPSDMFアルゴリズムを設計可能であることを示す。 このアイデアに触発され、反復的ハードしきい値(IHT)に基づくPSDMFアルゴリズムの新たなファミリーを導入する。
  論文  参考訳（メタデータ） (2020-07-24T06:10:19Z)
• Compressive MR Fingerprinting reconstruction with Neural Proximal Gradient iterations [27.259916894535404]
  ProxNetは学習した近位勾配降下フレームワークで、前方取得とBloch動的モデルを反復学習機構に組み込む。 我々の数値実験により、ProxNetはより優れた定量的推測精度、はるかに少ないストレージ要求、そして最近のディープラーニングMRFベースラインに匹敵するランタイムを実現することができることが示された。
  論文  参考訳（メタデータ） (2020-06-27T03:52:22Z)
• Towards Minimax Optimal Reinforcement Learning in Factored Markov Decision Processes [53.72166325215299]
  エピソード因子化マルコフ決定過程(FMDP)における最小強化学習について検討する。 第一に、分解された構造のリッチなクラスに対する最小限の後悔の保証を達成する。 2つ目は、少し悪い後悔をしながら、より良い計算複雑性を楽しみます。
  論文  参考訳（メタデータ） (2020-06-24T00:50:17Z)
• Predictive Coding Approximates Backprop along Arbitrary Computation Graphs [68.8204255655161]
  我々は、コア機械学習アーキテクチャを予測的符号化に翻訳する戦略を開発する。 私たちのモデルは、挑戦的な機械学習ベンチマークのバックプロップと同等に機能します。 本手法は,ニューラルネットワークに標準機械学習アルゴリズムを直接実装できる可能性を高める。
  論文  参考訳（メタデータ） (2020-06-07T15:35:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。