論文の概要: Second-order Symmetric Non-negative Latent Factor Analysis

• arxiv url: http://arxiv.org/abs/2203.02088v1
• Date: Fri, 4 Mar 2022 01:52:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-07 15:52:19.633826
• Title: Second-order Symmetric Non-negative Latent Factor Analysis
• Title（参考訳）: 2次対称非負遅延因子解析
• Authors: Weiling Li and Xin Luo
• Abstract要約: 本稿では,SNLFに効率的な2次法を組み込むことを提案する。 目的は、二階対称ネットワークモデル解析モデルを確立することである。
• 参考スコア（独自算出の注目度）: 3.1616300532562396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Precise representation of large-scale undirected network is the basis for understanding relations within a massive entity set. The undirected network representation task can be efficiently addressed by a symmetry non-negative latent factor (SNLF) model, whose objective is clearly non-convex. However, existing SNLF models commonly adopt a first-order optimizer that cannot well handle the non-convex objective, thereby resulting in inaccurate representation results. On the other hand, higher-order learning algorithms are expected to make a breakthrough, but their computation efficiency are greatly limited due to the direct manipulation of the Hessian matrix, which can be huge in undirected network representation tasks. Aiming at addressing this issue, this study proposes to incorporate an efficient second-order method into SNLF, thereby establishing a second-order symmetric non-negative latent factor analysis model for undirected network with two-fold ideas: a) incorporating a mapping strategy into SNLF model to form an unconstrained model, and b) training the unconstrained model with a specially designed second order method to acquire a proper second-order step efficiently. Empirical studies indicate that proposed model outperforms state-of-the-art models in representation accuracy with affordable computational burden.
• Abstract（参考訳）: 大規模非指向ネットワークの正確な表現は、大規模エンティティセット内の関係を理解するための基礎となる。 非向ネットワーク表現タスクは、明らかに非凸である対称性非負の潜在因子(snlf)モデルによって効率的に対処することができる。 しかし、既存のSNLFモデルは一般に、非凸目的をうまく扱えない一階最適化器を採用しており、結果として不正確な表現結果をもたらす。 一方で、高階学習アルゴリズムはブレークスルーになると期待されているが、その計算効率は、間接的ネットワーク表現タスクにおいて巨大であるヘッセン行列を直接操作するため、大幅に制限されている。 そこで本研究では,SNLFに効率的な2次法を組み込むことにより,2次対称非負の潜在因子分析モデルを構築することを提案する。 イ SNLFモデルにマッピング戦略を組み込んで、制約のないモデルを形成すること。 ロ 特別に設計された二階法の非拘束モデルを訓練して、適切な二階ステップを効率よく取得すること。 実証研究は,提案モデルが計算負荷の少ない表現精度で最先端モデルを上回ることを示唆する。

関連論文リスト

• LoRA-Ensemble: Efficient Uncertainty Modelling for Self-attention Networks [52.46420522934253]
  本稿では,自己注意ネットワークのためのパラメータ効率の高いディープアンサンブル手法であるLoRA-Ensembleを紹介する。 全メンバー間で重みを共有できる1つの事前学習型自己注意ネットワークを利用することで、注意投影のために、メンバー固有の低ランク行列を訓練する。 提案手法は明示的なアンサンブルよりも優れたキャリブレーションを示し,様々な予測タスクやデータセットに対して類似あるいは良好な精度を実現する。
  論文  参考訳（メタデータ） (2024-05-23T11:10:32Z)
• CoRMF: Criticality-Ordered Recurrent Mean Field Ising Solver [4.364088891019632]
  我々は、RNNに基づく効率的なIsingモデル解法、Criticality-ordered Recurrent Mean Field (CoRMF)を提案する。 基礎となるIsingグラフの近似木構造を利用することで、新しく得られた臨界度順序は、変動平均場とRNNの統一を可能にする。 CoRFMはデータ/証拠のない自己学習方式でIsing問題を解き、RNNから直接サンプリングすることで推論タスクを実行することができる。
  論文  参考訳（メタデータ） (2024-03-05T16:55:06Z)
• The Convex Landscape of Neural Networks: Characterizing Global Optima and Stationary Points via Lasso Models [75.33431791218302]
  ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。 本稿では,凸型神経回復モデルについて検討する。 定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。 また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
  論文  参考訳（メタデータ） (2023-12-19T23:04:56Z)
• Proximal Symmetric Non-negative Latent Factor Analysis: A Novel Approach to Highly-Accurate Representation of Undirected Weighted Networks [2.1797442801107056]
  Undirected Weighted Network (UWN) は、ビッグデータ関連のアプリケーションで一般的に見られる。 既存のモデルは本質対称性や低データ密度のモデル化に失敗する。 近軸対称非負の潜在因子分析モデルを提案する。
  論文  参考訳（メタデータ） (2023-06-06T13:03:24Z)
• An Unconstrained Symmetric Nonnegative Latent Factor Analysis for Large-scale Undirected Weighted Networks [0.22940141855172036]
  大規模無方向性重み付きネットワークは通常、ビッグデータ関連の研究分野に見られる。 対称非負の潜伏因子分析モデルはSHDI行列から効率よく潜伏因子を抽出することができる。 本稿では,非拘束対称非負の潜在因子分析モデルを提案する。
  論文  参考訳（メタデータ） (2022-08-09T14:40:12Z)
• Making Linear MDPs Practical via Contrastive Representation Learning [101.75885788118131]
  マルコフ決定過程(MDP)における次元性の呪いに、低ランク表現を利用することで対処することが一般的である。 本稿では,効率的な表現学習を可能にしつつ,正規化を自動的に保証する線形MDPの代替的定義について考察する。 いくつかのベンチマークにおいて、既存の最先端モデルベースおよびモデルフリーアルゴリズムよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-07-14T18:18:02Z)
• PI-NLF: A Proportional-Integral Approach for Non-negative Latent Factor Analysis [9.087387628717952]
  非負潜在因子モデル(NLF)は、HDI行列に対する効率的な表現学習を行う。 PI-NLFモデルは、HDI行列の欠落データに対する計算効率と推定精度の両方において、最先端モデルよりも優れている。
  論文  参考訳（メタデータ） (2022-05-05T12:04:52Z)
• Robust Binary Models by Pruning Randomly-initialized Networks [57.03100916030444]
  ランダムな二元ネットワークから敵攻撃に対して頑健なモデルを得る方法を提案する。 ランダムな二元ネットワークを切断することにより、ロバストモデルの構造を学習する。 本手法は, 敵攻撃の有無で, 強力な抽選券仮説を立証する。
  論文  参考訳（メタデータ） (2022-02-03T00:05:08Z)
• Multi-objective Explanations of GNN Predictions [15.563499097282978]
  グラフニューラルネットワーク(GNN)は,様々な高精度な予測タスクにおいて最先端のパフォーマンスを達成した。 従来の手法では、より単純なサブグラフを使用して、完全なモデルをシミュレートしたり、予測の原因を特定するために偽造物を使ったりしていた。
  論文  参考訳（メタデータ） (2021-11-29T16:08:03Z)
• Mitigating Performance Saturation in Neural Marked Point Processes: Architectures and Loss Functions [50.674773358075015]
  本稿では,グラフ畳み込み層のみを利用するGCHPという単純なグラフベースのネットワーク構造を提案する。 我々は,GCHPがトレーニング時間を大幅に短縮し,時間間確率仮定による確率比損失がモデル性能を大幅に改善できることを示した。
  論文  参考訳（メタデータ） (2021-07-07T16:59:14Z)
• COMBO: Conservative Offline Model-Based Policy Optimization [120.55713363569845]
  ディープニューラルネットワークのような複雑なモデルによる不確実性推定は困難であり、信頼性が低い。 我々は,サポート外状態動作の値関数を正規化するモデルベースオフラインRLアルゴリズムCOMBOを開発した。 従来のオフラインモデルフリーメソッドやモデルベースメソッドと比べて、comboは一貫してパフォーマンスが良いことが分かりました。
  論文  参考訳（メタデータ） (2021-02-16T18:50:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。