論文の概要: An Adaptive Alternating-direction-method-based Nonnegative Latent Factor
Model
- arxiv url: http://arxiv.org/abs/2204.04843v1
- Date: Mon, 11 Apr 2022 03:04:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-12 17:14:49.044439
- Title: An Adaptive Alternating-direction-method-based Nonnegative Latent Factor
Model
- Title(参考訳): 適応的交互方向法に基づく非負の潜在因子モデル
- Authors: Yurong Zhong and Xin Luo
- Abstract要約: 交互方向法に基づく非負潜在因子モデルにより、高次元および不完全行列への効率的な表現学習を行うことができる。
本稿では,超パラメータ適応を粒子群最適化の原理に従って実装した適応交互方向法に基づく非負遅延因子モデルを提案する。
産業応用によって生成される非負のHDI行列に関する実証的研究は、A2NLFが計算および記憶効率においていくつかの最先端モデルより優れており、HDI行列の欠落データに対する高い競合推定精度を維持していることを示している。
- 参考スコア(独自算出の注目度): 2.857044909410376
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An alternating-direction-method-based nonnegative latent factor model can
perform efficient representation learning to a high-dimensional and incomplete
(HDI) matrix. However, it introduces multiple hyper-parameters into the
learning process, which should be chosen with care to enable its superior
performance. Its hyper-parameter adaptation is desired for further enhancing
its scalability. Targeting at this issue, this paper proposes an Adaptive
Alternating-direction-method-based Nonnegative Latent Factor (A2NLF) model,
whose hyper-parameter adaptation is implemented following the principle of
particle swarm optimization. Empirical studies on nonnegative HDI matrices
generated by industrial applications indicate that A2NLF outperforms several
state-of-the-art models in terms of computational and storage efficiency, as
well as maintains highly competitive estimation accuracy for an HDI matrix's
missing data.
- Abstract(参考訳): 交互方向法に基づく非負潜在因子モデルにより、高次元および不完全行列への効率的な表現学習を行うことができる。
しかし、学習プロセスに複数のハイパーパラメータを導入し、優れたパフォーマンスを実現するために慎重に選択する必要がある。
そのハイパーパラメータ適応はスケーラビリティをさらに向上するために望まれる。
本稿では,超パラメータ適応を粒子群最適化の原理に従って実現した適応交互方向法に基づく非負遅延係数(A2NLF)モデルを提案する。
工業的応用によって生成される非負のHDI行列に関する実証的研究は、A2NLFが計算および記憶効率の点でいくつかの最先端モデルより優れており、HDI行列の欠落データに対する高い競合推定精度を維持していることを示している。
関連論文リスト
- Spectrum-Aware Parameter Efficient Fine-Tuning for Diffusion Models [73.88009808326387]
生成モデルのための新しいスペクトル対応適応フレームワークを提案する。
本手法は,事前学習した重みの特異値とその基底ベクトルを調節する。
本稿では,計算効率と表現能力のバランスをとるスペクトルオーソ分解適応(SODA)を提案する。
論文 参考訳(メタデータ) (2024-05-31T17:43:35Z) - End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳(メタデータ) (2024-02-12T16:33:35Z) - Active-Learning-Driven Surrogate Modeling for Efficient Simulation of
Parametric Nonlinear Systems [0.0]
支配方程式がなければ、パラメトリック還元次代理モデルを非侵襲的に構築する必要がある。
我々の研究は、パラメータのスナップショットを効率的に表示するための非侵入的最適性基準を提供する。
カーネルベースの浅層ニューラルネットワークを用いた能動的学習駆動サロゲートモデルを提案する。
論文 参考訳(メタデータ) (2023-06-09T18:01:14Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - A Practical Second-order Latent Factor Model via Distributed Particle
Swarm Optimization [5.199454801210509]
Hessian-free (HF) 最適化は、LFモデルの目的関数の2次情報を利用するための効率的な方法である。
本研究では,実用的なSLF(PSLF)モデルを提案する。
実HiDSデータセットの実験は、PSLFモデルがデータ表現能力の最先端モデルに対して競争上の優位性を持っていることを示している。
論文 参考訳(メタデータ) (2022-08-12T05:49:08Z) - Extension of Dynamic Mode Decomposition for dynamic systems with
incomplete information based on t-model of optimal prediction [69.81996031777717]
動的モード分解は、動的データを研究するための非常に効率的な手法であることが証明された。
このアプローチの適用は、利用可能なデータが不完全である場合に問題となる。
本稿では,森-Zwanzig分解の1次近似を考察し,対応する最適化問題を記述し,勾配に基づく最適化法を用いて解く。
論文 参考訳(メタデータ) (2022-02-23T11:23:59Z) - Variational Inference with NoFAS: Normalizing Flow with Adaptive
Surrogate for Computationally Expensive Models [7.217783736464403]
マルコフ連鎖モンテカルロのようなサンプリングに基づくアプローチの使用は、それぞれの可能性評価が計算的に高価であるときに難解になる可能性がある。
変分推論と正規化フローを組み合わせた新しいアプローチは、潜在変数空間の次元と線形にしか成長しない計算コストによって特徴づけられる。
本稿では,ニューラルネットワークサロゲートモデルの正規化フローパラメータと重みを代わりに更新する最適化戦略である,適応サロゲートを用いた正規化フロー(NoFAS)を提案する。
論文 参考訳(メタデータ) (2021-08-28T14:31:45Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Model-based Clustering using Automatic Differentiation: Confronting
Misspecification and High-Dimensional Data [6.053629733936546]
ガウス混合モデルを用いたモデルベースクラスタリングの実用上重要な2つの事例について検討する。
本研究では,EMのクラスタリング性能が,不特定な場合のグラディエントDescentと比較して向上していることを示す。
そこで本稿では,一対の部品間のKulback Leibler分散に基づく新たなペナルティ項を提案する。
論文 参考訳(メタデータ) (2020-07-08T10:56:05Z) - Implicit differentiation of Lasso-type models for hyperparameter
optimization [82.73138686390514]
ラッソ型問題に適した行列逆転のない効率的な暗黙微分アルゴリズムを提案する。
提案手法は,解の空間性を利用して高次元データにスケールする。
論文 参考訳(メタデータ) (2020-02-20T18:43:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。