論文の概要: Towards Tuning-Free Minimum-Volume Nonnegative Matrix Factorization
- arxiv url: http://arxiv.org/abs/2309.13733v1
- Date: Sun, 24 Sep 2023 19:34:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-26 17:52:41.091187
- Title: Towards Tuning-Free Minimum-Volume Nonnegative Matrix Factorization
- Title（参考訳）: チューニングフリー最小体積非負行列因子分解へ向けて
- Authors: Duc Toan Nguyen, Eric C. Chi
- Abstract要約: 平方根のラッソとそのチューニング自由特性に着想を得た最小体積NMFの別の定式化を提案する。
我々の定式化はチューニングパラメータの選択も必要としているが、その最適値はノイズレベルに依存しない。
実験により、チューニングパラメータの最適選択は、データのノイズレベルに敏感であることを実証的に示す。
- 参考スコア（独自算出の注目度）: 2.2698845243751293
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nonnegative Matrix Factorization (NMF) is a versatile and powerful tool for
discovering latent structures in data matrices, with many variations proposed
in the literature. Recently, Leplat et al.\@ (2019) introduced a minimum-volume
NMF for the identifiable recovery of rank-deficient matrices in the presence of
noise. The performance of their formulation, however, requires the selection of
a tuning parameter whose optimal value depends on the unknown noise level. In
this work, we propose an alternative formulation of minimum-volume NMF inspired
by the square-root lasso and its tuning-free properties. Our formulation also
requires the selection of a tuning parameter, but its optimal value does not
depend on the noise level. To fit our NMF model, we propose a
majorization-minimization (MM) algorithm that comes with global convergence
guarantees. We show empirically that the optimal choice of our tuning parameter
is insensitive to the noise level in the data.
- Abstract（参考訳）: 非負行列因子化(Non negative Matrix Factorization, NMF)は、データ行列の潜在構造を発見するための汎用的で強力なツールである。
最近、leplat et al。
\@ (2019) はノイズの存在下でランク不足行列の同定可能な回復のための最小体積 NMF を導入した。
しかし、それらの定式化の性能は、最適な値が未知の雑音レベルに依存するチューニングパラメータの選択を必要とする。
本研究では,平方根のラッソとそのチューニング自由性質に着想を得た最小体積NMFの定式化を提案する。
我々の定式化にはチューニングパラメータの選択が必要であるが、その最適値はノイズレベルに依存しない。
NMFモデルに適合するため,大域収束保証を伴う大域化最小化(MM)アルゴリズムを提案する。
実験により、チューニングパラメータの最適選択は、データのノイズレベルに敏感であることを実証的に示す。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - An Adaptive Re-evaluation Method for Evolution Strategy under Additive Noise [3.92625489118339]
本稿では,加法的なガウスホワイトノイズによる関数値の最適再評価数を適応的に選択する手法を提案する。
実験では,CMA-ESのノイズハンドリング手法を人工的なテスト関数の集合上で実験的に比較した。
論文 参考訳（メタデータ） (2024-09-25T09:10:21Z) - Adaptive Preference Scaling for Reinforcement Learning with Human Feedback [103.36048042664768]
人間からのフィードバックからの強化学習(RLHF)は、AIシステムと人間の価値を合わせるための一般的なアプローチである。
本稿では,分散ロバスト最適化(DRO)に基づく適応的優先損失を提案する。
提案手法は多用途であり,様々な選好最適化フレームワークに容易に適用可能である。
論文 参考訳（メタデータ） (2024-06-04T20:33:22Z) - ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。
Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
論文 参考訳（メタデータ） (2024-04-05T13:58:51Z) - Supervised Class-pairwise NMF for Data Representation and Classification [2.7320863258816512]
非負行列分解(NMF)に基づく手法は、特定のタスクにモデルを適応させるためにコスト関数に新しい用語を追加する。
NMF法は、因子化行列を推定するための教師なしアプローチを採用する。
論文 参考訳（メタデータ） (2022-09-28T04:33:03Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳（メタデータ） (2022-04-22T11:38:10Z) - Global Convergence of Sub-gradient Method for Robust Matrix Recovery:
Small Initialization, Noisy Measurements, and Over-parameterization [4.7464518249313805]
サブグラディエント法(Sub-gradient method, SubGM)は, 限られた測定値から低ランク行列を復元するために用いられる。
我々は、SubGMが任意の大きさの高密度ノイズ値の下でも、真の解に収束することを示す。
論文 参考訳（メタデータ） (2022-02-17T17:50:04Z) - Optimum Noise Mechanism for Differentially Private Queries in Discrete Finite Sets [3.5379819043314176]
本稿では,離散的かつ有限な問合せセットに適した最適ノイズマス確率関数を設計するための新しいフレームワークを提案する。
我々のフレームワークは、任意の$(epsilon, delta)$制約の下でノイズ分布を最適化し、応答の精度と有用性を向上させる。
数値実験により,提案手法の最先端手法と比較して,最適機構の優れた性能が示された。
論文 参考訳（メタデータ） (2021-11-23T05:24:34Z) - Square Root Principal Component Pursuit: Tuning-Free Noisy Robust Matrix
Recovery [8.581512812219737]
本稿では,ノイズや外周波で劣化した観測結果から低ランク行列を復元する新しい枠組みを提案する。
平方根のラッソにインスパイアされたこの新しい定式化は、ノイズレベルに関する事前の知識を必要としない。
正規化パラメータの1つの普遍的な選択は、(事前未知の)雑音レベルに比例した再構成誤差を達成するのに十分であることを示す。
論文 参考訳（メタデータ） (2021-06-17T02:28:11Z) - Using Kalman Filter The Right Way: Noise Estimation Is Not Optimal [46.556605821252276]
kfの仮定を少しでも破っても、効果のあるノイズを著しく修正できることを示す。
KFの対称および正定値(SPD)パラメータに勾配に基づく最適化を効率的に適用する方法を提案する。
論文 参考訳（メタデータ） (2021-04-06T08:59:15Z) - Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。
より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。
SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
論文 参考訳（メタデータ） (2021-03-02T12:47:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。