論文の概要: Orthogonal Non-negative Matrix Factorization: a
Maximum-Entropy-Principle Approach
- arxiv url: http://arxiv.org/abs/2210.02672v1
- Date: Thu, 6 Oct 2022 04:30:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2022-10-07 18:04:07.233100
- Title: Orthogonal Non-negative Matrix Factorization: a
Maximum-Entropy-Principle Approach
- Title(参考訳): 直交非負行列因子分解 : 最大エントロピー原理アプローチ
- Authors: Salar Basiri, Mustafa Kapadia, Srinivasa Salapaka
- Abstract要約: 特定施設配置問題(FLP)としてONMFをどのように解釈できるかを示す。
特定施設配置問題(FLP)としてONMFをどのように解釈できるかを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we introduce a new methodology to solve the orthogonal
non-negative matrix factorization (ONMF) problem, where the objective is to
approximate an input data matrix by the product of two non-negative matrices,
the features matrix and the mixing matrix, while one of them is orthogonal. We
show how the ONMF can be interpreted as a specific facility-location problem
(FLP), and adapt a maximum-entropy-principle based solution for FLP to the ONMF
problem. The proposed approach guarantees orthogonality of the features or the
mixing matrix, while ensuring that both of the matrix factors are non-negative.
Also, the features (mixing) matrix has exactly one non-zero element across each
row (column), providing the maximum sparsity of the orthogonal factor. This
enables a semantic interpretation of the underlying data matrix using
non-overlapping features. The experiments on synthetic data and a standard
microarray dataset demonstrate significant improvements in terms of sparsity
and orthogonality scores of features (mixing) matrices, while achieving
approximately the same or better (up to 3%) reconstruction errors.
- Abstract(参考訳): 本稿では,2つの非負行列(特徴行列と混合行列)の積による入力データ行列の近似を目的とし,その一方が直交行列であるような直交非負行列分解(onmf)問題を解く新しい手法を提案する。
我々は,ONMFを特定の施設配置問題(FLP)と解釈し,FLPの最大エントロピー原理に基づく解をONMF問題に適用する方法について述べる。
提案手法は,2つの行列因子が負でないことを保証しながら,特徴量や混合行列の直交性を保証する。
また、特徴(混合)行列は、各行(列)にまたがってちょうど1つの非零要素を持ち、直交因子の最大スパーシティを提供する。
これにより、非重複機能を使った基礎となるデータマトリックスのセマンティック解釈が可能になる。
合成データと標準マイクロアレイデータセットに関する実験は、特徴(混合)行列の空間性と直交性のスコアにおいて、ほぼ同じ以上の(最大3%)再構成誤差を達成しつつ、大幅な改善を示した。
関連論文リスト
- Computational Efficient Informative Nonignorable Matrix Completion: A Row- and Column-Wise Matrix U-Statistic Pseudo-Likelihood Approach [2.2306682526405868]
我々は高次元行列完備化問題に対処するための統一的な枠組みを確立する。
正則化の核ノルムを持つ列および列の行列U統計型損失関数を導出する。
提案した最適化問題を解くために,特異値近位勾配アルゴリズムを開発した。
論文 参考訳(メタデータ) (2025-04-05T01:41:53Z) - An Accelerated Alternating Partial Bregman Algorithm for ReLU-based Matrix Decomposition [0.0]
本稿では,非負行列上に補正されたスパース低ランク特性について検討する。
本稿では,クラスタリングと圧縮タスクに有用な構造を取り入れた新しい正規化項を提案する。
我々は、任意の$Lge 1$に対して常に持つ$L$-smoothプロパティを維持しながら、対応する閉形式解を導出する。
論文 参考訳(メタデータ) (2025-03-04T08:20:34Z) - Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。
本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。
2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
論文 参考訳(メタデータ) (2024-09-24T04:39:47Z) - Efficient algorithms for regularized Poisson Non-negative Matrix Factorization [5.947994020693636]
正規化ポアソン非負行列分解(NMF)問題について考察する。
この問題は、多くの機械学習アプリケーションにおいて大きな関連性を持っている。
リプシッツおよび比較的滑らかな関数に対する近似的汎化関数を構築し、その問題に線形制約を導入する方法を示す。
論文 参考訳(メタデータ) (2024-04-25T10:57:50Z) - Low-Rank Prune-And-Factorize for Language Model Compression [18.088550230146247]
マトリックスの分解は、中程度から高い圧縮速度で良好な性能を維持することができない。
スパシティ対応SVDとミックスランクファインチューニングの2つの手法を提案する。
論文 参考訳(メタデータ) (2023-06-25T07:38:43Z) - An inexact LPA for DC composite optimization and application to matrix completions with outliers [5.746154410100363]
本稿では,複合最適化問題のクラスについて述べる。
合成構造を利用することで、ポテンシャル関数が反復列において1/2$のKL特性を持つ条件を与える。
論文 参考訳(メタデータ) (2023-03-29T16:15:34Z) - Symmetric Tensor Networks for Generative Modeling and Constrained
Combinatorial Optimization [72.41480594026815]
ポートフォリオ最適化からロジスティクスに至るまで、制約付き最適化問題は業界に多い。
これらの問題の解決における主要な障害の1つは、有効な検索空間を制限する非自明なハード制約の存在である。
本研究では、Ax=bという形の任意の整数値等式制約をU(1)対称ネットワーク(TN)に直接エンコードし、それらの適用性を量子に着想を得た生成モデルとして活用する。
論文 参考訳(メタデータ) (2022-11-16T18:59:54Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-21T01:47:17Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳(メタデータ) (2022-04-22T11:38:10Z) - Learning a Compressive Sensing Matrix with Structural Constraints via
Maximum Mean Discrepancy Optimization [17.104994036477308]
本稿では,圧縮センシング関連回復問題に対する測定行列を得るための学習に基づくアルゴリズムを提案する。
ニューラルネットワーク関連のトピックにおけるこのようなメトリクスの最近の成功は、機械学習に基づく問題の解決策を動機付けている。
論文 参考訳(メタデータ) (2021-10-14T08:35:54Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Adversarially-Trained Nonnegative Matrix Factorization [77.34726150561087]
非負行列ファクタリゼーションの逆学習版を検討する。
我々の定式化では、攻撃者は与えられたデータ行列に有界ノルムの任意の行列を追加する。
辞書と係数行列を最適化するために, 逆学習に触発された効率的なアルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-04-10T13:13:17Z) - Column $\ell_{2,0}$-norm regularized factorization model of low-rank
matrix recovery and its computation [0.9281671380673306]
本稿では低ランク計算問題の列 $ell_2,0$regularized factorization モデルについて述べる。
数値実験は、合成および実データ例を用いて行われる。
論文 参考訳(メタデータ) (2020-08-24T14:15:36Z) - Robust Low-rank Matrix Completion via an Alternating Manifold Proximal
Gradient Continuation Method [47.80060761046752]
ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。
この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。
RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。
本稿では、近年のローワークの動機付けについて述べる。
論文 参考訳(メタデータ) (2020-08-18T04:46:22Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳(メタデータ) (2020-07-07T21:26:35Z) - A Block Coordinate Descent-based Projected Gradient Algorithm for
Orthogonal Non-negative Matrix Factorization [0.0]
本稿では非負行列分解問題(NMF)に対する投影勾配法(PG)を用いる。
正則性制約をペナライズし,ブロック座標降下法を用いてPG法を適用した。
論文 参考訳(メタデータ) (2020-03-23T13:24:43Z) - Convergence to Second-Order Stationarity for Non-negative Matrix
Factorization: Provably and Concurrently [18.89597524771988]
非負行列分解(NMF)は、機械学習における多くの応用において、基本的な非修飾最適化問題である。
本稿では,サドル点を同時にかつ確実に回避する乗法的重み更新型力学(Seung algorithm)を定義する。
重要な利点は、並列コンピューティング環境で並列実装を使用することである。
論文 参考訳(メタデータ) (2020-02-26T06:40:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。