論文の概要: Efficient algorithms for regularized Poisson Non-negative Matrix Factorization
- arxiv url: http://arxiv.org/abs/2404.16505v1
- Date: Thu, 25 Apr 2024 10:57:50 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-26 13:59:41.160719
- Title: Efficient algorithms for regularized Poisson Non-negative Matrix Factorization
- Title(参考訳): 正規化ポアソン非負行列分解の効率的なアルゴリズム
- Authors: Nathanaël Perraudin, Adrien Teutrie, Cécile Hébert, Guillaume Obozinski,
- Abstract要約: 正規化ポアソン非負行列分解(NMF)問題について考察する。
この問題は、多くの機械学習アプリケーションにおいて大きな関連性を持っている。
リプシッツおよび比較的滑らかな関数に対する近似的汎化関数を構築し、その問題に線形制約を導入する方法を示す。
- 参考スコア(独自算出の注目度): 5.947994020693636
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of regularized Poisson Non-negative Matrix Factorization (NMF) problem, encompassing various regularization terms such as Lipschitz and relatively smooth functions, alongside linear constraints. This problem holds significant relevance in numerous Machine Learning applications, particularly within the domain of physical linear unmixing problems. A notable challenge arises from the main loss term in the Poisson NMF problem being a KL divergence, which is non-Lipschitz, rendering traditional gradient descent-based approaches inefficient. In this contribution, we explore the utilization of Block Successive Upper Minimization (BSUM) to overcome this challenge. We build approriate majorizing function for Lipschitz and relatively smooth functions, and show how to introduce linear constraints into the problem. This results in the development of two novel algorithms for regularized Poisson NMF. We conduct numerical simulations to showcase the effectiveness of our approach.
- Abstract(参考訳): 正規化ポアソン非負行列因子分解(NMF)問題の問題を考察し、線形制約とともにリプシッツや比較的滑らかな関数などの様々な正規化項を包含する。
この問題は、多くの機械学習アプリケーション、特に物理線形アンミックス問題の領域において、大きな関連性を持っている。
ポアソン NMF 問題の主な損失項は KL の発散であり、これは非リプシッツであり、従来の勾配勾配に基づくアプローチは非効率的である。
本稿では,ブロック逐次上層最小化(BSUM)の利用について検討し,その課題を克服する。
リプシッツおよび比較的滑らかな関数に対する近似的汎化関数を構築し、その問題に線形制約を導入する方法を示す。
この結果、正規化されたPoisson NMFのための2つの新しいアルゴリズムが開発された。
提案手法の有効性を示す数値シミュレーションを行う。
関連論文リスト
- FEM-based Neural Networks for Solving Incompressible Fluid Flows and Related Inverse Problems [41.94295877935867]
偏微分方程式で記述された技術システムの数値シミュレーションと最適化は高価である。
この文脈で比較的新しいアプローチは、ニューラルネットワークの優れた近似特性と古典的有限要素法を組み合わせることである。
本稿では, この手法を, サドルポイント問題と非線形流体力学問題に拡張する。
論文 参考訳(メタデータ) (2024-09-06T07:17:01Z) - Constrained Bi-Level Optimization: Proximal Lagrangian Value function
Approach and Hessian-free Algorithm [8.479947546216131]
We developed a Hessian-free gradient-based algorithm-termed proximal Lagrangian Value function-based Hessian-free Bi-level Algorithm (LV-HBA)
LV-HBAは特に機械学習アプリケーションに適している。
論文 参考訳(メタデータ) (2024-01-29T13:50:56Z) - Stochastic Inexact Augmented Lagrangian Method for Nonconvex Expectation
Constrained Optimization [88.0031283949404]
多くの実世界の問題は複雑な非機能的制約を持ち、多くのデータポイントを使用する。
提案手法は,従来最もよく知られた結果で既存手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-12-19T14:48:54Z) - Learning to Optimize with Stochastic Dominance Constraints [103.26714928625582]
本稿では,不確実量を比較する問題に対して,単純かつ効率的なアプローチを開発する。
我々はラグランジアンの内部最適化をサロゲート近似の学習問題として再考した。
提案したライト-SDは、ファイナンスからサプライチェーン管理に至るまで、いくつかの代表的な問題において優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-14T21:54:31Z) - Tightening Discretization-based MILP Models for the Pooling Problem
using Upper Bounds on Bilinear Terms [2.6253445491808307]
線形項による非最適化問題の解法として,離散化に基づく手法が提案されている。
本稿では,離散化に基づくMILPモデルを用いてプール問題の解法を提案する。
論文 参考訳(メタデータ) (2022-07-08T05:28:59Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳(メタデータ) (2022-04-22T11:38:10Z) - Physics-informed neural network simulation of multiphase poroelasticity
using stress-split sequential training [0.0]
本稿では、弾性ネットワークに基づく偏微分方程式(PDE)に支配される問題を解くための枠組みを提案する。
この手法は, ポロシ, バリ・シエの注入-生産問題, および2相排水問題の解法に収束する。
論文 参考訳(メタデータ) (2021-10-06T20:09:09Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Offline Model-Based Optimization via Normalized Maximum Likelihood
Estimation [101.22379613810881]
データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。
この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。
我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
論文 参考訳(メタデータ) (2021-02-16T06:04:27Z) - On the Treatment of Optimization Problems with L1 Penalty Terms via
Multiobjective Continuation [0.0]
本稿では,線形・非線形最適化におけるスパース性の影響を詳細に把握するアルゴリズムを提案する。
本手法は非線形の場合に対する線形回帰問題に対するよく知られたホモトピー法の一般化と見なすことができる。
論文 参考訳(メタデータ) (2020-12-14T13:00:50Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳(メタデータ) (2020-07-07T21:26:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。