Fugu-MT 論文翻訳(概要): Second-order Approximation of Minimum Discrimination Information in Independent Component Analysis

論文の概要: Second-order Approximation of Minimum Discrimination Information in Independent Component Analysis

arxiv url: http://arxiv.org/abs/2111.15060v1
Date: Tue, 30 Nov 2021 01:51:08 GMT
ステータス: 処理完了
システム内更新日: 2021-12-01 14:18:16.263116
Title: Second-order Approximation of Minimum Discrimination Information in Independent Component Analysis
Title（参考訳）: 独立成分分析における最小識別情報の2次近似
Authors: YunPeng Li
Abstract要約: ICA(Independent Component Analysis)は、それぞれの線形混合物から相互に独立したソースを回収することを目的としている。 F astICAは最も成功したICAアルゴリズムの一つである。最小識別情報の2次近似に基づく新しい手法を提案する。
参考スコア（独自算出の注目度）: 5.770800671793959
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Independent Component Analysis (ICA) is intended to recover the mutually independent sources from their linear mixtures, and F astICA is one of the most successful ICA algorithms. Although it seems reasonable to improve the performance of F astICA by introducing more nonlinear functions to the negentropy estimation, the original fixed-point method (approximate Newton method) in F astICA degenerates under this circumstance. To alleviate this problem, we propose a novel method based on the second-order approximation of minimum discrimination information (MDI). The joint maximization in our method is consisted of minimizing single weighted least squares and seeking unmixing matrix by the fixed-point method. Experimental results validate its efficiency compared with other popular ICA algorithms.
Abstract（参考訳）: ICA(Independent Component Analysis)は、相互に独立したソースを線形混合から回収することを目的としており、F astICAは最も成功したICAアルゴリズムの1つである。より非線形な関数をネゲントロピー推定に導入することでF astICAの性能を向上させることは妥当であると思われるが、F astICAのオリジナル固定点法(近似ニュートン法)はこの状況下で退化する。この問題を軽減するために,最小識別情報(MDI)の2次近似に基づく新しい手法を提案する。本手法のジョイント最大化は,単重最小二乗を最小化し,不動点法による混合行列を求めることで構成する。実験により,他のICAアルゴリズムと比較して効率を検証した。

関連論文リスト

L1-Regularized ICA: A Novel Method for Analysis of Task-related fMRI Data [0.0]
本研究では,高次元データから適切な特徴を抽出するために,独立成分分析法(ICA)を提案する。提案手法の有効性について, 合成データおよび実機能的磁気共鳴画像データに適用する。
論文参考訳（メタデータ） (2024-10-17T02:54:01Z)
Efficient Estimation of Unique Components in Independent Component Analysis by Matrix Representation [1.0282274843007793]
独立成分分析(ICA)は信号処理や特徴抽出の様々な応用において広く用いられている手法である。本稿では,アルゴリズムを行列表現で再構成することにより,ICAの固有推定を高度に高速化する。人工データセットと脳波データを用いた実験により,提案手法の有効性が検証された。
論文参考訳（メタデータ） (2024-08-30T09:01:04Z)
Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
論文参考訳（メタデータ） (2024-08-20T19:06:02Z)
An optimal pairwise merge algorithm improves the quality and consistency of nonnegative matrix factorization [0.0]
非負行列分解(NMF)は特徴抽出の鍵となる手法であり、ソース分離に広く用いられている。ここでは、これらの弱点のいくつかは、高次元の特徴空間でNMFを実行することによって緩和される可能性があることを示す。提案手法は,非理想的NMF解の局所最適化に有効であることを示す。
論文参考訳（メタデータ） (2024-08-16T20:43:42Z)
An Optimization-based Deep Equilibrium Model for Hyperspectral Image Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文参考訳（メタデータ） (2023-06-10T08:25:16Z)
Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
論文参考訳（メタデータ） (2023-02-24T18:41:48Z)
Asymptotically Unbiased Instance-wise Regularized Partial AUC Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文参考訳（メタデータ） (2022-10-08T08:26:22Z)
A Novel Maximum-Entropy-Driven Technique for Low-Rank Orthogonal Nonnegative Matrix Factorization with $\ell_0$-Norm sparsity Constraint [0.0]
データ駆動制御と機械学習では、大きな行列を小さく、低ランクな要素に分解する、という一般的な要件がある。本稿では,直交非負行列分解(ONMF)問題に対する革新的な解を提案する。提案手法は,文献と同等あるいは改善された復元誤差を実現する。
論文参考訳（メタデータ） (2022-10-06T04:30:59Z)
Efficient Approximations of the Fisher Matrix in Neural Networks using Kronecker Product Singular Value Decomposition [0.0]
自然勾配降下法は, 通常の勾配降下法よりも効率よく目的関数を最小化できることを示した。ディープニューラルネットワークのトレーニングにおけるこのアプローチのボトルネックは、各イテレーションでFiher Information Matrix (FIM)に対応する大規模な密度の高い線形システムを解くことの禁止コストにある。これは、正確なFIMまたは経験的なFIMの様々な近似を動機付けている。最も洗練されたものは KFAC であり、Kronecker による FIM のブロック対角近似を含む。わずかな追加費用だけで、精度の観点からのKFACの改良が提案されている。
論文参考訳（メタデータ） (2022-01-25T12:56:17Z)
Last-Iterate Convergence of Saddle-Point Optimizers via High-Resolution Differential Equations [83.3201889218775]
広く使われている1次サドル点最適化法は、帰納的導出時に同一の連続時間常微分方程式(ODE)を導出する。しかし、これらの方法の収束特性は、単純な双線型ゲームでさえ質的に異なる。いくつかのサドル点最適化法のための微分方程式モデルの設計に流体力学の研究フレームワークを採用する。
論文参考訳（メタデータ） (2021-12-27T18:31:34Z)
Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文参考訳（メタデータ） (2020-02-21T17:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。