論文の概要: Sufficient dimension reduction for feature matrices
- arxiv url: http://arxiv.org/abs/2303.04286v1
- Date: Tue, 7 Mar 2023 23:16:46 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-09 15:36:29.549299
- Title: Sufficient dimension reduction for feature matrices
- Title(参考訳): 特徴行列に対する十分次元還元
- Authors: Chanwoo Lee
- Abstract要約: そこで本研究では,主支持行列マシン (PSMM) を用いた行列次元削減手法を提案する。
数値解析により、PSMMは既存の手法よりも優れ、実データアプリケーションでは高い解釈性を有することが示された。
- 参考スコア(独自算出の注目度): 3.04585143845864
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We address the problem of sufficient dimension reduction for feature
matrices, which arises often in sensor network localization, brain
neuroimaging, and electroencephalography analysis. In general, feature matrices
have both row- and column-wise interpretations and contain structural
information that can be lost with naive vectorization approaches. To address
this, we propose a method called principal support matrix machine (PSMM) for
the matrix sufficient dimension reduction. The PSMM converts the sufficient
dimension reduction problem into a series of classification problems by
dividing the response variables into slices. It effectively utilizes the matrix
structure by finding hyperplanes with rank-1 normal matrix that optimally
separate the sliced responses. Additionally, we extend our approach to the
higher-order tensor case. Our numerical analysis demonstrates that the PSMM
outperforms existing methods and has strong interpretability in real data
applications.
- Abstract(参考訳): 我々は,センサネットワークの局在化,脳神経イメージング,脳波解析などにおいてしばしば発生する特徴行列の十分な次元削減の問題に対処する。
一般に、特徴行列は行と列の双方の解釈を持ち、単純ベクトル化アプローチで失われる構造情報を含んでいる。
そこで本研究では, 主支持行列機械 (psmm) と呼ばれる行列を十分次元的に縮小する手法を提案する。
PSMMは、応答変数をスライスに分割することで、十分な次元削減問題を一連の分類問題に変換する。
スライスされた応答を最適に分離するrank-1正規行列を持つ超平面を見つけることで、マトリックス構造を有効に活用する。
さらに、より高階テンソルケースにアプローチを拡張します。
数値解析により、PSMMは既存の手法よりも優れ、実データアプリケーションでは高い解釈性を有することが示された。
関連論文リスト
- Support matrix machine: A review [0.0]
サポートマトリックスマシン(SMM)は、行列入力データを扱うのに適した新しい手法の1つである。
本稿では,SMM モデルの開発について,より詳細な分析を行う。
我々は、ロバスト、スパース、クラス不均衡、マルチクラス分類モデルなど、多くのSMM変種について論じる。
論文 参考訳(メタデータ) (2023-10-30T16:46:23Z) - Large-scale gradient-based training of Mixtures of Factor Analyzers [67.21722742907981]
本稿では,勾配降下による高次元学習を効果的に行うための理論解析と新しい手法の両立に寄与する。
MFAトレーニングと推論/サンプリングは,学習終了後の行列逆変換を必要としない精度行列に基づいて行うことができることを示す。
理論解析と行列の他に,SVHNやMNISTなどの画像データセットにMFAを適用し,サンプル生成と外乱検出を行う能力を示す。
論文 参考訳(メタデータ) (2023-08-26T06:12:33Z) - Memory-Efficient Backpropagation through Large Linear Layers [107.20037639738433]
Transformersのような現代のニューラルネットワークでは、線形層は後方通過時にアクティベーションを保持するために大きなメモリを必要とする。
本研究では,線形層によるバックプロパゲーションを実現するためのメモリ削減手法を提案する。
論文 参考訳(メタデータ) (2022-01-31T13:02:41Z) - Learning a Compressive Sensing Matrix with Structural Constraints via
Maximum Mean Discrepancy Optimization [17.104994036477308]
本稿では,圧縮センシング関連回復問題に対する測定行列を得るための学習に基づくアルゴリズムを提案する。
ニューラルネットワーク関連のトピックにおけるこのようなメトリクスの最近の成功は、機械学習に基づく問題の解決策を動機付けている。
論文 参考訳(メタデータ) (2021-10-14T08:35:54Z) - Non-PSD Matrix Sketching with Applications to Regression and
Optimization [56.730993511802865]
非PSDおよび2乗根行列の次元削減法を提案する。
複数のダウンストリームタスクにこれらのテクニックをどのように使用できるかを示す。
論文 参考訳(メタデータ) (2021-06-16T04:07:48Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Projection techniques to update the truncated SVD of evolving matrices [17.22107982549168]
本稿では,新しい行や列の追加に伴う行列のランク-k truncated Singular Value Decomposition (SVD) の更新の問題について考察する。
提案するフレームワークは純粋に代数的であり、一般的な更新問題をターゲットにしている。
実アプリケーションから得られた行列の結果から,提案アルゴリズムの精度が向上する可能性が示唆された。
論文 参考訳(メタデータ) (2020-10-13T13:46:08Z) - Robust Low-rank Matrix Completion via an Alternating Manifold Proximal
Gradient Continuation Method [47.80060761046752]
ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。
この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。
RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。
本稿では、近年のローワークの動機付けについて述べる。
論文 参考訳(メタデータ) (2020-08-18T04:46:22Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。