論文の概要: JL-lemma derived Optimal Projections for Discriminative Dictionary
Learning
- arxiv url: http://arxiv.org/abs/2308.13991v2
- Date: Tue, 12 Sep 2023 09:22:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-13 16:29:32.788784
- Title: JL-lemma derived Optimal Projections for Discriminative Dictionary
Learning
- Title(参考訳): JL-lemmaによる識別辞書学習のための最適投影法
- Authors: G.Madhuri, Atul Negi, Kaluri V.Rangarao
- Abstract要約: 本稿では、ジョンソン・リンデンシュトラウス(JL)レンマを用いて、信号分類のために識別辞書を学習できる変換空間の次元性を選択する。
M-SPCAからの単一ステップで導出された射影変換行列は、最先端の次元減少に基づく辞書学習法とは異なり、最大特徴ラベル整合性を提供する。
OCRおよび顔認識データセットの実験は、他の教師付き辞書学習アルゴリズムよりも比較的優れた分類性能を示す。
- 参考スコア(独自算出の注目度): 0.6138671548064356
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: To overcome difficulties in classifying large dimensionality data with a
large number of classes, we propose a novel approach called JLSPCADL. This
paper uses the Johnson-Lindenstrauss (JL) Lemma to select the dimensionality of
a transformed space in which a discriminative dictionary can be learned for
signal classification. Rather than reducing dimensionality via random
projections, as is often done with JL, we use a projection transformation
matrix derived from Modified Supervised PC Analysis (M-SPCA) with the
JL-prescribed dimension.
JLSPCADL provides a heuristic to deduce suitable distortion levels and the
corresponding Suitable Description Length (SDL) of dictionary atoms to derive
an optimal feature space and thus the SDL of dictionary atoms for better
classification. Unlike state-of-the-art dimensionality reduction-based
dictionary learning methods, a projection transformation matrix derived in a
single step from M-SPCA provides maximum feature-label consistency of the
transformed space while preserving the cluster structure of the original data.
Despite confusing pairs, the dictionary for the transformed space generates
discriminative sparse coefficients, with fewer training samples.
Experimentation demonstrates that JLSPCADL scales well with an increasing
number of classes and dimensionality. Improved label consistency of features
due to M-SPCA helps to classify better. Further, the complexity of training a
discriminative dictionary is significantly reduced by using SDL.
Experimentation on OCR and face recognition datasets shows relatively better
classification performance than other supervised dictionary learning
algorithms.
- Abstract(参考訳): 大規模次元データを多数のクラスで分類することの難しさを克服するため,JLSPCADLと呼ばれる新しい手法を提案する。
本稿では、ジョンソン・リンデンシュトラウス(JL)レンマを用いて、信号分類のために識別辞書を学習できる変換空間の次元性を選択する。
ランダムなプロジェクションによって次元を減少させる代わりに、JLでしばしば行われるように、修正スーパービジョンPC解析(M-SPCA)からJLで規定される次元に導かれる射影変換行列を用いる。
JLSPCADLは、最適特徴空間を導出するために、適切な歪みレベルと対応する辞書原子の適切な記述長(SDL)を導出するヒューリスティックを提供し、より良い分類のために辞書原子のSDLを提供する。
最先端の次元縮小に基づく辞書学習法とは異なり、m-spcaから単段導出する投影変換行列は、元のデータのクラスター構造を維持しながら変換空間の最大特徴ラベル一貫性を提供する。
混乱したペアにもかかわらず、変換空間の辞書はより少ないトレーニングサンプルで差別的なスパース係数を生成する。
実験により、JLSPCADLはクラス数や次元数の増加とともに拡張可能であることが示された。
M-SPCAによる特徴のラベル一貫性の改善は、よりよい分類に役立つ。
さらに、SDLを用いて識別辞書の訓練の複雑さを著しく低減する。
OCRおよび顔認識データセットの実験は、他の教師付き辞書学習アルゴリズムよりも比較的優れた分類性能を示す。
関連論文リスト
- Mode-wise Principal Subspace Pursuit and Matrix Spiked Covariance Model [13.082805815235975]
行列データに対して行次元と列次元の両方に隠れたバリエーションを抽出するために,モードワイド・プリンシパル・サブスペース・スーツ (MOP-UP) と呼ばれる新しいフレームワークを導入する。
提案フレームワークの有効性と実用性は、シミュレーションと実データの両方の実験を通して実証される。
論文 参考訳(メタデータ) (2023-07-02T13:59:47Z) - Sharp-SSL: Selective high-dimensional axis-aligned random projections
for semi-supervised learning [16.673022545571566]
本稿では,高次元半教師付き学習問題に対する新しい手法を提案する。
これは、データの多くの軸方向のランダムな投影に適用される低次元プロシージャの結果の慎重な集約に基づいている。
論文 参考訳(メタデータ) (2023-04-18T17:49:02Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Random Matrix Based Extended Target Tracking with Orientation: A New
Model and Inference [0.0]
本稿では,動的物体の範囲を時間方向の楕円体として表現できる新しい対象追跡アルゴリズムを提案する。
対角正半定行列は、ランダム行列フレームワーク内のオブジェクトの範囲をモデル化するために定義される。
共役性がないため、真の後部の閉形式解析式を見つけることは不可能である。
論文 参考訳(メタデータ) (2020-10-17T16:33:06Z) - Tangent Space Based Alternating Projections for Nonnegative Low Rank
Matrix Approximation [22.96292865984433]
非負の低階行列近似法では、特異値分解が必要なため、固定階行列の多様体への射影は高価である。
本稿では,多様体上の点の接空間を用いて多様体への射影を近似し,計算コストを削減することを提案する。
論文 参考訳(メタデータ) (2020-09-02T05:25:16Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z) - Ellipsoidal Subspace Support Vector Data Description [98.67884574313292]
一クラス分類に最適化された低次元空間にデータを変換する新しい手法を提案する。
提案手法の線形および非線形の定式化について述べる。
提案手法は,最近提案されたサブスペースサポートベクトルデータ記述よりもはるかに高速に収束する。
論文 参考訳(メタデータ) (2020-03-20T21:31:03Z) - Improved Subsampled Randomized Hadamard Transform for Linear SVM [18.52747917850984]
我々は,一様サンプリングSRHTの代わりに,効率的な低次元埋め込みを実現するために,重要サンプリングと決定論的トップ・ドルサンプリングを提案する。
実験により,提案手法はSRHTや他の6つの実生活データセット上のランダムな投影法よりも高い分類精度が得られることが示された。
論文 参考訳(メタデータ) (2020-02-05T04:09:23Z) - Optimal Iterative Sketching with the Subsampled Randomized Hadamard
Transform [64.90148466525754]
最小二乗問題に対する反復スケッチの性能について検討する。
本研究では、Haar行列とランダム化されたHadamard行列の収束速度が同一であることを示し、ランダムなプロジェクションを経時的に改善することを示した。
これらの手法は、ランダム化次元還元を用いた他のアルゴリズムにも適用することができる。
論文 参考訳(メタデータ) (2020-02-03T16:17:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。