論文の概要: TL-PCA: Transfer Learning of Principal Component Analysis

• arxiv url: http://arxiv.org/abs/2410.10805v1
• Date: Mon, 14 Oct 2024 17:59:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-29 19:24:59.017452
• Title: TL-PCA: Transfer Learning of Principal Component Analysis
• Title（参考訳）: TL-PCA:主成分分析の伝達学習
• Authors: Sharon Hendy, Yehuda Dar,
• Abstract要約: 主成分分析は、対象とするデータのサンプルが多すぎると著しく制限される可能性がある。 そこで本研究では,対象タスクの少ないデータに加えて,関連するソースタスクからの知識が使用されるPCA(TL-PCA)への転送学習手法を提案する。 画像データセットの結果から, 次元削減のためのTL-PCAにより, テストデータの表現が向上することが示された。
• 参考スコア（独自算出の注目度）: 1.573034584191491
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Principal component analysis (PCA) can be significantly limited when there is too few examples of the target data of interest. We propose a transfer learning approach to PCA (TL-PCA) where knowledge from a related source task is used in addition to the scarce data of a target task. Our TL-PCA has two versions, one that uses a pretrained PCA solution of the source task, and another that uses the source data. Our proposed approach extends the PCA optimization objective with a penalty on the proximity of the target subspace and the source subspace as given by the pretrained source model or the source data. This optimization is solved by eigendecomposition for which the number of data-dependent eigenvectors (i.e., principal directions of TL-PCA) is not limited to the number of target data examples, which is a root cause that limits the standard PCA performance. Accordingly, our results for image datasets show that the representation of test data is improved by TL-PCA for dimensionality reduction where the learned subspace dimension is lower or higher than the number of target data examples.
• Abstract（参考訳）: 主成分分析(PCA)は、対象とするデータのサンプルが多すぎると著しく制限される。 そこで本研究では,対象タスクの少ないデータに加えて,関連するソースタスクからの知識が使用されるPCA(TL-PCA)への転送学習手法を提案する。 我々のTL-PCAには2つのバージョンがあり、1つはソースタスクの事前訓練PCAソリューションを使用し、もう1つはソースデータを使用する。 提案手法は,PCA最適化の目的を,事前学習したソースモデルやソースデータから与えられたターゲット部分空間とソース部分空間の近さをペナルティとして拡張する。 この最適化は、データ依存固有ベクトル(TL-PCAの主方向)の数が対象データ例の数に制限されない固有分解によって解決される。 そこで,画像データセットの結果から,学習した部分空間次元が対象データ例の数よりも小さい次元削減のためのTL-PCAにより,テストデータの表現が改善されることが判明した。

関連論文リスト

• Sparse outlier-robust PCA for multi-source data [2.3226893628361687]
  そこで本研究では,重要な特徴と局所的なソース固有パターンを同時に選択する新しいPCA手法を提案する。 我々は,グローバルな局所構造的空間パターンに対応するペナルティを持つ正規化問題を開発する。 本稿では,乗算器の交互方向法による提案手法の効率的な実装について述べる。
  論文  参考訳（メタデータ） (2024-07-23T08:55:03Z)
• Knowledge Transfer across Multiple Principal Component Analysis Studies [8.602833477729899]
  本稿では,複数音源成分分析(PCA)研究から有用な情報を抽出する2段階移動学習アルゴリズムを提案する。 最初のステップでは、複数の研究にまたがる共有部分空間情報をGrassmannian barycenterと呼ばれる提案手法で統合する。 第1段階から得られた共有部分空間の推定器を利用して、対象のプライベート部分空間を推定する。
  論文  参考訳（メタデータ） (2024-03-12T09:15:12Z)
• Prediction-Oriented Bayesian Active Learning [51.426960808684655]
  予測情報ゲイン(EPIG)は、パラメータではなく予測空間における情報ゲインを測定する。 EPIGは、さまざまなデータセットやモデルにわたるBALDと比較して、予測パフォーマンスが向上する。
  論文  参考訳（メタデータ） (2023-04-17T10:59:57Z)
• Domain Adaptation Principal Component Analysis: base linear method for learning with out-of-distribution data [55.41644538483948]
  ドメイン適応は現代の機械学習において一般的なパラダイムである。 ドメイン適応主成分分析(DAPCA)という手法を提案する。 DAPCAは、領域適応タスクの解決に有用な線形化データ表現を見つける。
  論文  参考訳（メタデータ） (2022-08-28T21:10:56Z)
• Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
  ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。 近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。 本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
  論文  参考訳（メタデータ） (2022-04-24T12:22:19Z)
• Instance Relation Graph Guided Source-Free Domain Adaptive Object Detection [79.89082006155135]
  教師なしドメイン適応(Unsupervised Domain Adaptation, UDA)は、ドメインシフトの問題に取り組むための効果的なアプローチである。 UDAメソッドは、ターゲットドメインの一般化を改善するために、ソースとターゲット表現を整列させようとする。 Source-Free Adaptation Domain (SFDA)設定は、ソースデータへのアクセスを必要とせずに、ターゲットドメインに対してソーストレーニングされたモデルを適用することで、これらの懸念を軽減することを目的としている。
  論文  参考訳（メタデータ） (2022-03-29T17:50:43Z)
• FAST-PCA: A Fast and Exact Algorithm for Distributed Principal Component Analysis [12.91948651812873]
  主成分分析(PCA)は、機械学習の世界における基本的なデータ前処理ツールである。 本稿では,FAST-PCA (Fast and exact distributed PCA) と呼ばれる分散PCAアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-08-27T16:10:59Z)
• Capturing patterns of variation unique to a specific dataset [68.8204255655161]
  対象データセットの1つ以上の比較データセットに対する低次元表現を同定するチューニングフリー手法を提案する。 複数の実験で、単一のバックグラウンドデータセットを持つUCAが、様々なチューニングパラメータを持つcPCAと同じような結果を達成することを示しました。
  論文  参考訳（メタデータ） (2021-04-16T15:07:32Z)
• A Linearly Convergent Algorithm for Distributed Principal Component Analysis [12.91948651812873]
  本稿では,1時間スケール分散pcaアルゴリズムである分散sanger's algorithm(dsa)を提案する。 提案アルゴリズムは真の解の近傍に線形収束することを示した。
  論文  参考訳（メタデータ） (2021-01-05T00:51:14Z)
• Sparse Feature Selection Makes Batch Reinforcement Learning More Sample Efficient [62.24615324523435]
  本稿では,スパース線形関数近似を用いた高次元バッチ強化学習(RL)の統計的解析を行う。 候補となる機能が多数存在する場合,提案手法がバッチRLをより効率的にサンプリングできるという事実に光を当てる。
  論文  参考訳（メタデータ） (2020-11-08T16:48:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。