論文の概要: Differentiable Feature Selection, a Reparameterization Approach
- arxiv url: http://arxiv.org/abs/2107.10030v1
- Date: Wed, 21 Jul 2021 11:52:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-22 14:19:24.386458
- Title: Differentiable Feature Selection, a Reparameterization Approach
- Title(参考訳): 微分可能特徴選択 -再パラメータ化アプローチ-
- Authors: J\'er\'emie Dona (MLIA), Patrick Gallinari (MLIA)
- Abstract要約: 本稿では,データインスタンス全体を再構成可能な機能のサブセットを選択することで構成される,再構成のための機能選択の課題について考察する。
これは、コストのかかる物理的測定、センサー配置、情報圧縮など、いくつかの文脈において特に重要である。
本研究では,本手法がデータ固有の形状を生かし,再構成を容易にすることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the task of feature selection for reconstruction which consists
in choosing a small subset of features from which whole data instances can be
reconstructed. This is of particular importance in several contexts involving
for example costly physical measurements, sensor placement or information
compression. To break the intrinsic combinatorial nature of this problem, we
formulate the task as optimizing a binary mask distribution enabling an
accurate reconstruction. We then face two main challenges. One concerns
differentiability issues due to the binary distribution. The second one
corresponds to the elimination of redundant information by selecting variables
in a correlated fashion which requires modeling the covariance of the binary
distribution. We address both issues by introducing a relaxation of the problem
via a novel reparameterization of the logitNormal distribution. We demonstrate
that the proposed method provides an effective exploration scheme and leads to
efficient feature selection for reconstruction through evaluation on several
high dimensional image benchmarks. We show that the method leverages the
intrinsic geometry of the data, facilitating reconstruction.
- Abstract(参考訳): データインスタンス全体を再構築できる機能の小さなサブセットを選択することからなる、リストラのための機能選択のタスクについて検討する。
これは、コストのかかる物理的測定、センサー配置、情報圧縮など、いくつかの文脈において特に重要である。
この問題の本質的組合せの性質を破るために,我々は,正確な再構成を可能にするバイナリマスク分布を最適化するタスクを定式化する。
そして、2つの大きな課題に直面します。
1つはバイナリ分布による微分可能性の問題である。
第2の方法は、二分分布の共分散をモデル化する必要のある相関した方法で変数を選択することで冗長情報の排除に対応する。
本稿では,ロジットNormal分布の再パラメータ化による問題を緩和することで,両問題に対処する。
本研究では,提案手法が効率的な探索手法を提供し,高次元画像ベンチマークの評価により,効率的な特徴選択を実現することを示す。
本手法は,データの内在的な形状を活用し,再構成を容易にすることを示す。
関連論文リスト
- Causal Feature Selection via Transfer Entropy [59.999594949050596]
因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。
本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。
精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
論文 参考訳(メタデータ) (2023-10-17T08:04:45Z) - Equivariance Discovery by Learned Parameter-Sharing [153.41877129746223]
データから解釈可能な等価性を発見する方法について検討する。
具体的には、モデルのパラメータ共有方式に対する最適化問題として、この発見プロセスを定式化する。
また,ガウスデータの手法を理論的に解析し,研究された発見スキームとオラクルスキームの間の平均2乗ギャップを限定する。
論文 参考訳(メタデータ) (2022-04-07T17:59:19Z) - Feature subset selection for Big Data via Chaotic Binary Differential
Evolution under Apache Spark [4.241208172557663]
本稿では,基数とAUCを含む新しい乗法的単一目的関数を提案する。
二項微分進化(BDE)にロジスティックおよびテントカオス写像を組み込み、それをカオス二項微分進化(CBDE)と命名した。
その結果,P-CBDE-iS(Chaotic Binary Differential Evolution)とP-CBDE-iS(Chaotic Binary Differential Evolution)により,より高品質な特徴部分集合が得られた。
論文 参考訳(メタデータ) (2022-02-08T11:39:40Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Adaptive Graph-based Generalized Regression Model for Unsupervised
Feature Selection [11.214334712819396]
非相関的かつ識別的特徴の選択は、教師なしの機能選択の重要な問題である。
非相関制約と $ell_2,1$-norm 正規化によって課される新しい一般化回帰モデルを提案する。
それは同時に同じ近所に属するこれらのデータ ポイントの分散を減らすこと無相関および差別的な特徴を選ぶことができます。
論文 参考訳(メタデータ) (2020-12-27T09:07:26Z) - Multi-task Supervised Learning via Cross-learning [102.64082402388192]
我々は,様々なタスクを解くことを目的とした回帰関数の集合を適合させることで,マルチタスク学習と呼ばれる問題を考える。
我々の新しい定式化では、これらの関数のパラメータを2つに分けて、互いに近づきながらタスク固有のドメインで学習する。
これにより、異なるドメインにまたがって収集されたデータが、互いのタスクにおける学習パフォーマンスを改善するのに役立つ、クロス・ファーティライズが促進される。
論文 参考訳(メタデータ) (2020-10-24T21:35:57Z) - Set Based Stochastic Subsampling [85.5331107565578]
本稿では,2段階間ニューラルサブサンプリングモデルを提案する。
画像分類,画像再構成,機能再構築,少数ショット分類など,様々なタスクにおいて,低いサブサンプリング率で関連ベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-25T07:36:47Z) - Multi-Objective Evolutionary approach for the Performance Improvement of
Learners using Ensembling Feature selection and Discretization Technique on
Medical data [8.121462458089143]
本稿では,新しい多目的型次元還元フレームワークを提案する。
これは、特徴選択と離散化を行うためのアンサンブルモデルとして、離散化と特徴縮小の両方を組み込んでいる。
論文 参考訳(メタデータ) (2020-04-16T06:32:15Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳(メタデータ) (2020-03-19T15:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。