論文の概要: FAStEN: an efficient adaptive method for feature selection and
estimation in high-dimensional functional regressions
- arxiv url: http://arxiv.org/abs/2303.14801v2
- Date: Mon, 4 Sep 2023 13:39:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-07 06:07:11.030863
- Title: FAStEN: an efficient adaptive method for feature selection and
estimation in high-dimensional functional regressions
- Title（参考訳）: FAStEN:高次元機能回帰における特徴選択と推定のための効率的な適応手法
- Authors: Tobia Boschi, Lorenzo Testa, Francesca Chiaromonte, Matthew Reimherr
- Abstract要約: 本稿では,スパース関数オン・ファンクション回帰問題において特徴選択を行うための,新しい,柔軟な,超効率的なアプローチを提案する。
我々はそれをスカラー・オン・ファンクション・フレームワークに拡張する方法を示す。
AOMIC PIOP1による脳MRIデータへの応用について述べる。
- 参考スコア（独自算出の注目度）: 8.384075654211685
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Functional regression analysis is an established tool for many contemporary
scientific applications. Regression problems involving large and complex data
sets are ubiquitous, and feature selection is crucial for avoiding overfitting
and achieving accurate predictions. We propose a new, flexible and
ultra-efficient approach to perform feature selection in a sparse high
dimensional function-on-function regression problem, and we show how to extend
it to the scalar-on-function framework. Our method, called FAStEN, combines
functional data, optimization, and machine learning techniques to perform
feature selection and parameter estimation simultaneously. We exploit the
properties of Functional Principal Components and the sparsity inherent to the
Dual Augmented Lagrangian problem to significantly reduce computational cost,
and we introduce an adaptive scheme to improve selection accuracy. In addition,
we derive asymptotic oracle properties, which guarantee estimation and
selection consistency for the proposed FAStEN estimator. Through an extensive
simulation study, we benchmark our approach to the best existing competitors
and demonstrate a massive gain in terms of CPU time and selection performance,
without sacrificing the quality of the coefficients' estimation. The
theoretical derivations and the simulation study provide a strong motivation
for our approach. Finally, we present an application to brain fMRI data from
the AOMIC PIOP1 study.
- Abstract（参考訳）: 関数回帰分析は、現代の多くの科学応用において確立されたツールである。
大規模で複雑なデータセットを含む回帰問題はユビキタスであり、オーバーフィットを避け、正確な予測を達成するためには特徴選択が不可欠である。
スパース高次元関数オンファンクション回帰問題において特徴選択を行うための新しい,柔軟で,超効率的なアプローチを提案し,それをスカラー・オンファンクション・フレームワークに拡張する方法を示す。
FAStENと呼ばれる本手法は,機能データ,最適化,機械学習技術を組み合わせて特徴選択とパラメータ推定を同時に行う。
機能主成分の性質と2重拡張ラグランジアン問題に固有のスパーシティを利用して計算コストを大幅に削減し,選択精度を向上させる適応スキームを提案する。
さらに,提案したFAStEN推定器における推定と選択の整合性を保証する漸近オラクル特性を導出する。
大規模なシミュレーション研究を通じて,提案手法を既存の競合相手にベンチマークし,CPU時間と選択性能の点で,係数推定の品質を犠牲にすることなく,大幅な向上を示した。
理論的導出とシミュレーション研究は,我々のアプローチに強い動機を与える。
最後に、AOMIC PIOP1による脳MRIデータへの応用について述べる。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - IGANN Sparse: Bridging Sparsity and Interpretability with Non-linear Insight [4.010646933005848]
IGANN Sparseは、一般化された加法モデルのファミリーから生まれた、新しい機械学習モデルである。
トレーニング中の非線形特徴選択プロセスを通じて、スパシティを促進する。
これにより、予測性能を犠牲にすることなく、モデル空間の改善による解釈可能性を保証する。
論文 参考訳（メタデータ） (2024-03-17T22:44:36Z) - End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳（メタデータ） (2024-02-12T16:33:35Z) - Causal Feature Selection via Transfer Entropy [59.999594949050596]
因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。
本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。
精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
論文 参考訳（メタデータ） (2023-10-17T08:04:45Z) - Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。
カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。
我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-10-09T03:55:09Z) - Offline Reinforcement Learning with Differentiable Function
Approximation is Provably Efficient [65.08966446962845]
歴史的データを用いて意思決定戦略を最適化することを目的としたオフライン強化学習は、現実の応用に広く適用されている。
微分関数クラス近似(DFA)を用いたオフライン強化学習の検討から一歩踏み出した。
最も重要なことは、悲観的な適合Q-ラーニングアルゴリズムを解析することにより、オフライン微分関数近似が有効であることを示すことである。
論文 参考訳（メタデータ） (2022-10-03T07:59:42Z) - Bayesian Optimization with Informative Covariance [13.113313427848828]
探索空間の特定の領域の好みを符号化するために,非定常性を利用した新しい情報共分散関数を提案する。
提案した関数は,より弱い事前情報の下でも,ハイ次元でのベイズ最適化のサンプル効率を向上させることができることを示す。
論文 参考訳（メタデータ） (2022-08-04T15:05:11Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Approximate Bayesian Optimisation for Neural Networks [6.921210544516486]
モデル選択の重要性を強調するために、機械学習アルゴリズムを自動化するための一連の作業が行われた。
理想主義的な方法で解析的トラクタビリティと計算可能性を解決する必要性は、効率と適用性を確保することを可能にしている。
論文 参考訳（メタデータ） (2021-08-27T19:03:32Z) - Automated Human Activity Recognition by Colliding Bodies
Optimization-based Optimal Feature Selection with Recurrent Neural Network [0.0]
HAR(Human Activity Recognition)は、センサの読み取りから広範に計算を行う上で、効率的なモデルであると考えられている。
本稿では,UC Irvine Machine Learning Repository(UCI)で公開されているスマートセンサから収集したデータを用いて,ディープラーニングを用いたHARシステムの実装を誘致する。
論文 参考訳（メタデータ） (2020-10-07T10:58:46Z) - Finding Optimal Points for Expensive Functions Using Adaptive RBF-Based
Surrogate Model Via Uncertainty Quantification [11.486221800371919]
本稿では,適応的放射基底関数 (RBF) を用いた不確実性定量化によるサロゲートモデルを用いた新しいグローバル最適化フレームワークを提案する。
まずRBFに基づくベイズ代理モデルを用いて真の関数を近似し、新しい点が探索されるたびにRBFのパラメータを適応的に推定し更新することができる。
次に、モデル誘導選択基準を用いて、関数評価のための候補セットから新しい点を識別する。
論文 参考訳（メタデータ） (2020-01-19T16:15:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。