論文の概要: CatNet: Effective FDR Control in LSTM with Gaussian Mirrors and SHAP Feature Importance

• arxiv url: http://arxiv.org/abs/2411.16666v1
• Date: Mon, 25 Nov 2024 18:53:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-26 14:24:52.133614
• Title: CatNet: Effective FDR Control in LSTM with Gaussian Mirrors and SHAP Feature Importance
• Title（参考訳）: CatNet:ガウスミラーとSHAP特徴量を用いたLSTMにおける効果的なFDR制御
• Authors: Jiaan Han, Junxiao Chen, Yanzhe Fu,
• Abstract要約: CatNetは、False Discovery Rate(FDR)を効果的に制御し、ガウスミラー(GM)法でLSTMの重要な特徴を選択するアルゴリズムである。 リンク関数の異なる線形モデルとLSTMモデルの両方において、シミュレーションデータを用いてCatNetの性能を評価する。 我々は、S&P500指数部品の価格を予測するため、多要素投資ポートフォリオを構築した。
• 参考スコア（独自算出の注目度）: 0.3277163122167434
• License:
• Abstract: We introduce CatNet, an algorithm that effectively controls False Discovery Rate (FDR) and selects significant features in LSTM with the Gaussian Mirror (GM) method. To evaluate the feature importance of LSTM in time series, we introduce a vector of the derivative of the SHapley Additive exPlanations (SHAP) to measure feature importance. We also propose a new kernel-based dependence measure to avoid multicollinearity in the GM algorithm, to make a robust feature selection with controlled FDR. We use simulated data to evaluate CatNet's performance in both linear models and LSTM models with different link functions. The algorithm effectively controls the FDR while maintaining a high statistical power in all cases. We also evaluate the algorithm's performance in different low-dimensional and high-dimensional cases, demonstrating its robustness in various input dimensions. To evaluate CatNet's performance in real world applications, we construct a multi-factor investment portfolio to forecast the prices of S\&P 500 index components. The results demonstrate that our model achieves superior predictive accuracy compared to traditional LSTM models without feature selection and FDR control. Additionally, CatNet effectively captures common market-driving features, which helps informed decision-making in financial markets by enhancing the interpretability of predictions. Our study integrates of the Gaussian Mirror algorithm with LSTM models for the first time, and introduces SHAP values as a new feature importance metric for FDR control methods, marking a significant advancement in feature selection and error control for neural networks.
• Abstract（参考訳）: 本研究では,False Discovery Rate (FDR) を効果的に制御し,ガウスミラー (GM) 法でLSTMの重要な特徴を選択するアルゴリズムであるCatNetを紹介する。 時系列におけるLSTMの特徴的重要性を評価するために,SHAP(SHapley Additive exPlanations)の導関数のベクトルを導入し,特徴的重要性を評価する。 また、GMアルゴリズムの多重線形性を回避するため、制御されたFDRでロバストな特徴選択を行うために、カーネルベースの新しい依存度尺度を提案する。 リンク関数の異なる線形モデルとLSTMモデルの両方において、シミュレーションデータを用いてCatNetの性能を評価する。 このアルゴリズムは、全てのケースにおいて高い統計的パワーを維持しながら、FDRを効果的に制御する。 また,低次元および高次元の異なるケースにおいて,アルゴリズムの性能評価を行い,様々な入力次元におけるロバスト性を実証した。 実世界のアプリケーションにおけるCatNetの性能を評価するため,S\&P 500指数部品の価格を予測するための多要素投資ポートフォリオを構築した。 その結果,従来のLSTMモデルに比べ,特徴選択やFDR制御を伴わないモデルに比べ,予測精度が優れていた。 さらにCatNetは、予測の解釈可能性を高めることで、金融市場における意思決定のインフォメーションを支援する、一般的な市場駆動機能を効果的に捉えている。 本研究は、ガウスミラーアルゴリズムとLSTMモデルを初めて統合し、FDR制御法における特徴重要度基準としてSHAP値を導入し、ニューラルネットワークの機能選択とエラー制御の大幅な進歩を示す。

関連論文リスト

• Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting [49.1574468325115]
  本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
  論文  参考訳（メタデータ） (2023-12-29T08:42:10Z)
• 1D-CapsNet-LSTM: A Deep Learning-Based Model for Multi-Step Stock Index Forecasting [6.05458608266581]
  本研究では,多段階株価指数予測のためのLSTMネットワークに1D CapsNetを統合する可能性を検討する。 この目的のために、1D CapsNetを用いて高レベルのカプセルを生成するハイブリッド1D-CapsNet-LSTMモデルが導入された。 提案した1D-CapsNet-LSTMモデルは、ベースラインモデルを2つの重要な側面で一貫して上回っている。
  論文  参考訳（メタデータ） (2023-10-03T14:33:34Z)
• Optimization Guarantees of Unfolded ISTA and ADMM Networks With Smooth Soft-Thresholding [57.71603937699949]
  我々は,学習エポックの数の増加とともに,ほぼゼロに近いトレーニング損失を達成するための最適化保証について検討した。 トレーニングサンプル数に対する閾値は,ネットワーク幅の増加とともに増加することを示す。
  論文  参考訳（メタデータ） (2023-09-12T13:03:47Z)
• Probabilistic MIMO U-Net: Efficient and Accurate Uncertainty Estimation for Pixel-wise Regression [1.4528189330418977]
  機械学習における不確実性推定は、予測モデルの信頼性と解釈可能性を高めるための最重要課題である。 画素ワイド回帰タスクに対するMIMO(Multiple-Input Multiple-Output)フレームワークの適応について述べる。
  論文  参考訳（メタデータ） (2023-08-14T22:08:28Z)
• Rewarded meta-pruning: Meta Learning with Rewards for Channel Pruning [19.978542231976636]
  本稿では,ディープラーニングモデルにおける計算効率向上のためのパラメータとFLOPの削減手法を提案する。 本稿では,ネットワークの精度と計算効率のトレードオフを制御するために,精度と効率係数を導入する。
  論文  参考訳（メタデータ） (2023-01-26T12:32:01Z)
• Batch-Ensemble Stochastic Neural Networks for Out-of-Distribution Detection [55.028065567756066]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイすることの重要性から、マシンラーニングコミュニティから注目を集めている。 本稿では,特徴量の分布をモデル化した不確実な定量化手法を提案する。 バッチアンサンブルニューラルネットワーク(BE-SNN)の構築と機能崩壊問題の克服を目的として,効率的なアンサンブル機構,すなわちバッチアンサンブルを組み込んだ。 We show that BE-SNNs yield superior performance on the Two-Moons dataset, the FashionMNIST vs MNIST dataset, FashionM。
  論文  参考訳（メタデータ） (2022-06-26T16:00:22Z)
• RoMA: Robust Model Adaptation for Offline Model-based Optimization [115.02677045518692]
  入力出力クエリの静的データセットからブラックボックス目的関数を最大化する入力を探索する問題を考える。 この問題を解決するための一般的なアプローチは、真の客観的関数を近似するプロキシモデルを維持することである。 ここでの大きな課題は、検索中に逆最適化された入力を避ける方法である。
  論文  参考訳（メタデータ） (2021-10-27T05:37:12Z)
• Robusta: Robust AutoML for Feature Selection via Reinforcement Learning [24.24652530951966]
  強化学習(RL)に基づく初の堅牢なAutoMLフレームワークRobostaを提案します。 このフレームワークは,良性サンプルの競争精度を維持しつつ,モデルロバスト性を最大22%向上させることができることを示す。
  論文  参考訳（メタデータ） (2021-01-15T03:12:29Z)
• Optimization-driven Machine Learning for Intelligent Reflecting Surfaces Assisted Wireless Networks [82.33619654835348]
  インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。 散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。 本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
  論文  参考訳（メタデータ） (2020-08-29T08:39:43Z)
• Adaptive Control and Regret Minimization in Linear Quadratic Gaussian (LQG) Setting [91.43582419264763]
  我々は不確実性に直面した楽観主義の原理に基づく新しい強化学習アルゴリズムLqgOptを提案する。 LqgOptはシステムのダイナミクスを効率的に探索し、モデルのパラメータを信頼区間まで推定し、最も楽観的なモデルのコントローラをデプロイする。
  論文  参考訳（メタデータ） (2020-03-12T19:56:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。