論文の概要: CatNet: Effective FDR Control in LSTM with Gaussian Mirrors and SHAP Feature Importance

• arxiv url: http://arxiv.org/abs/2411.16666v2
• Date: Tue, 26 Nov 2024 16:23:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-28 17:07:50.916137
• Title: CatNet: Effective FDR Control in LSTM with Gaussian Mirrors and SHAP Feature Importance
• Title（参考訳）: CatNet:ガウスミラーとSHAP特徴量を用いたLSTMにおける効果的なFDR制御
• Authors: Jiaan Han, Junxiao Chen, Yanzhe Fu,
• Abstract要約: CatNetは、False Discovery Rate(FDR)を効果的に制御し、ガウスミラー(GM)法でLSTMの重要な特徴を選択するアルゴリズムである。 リンク関数の異なる線形モデルとLSTMモデルの両方において、シミュレーションデータを用いてCatNetの性能を評価する。 我々は、S&P500指数部品の価格を予測するため、多要素投資ポートフォリオを構築した。
• 参考スコア（独自算出の注目度）: 0.3277163122167434
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: We introduce CatNet, an algorithm that effectively controls False Discovery Rate (FDR) and selects significant features in LSTM with the Gaussian Mirror (GM) method. To evaluate the feature importance of LSTM in time series, we introduce a vector of the derivative of the SHapley Additive exPlanations (SHAP) to measure feature importance. We also propose a new kernel-based dependence measure to avoid multicollinearity in the GM algorithm, to make a robust feature selection with controlled FDR. We use simulated data to evaluate CatNet's performance in both linear models and LSTM models with different link functions. The algorithm effectively controls the FDR while maintaining a high statistical power in all cases. We also evaluate the algorithm's performance in different low-dimensional and high-dimensional cases, demonstrating its robustness in various input dimensions. To evaluate CatNet's performance in real world applications, we construct a multi-factor investment portfolio to forecast the prices of S\&P 500 index components. The results demonstrate that our model achieves superior predictive accuracy compared to traditional LSTM models without feature selection and FDR control. Additionally, CatNet effectively captures common market-driving features, which helps informed decision-making in financial markets by enhancing the interpretability of predictions. Our study integrates of the Gaussian Mirror algorithm with LSTM models for the first time, and introduces SHAP values as a new feature importance metric for FDR control methods, marking a significant advancement in feature selection and error control for neural networks.
• Abstract（参考訳）: 本研究では,False Discovery Rate (FDR) を効果的に制御し,ガウスミラー (GM) 法でLSTMの重要な特徴を選択するアルゴリズムであるCatNetを紹介する。 時系列におけるLSTMの特徴的重要性を評価するために,SHAP(SHapley Additive exPlanations)の導関数のベクトルを導入し,特徴的重要性を評価する。 また、GMアルゴリズムの多重線形性を回避するため、制御されたFDRでロバストな特徴選択を行うために、カーネルベースの新しい依存度尺度を提案する。 リンク関数の異なる線形モデルとLSTMモデルの両方において、シミュレーションデータを用いてCatNetの性能を評価する。 このアルゴリズムは、全てのケースにおいて高い統計的パワーを維持しながら、FDRを効果的に制御する。 また,低次元および高次元の異なるケースにおいて,アルゴリズムの性能評価を行い,様々な入力次元におけるロバスト性を実証した。 実世界のアプリケーションにおけるCatNetの性能を評価するため,S\&P 500指数部品の価格を予測するための多要素投資ポートフォリオを構築した。 その結果,従来のLSTMモデルに比べ,特徴選択やFDR制御を伴わないモデルに比べ,予測精度が優れていた。 さらにCatNetは、予測の解釈可能性を高めることで、金融市場における意思決定のインフォメーションを支援する、一般的な市場駆動機能を効果的に捉えている。 本研究は、ガウスミラーアルゴリズムとLSTMモデルを初めて統合し、FDR制御法における特徴重要度基準としてSHAP値を導入し、ニューラルネットワークの機能選択とエラー制御の大幅な進歩を示す。

関連論文リスト

• Network Resource Optimization for ML-Based UAV Condition Monitoring with Vibration Analysis [54.550658461477106]
  条件監視(CM)は機械学習(ML)モデルを使用して異常および異常な条件を識別する。 本研究では,MLベースのUAV CMフレームワークにおけるネットワークリソースの最適化について検討する。 次元削減技術を活用することで、ネットワークリソース消費の99.9%が削減される。
  論文  参考訳（メタデータ） (2025-02-21T14:36:12Z)
• MM-RLHF: The Next Step Forward in Multimodal LLM Alignment [59.536850459059856]
  MM-RLHF, $mathbf120k$ fine-fine, human-annotated preference comparison pairsを含むデータセットを紹介する。 本稿では,報酬モデルの品質向上とアライメントアルゴリズムの効率向上のために,いくつかの重要なイノベーションを提案する。 我々のアプローチは、$mathbf10$の異なる次元と$mathbf27$のベンチマークで厳格に評価されている。
  論文  参考訳（メタデータ） (2025-02-14T18:59:51Z)
• Rational Tuning of LLM Cascades via Probabilistic Modeling [0.9208007322096532]
  大規模言語モデル(LLM)の連立性能分布の確率的モデルを提案する。 グリッドサーチを用いた信頼性閾値の選択と比較して,提案手法はカスケードの長さとコストエラー曲線の所望の解像度に関して,実行時のスケーリングを大幅に改善する。
  論文  参考訳（メタデータ） (2025-01-16T07:58:33Z)
• Imitation Learning of MPC with Neural Networks: Error Guarantees and Sparsification [5.260346080244568]
  本稿では,ニューラルネットワークを用いた模倣モデル予測制御系における近似誤差の有界化のためのフレームワークを提案する。 本稿では,この手法を用いて,性能保証付き安定型ニューラルネットワークコントローラを設計する方法について論じる。
  論文  参考訳（メタデータ） (2025-01-07T10:18:37Z)
• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting [49.1574468325115]
  本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
  論文  参考訳（メタデータ） (2023-12-29T08:42:10Z)
• 1D-CapsNet-LSTM: A Deep Learning-Based Model for Multi-Step Stock Index Forecasting [6.05458608266581]
  本研究では,多段階株価指数予測のためのLSTMネットワークに1D CapsNetを統合する可能性を検討する。 この目的のために、1D CapsNetを用いて高レベルのカプセルを生成するハイブリッド1D-CapsNet-LSTMモデルが導入された。 提案した1D-CapsNet-LSTMモデルは、ベースラインモデルを2つの重要な側面で一貫して上回っている。
  論文  参考訳（メタデータ） (2023-10-03T14:33:34Z)
• Optimization Guarantees of Unfolded ISTA and ADMM Networks With Smooth Soft-Thresholding [57.71603937699949]
  我々は,学習エポックの数の増加とともに,ほぼゼロに近いトレーニング損失を達成するための最適化保証について検討した。 トレーニングサンプル数に対する閾値は,ネットワーク幅の増加とともに増加することを示す。
  論文  参考訳（メタデータ） (2023-09-12T13:03:47Z)
• Probabilistic MIMO U-Net: Efficient and Accurate Uncertainty Estimation for Pixel-wise Regression [1.4528189330418977]
  機械学習における不確実性推定は、予測モデルの信頼性と解釈可能性を高めるための最重要課題である。 画素ワイド回帰タスクに対するMIMO(Multiple-Input Multiple-Output)フレームワークの適応について述べる。
  論文  参考訳（メタデータ） (2023-08-14T22:08:28Z)
• Rewarded meta-pruning: Meta Learning with Rewards for Channel Pruning [19.978542231976636]
  本稿では,ディープラーニングモデルにおける計算効率向上のためのパラメータとFLOPの削減手法を提案する。 本稿では,ネットワークの精度と計算効率のトレードオフを制御するために,精度と効率係数を導入する。
  論文  参考訳（メタデータ） (2023-01-26T12:32:01Z)
• Adaptive LASSO estimation for functional hidden dynamic geostatistical model [69.10717733870575]
  関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。 このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
  論文  参考訳（メタデータ） (2022-08-10T19:17:45Z)
• Batch-Ensemble Stochastic Neural Networks for Out-of-Distribution Detection [55.028065567756066]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイすることの重要性から、マシンラーニングコミュニティから注目を集めている。 本稿では,特徴量の分布をモデル化した不確実な定量化手法を提案する。 バッチアンサンブルニューラルネットワーク(BE-SNN)の構築と機能崩壊問題の克服を目的として,効率的なアンサンブル機構,すなわちバッチアンサンブルを組み込んだ。 We show that BE-SNNs yield superior performance on the Two-Moons dataset, the FashionMNIST vs MNIST dataset, FashionM。
  論文  参考訳（メタデータ） (2022-06-26T16:00:22Z)
• Achieving Efficient Distributed Machine Learning Using a Novel Non-Linear Class of Aggregation Functions [9.689867512720083]
  時間的変化のあるネットワーク上での分散機械学習(DML)は、分散化されたMLアプリケーションを開発する上で有効である。 本稿では,時間変動ネットワーク上で効率的なDMLを実現するために,モデル集約関数の非線形クラスを提案する。
  論文  参考訳（メタデータ） (2022-01-29T03:43:26Z)
• RoMA: Robust Model Adaptation for Offline Model-based Optimization [115.02677045518692]
  入力出力クエリの静的データセットからブラックボックス目的関数を最大化する入力を探索する問題を考える。 この問題を解決するための一般的なアプローチは、真の客観的関数を近似するプロキシモデルを維持することである。 ここでの大きな課題は、検索中に逆最適化された入力を避ける方法である。
  論文  参考訳（メタデータ） (2021-10-27T05:37:12Z)
• Stochastic Deep Model Reference Adaptive Control [9.594432031144715]
  本稿では,ディープニューラルネットワークを用いたモデル参照適応制御を提案する。 Deep Model Reference Adaptive Controlは、DNNモデルの出力層重みをリアルタイムに適応させるために、リアプノフ法を用いる。 データ駆動型教師付き学習アルゴリズムは、内部層パラメータの更新に使用される。
  論文  参考訳（メタデータ） (2021-08-04T14:05:09Z)
• Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
  暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。 彼らは不利な姿勢と収束の不安定さに悩まされる。 本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
  論文  参考訳（メタデータ） (2021-06-06T18:05:02Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)
• Robusta: Robust AutoML for Feature Selection via Reinforcement Learning [24.24652530951966]
  強化学習(RL)に基づく初の堅牢なAutoMLフレームワークRobostaを提案します。 このフレームワークは,良性サンプルの競争精度を維持しつつ,モデルロバスト性を最大22%向上させることができることを示す。
  論文  参考訳（メタデータ） (2021-01-15T03:12:29Z)
• Neural Gaussian Mirror for Controlled Feature Selection in Neural Networks [3.716862357836751]
  本稿では,カーネルをベースとした条件依存度に基づく構造的摂動により,ミラー化された特徴が生成されるニューラルガウスミラー(NGM)を紹介し,特徴の重要性を評価する。 シミュレーションおよび実データ例で示すように,提案手法は事前定義されたレベルで特徴選択誤差率を制御し,高度に相関した特徴が存在する場合でも高い選択力を維持する。
  論文  参考訳（メタデータ） (2020-10-13T04:30:53Z)
• Optimization-driven Machine Learning for Intelligent Reflecting Surfaces Assisted Wireless Networks [82.33619654835348]
  インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。 散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。 本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
  論文  参考訳（メタデータ） (2020-08-29T08:39:43Z)
• Adaptive Control and Regret Minimization in Linear Quadratic Gaussian (LQG) Setting [91.43582419264763]
  我々は不確実性に直面した楽観主義の原理に基づく新しい強化学習アルゴリズムLqgOptを提案する。 LqgOptはシステムのダイナミクスを効率的に探索し、モデルのパラメータを信頼区間まで推定し、最も楽観的なモデルのコントローラをデプロイする。
  論文  参考訳（メタデータ） (2020-03-12T19:56:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。