論文の概要: Robust LassoNet: Enhancing Feature Selection in Neural Networks via Robust Loss Functions

• arxiv url: http://arxiv.org/abs/2609.38263v1
• Date: Tue, 29 Sep 2026 12:49:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.432244
• Title: Robust LassoNet: Enhancing Feature Selection in Neural Networks via Robust Loss Functions
• Title（参考訳）: Robust LassoNet:ロバストロス関数によるニューラルネットワークの機能選択の強化
• Abstract要約: 本稿では,LassoNetの拡張であるRobust LassoNetを紹介する。 その結果,ロバストなLassoNetは,オフレーヤや重み付きノイズの存在下で,予測性能と特徴選択精度の両方を著しく向上させることがわかった。 これらの結果は、ニューラルネットワークに基づく特徴選択における堅牢性の重要性を強調し、適切な損失関数を選択するための実践的なガイドラインを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Feature selection in neural networks remains a challenging problem, particularly in the presence of noisy or contaminated data. LassoNet is a recent approach that addresses this issue by combining neural networks with hierarchical sparsity constraints, enabling simultaneous prediction and variable selection. However, its standard formulation relies on the mean squared error (MSE) loss, which is known to be highly sensitive to outliers. In this paper, we present Robust LassoNet, an extension of LassoNet that incorporates robust loss functions, such as Huber, Cauchy, Tukey's bisquare, and Nonnegative Garrote, to mitigate the effect of extreme observations. The proposed approach preserves the original optimization framework while improving stability under data contamination. Through experiments on synthetic and real datasets, we show that robust LassoNet significantly improves both predictive performance and feature selection accuracy in the presence of outliers or heavy tailed noise, while maintaining comparable performance in clean settings. These results highlight the importance of robustness in neural network based feature selection and suggest practical guidelines for choosing appropriate loss functions.
• Abstract（参考訳）: ニューラルネットワークの特徴選択は、特にノイズや汚染データの存在において、依然として困難な問題である。 LassoNetは、ニューラルネットワークと階層的な空間的制約を組み合わせて、同時予測と変数選択を可能にする、この問題に対処する最近のアプローチである。 しかし、標準定式化は平均二乗誤差(MSE)損失に依存しており、これは外れ値に非常に敏感であることが知られている。 本稿では,ハマー,コーシー,テューキー二乗,非負ガロテといったロバスト損失関数を組み込んだLassoNetの拡張であるRobust LassoNetを提案する。 提案手法は、データ汚染下での安定性を向上しつつ、元の最適化フレームワークを保存する。 合成データセットと実データセットの実験により、ロバストなLassoNetは、オフレーヤや重み付きノイズの存在下で、予測性能と特徴選択精度の両方を著しく改善し、クリーンな設定では同等のパフォーマンスを維持していることを示す。 これらの結果は、ニューラルネットワークに基づく特徴選択における堅牢性の重要性を強調し、適切な損失関数を選択するための実践的なガイドラインを提案する。

関連論文リスト

• Adversarial LassoNet: Robust Feature Selection via Stability-Driven Sparse Learning [9.282673102334869]
  AdLNetは、入力空間の摂動とLassoNetの階層的スパース機構を統合する、安定性駆動のスパース機能選択フレームワークである。 実験によると、AdLNetは競合スパース選択性能を維持しつつ、配布外ロバスト性を4.4%改善し、機能サポートを6.3%改善している。
  論文  参考訳（メタデータ） (2026-07-04T12:01:53Z)
• Exponential Lasso: robust sparse penalization under heavy-tailed noise and outliers with exponential-type loss [0.0]
  本稿では,ラッソフレームワーク内に指数型損失関数を統合する,新しいロバストな手法を提案する。 指数ラッソは、古典ラッソを理想的な条件で整合させて、強い統計的収束率を達成することを示す。 数値実験により, 提案手法は競争力が高く, 汚染された環境下では古典ラッソよりも優れ, ガウス雑音下においても強い性能を維持していることが示された。
  論文  参考訳（メタデータ） (2025-11-19T10:50:46Z)
• Imitation Learning of MPC with Neural Networks: Error Guarantees and Sparsification [5.260346080244568]
  本稿では,ニューラルネットワークを用いた模倣モデル予測制御系における近似誤差の有界化のためのフレームワークを提案する。 本稿では,この手法を用いて,性能保証付き安定型ニューラルネットワークコントローラを設計する方法について論じる。
  論文  参考訳（メタデータ） (2025-01-07T10:18:37Z)
• Unveiling the Power of Sparse Neural Networks for Feature Selection [60.50319755984697]
  スパースニューラルネットワーク(SNN)は、効率的な特徴選択のための強力なツールとして登場した。 動的スパーストレーニング(DST)アルゴリズムで訓練されたSNNは、平均して50%以上のメモリと55%以上のFLOPを削減できることを示す。 以上の結果から,DSTアルゴリズムで訓練したSNNによる特徴選択は,平均して50ドル以上のメモリと55%のFLOPを削減できることがわかった。
  論文  参考訳（メタデータ） (2024-08-08T16:48:33Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Can pruning improve certified robustness of neural networks? [106.03070538582222]
  ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。 実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。 さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
  論文  参考訳（メタデータ） (2022-06-15T05:48:51Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
  小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。 我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
  論文  参考訳（メタデータ） (2021-02-23T20:59:30Z)
• Consistent Feature Selection for Analytic Deep Neural Networks [3.42658286826597]
  分析深層ネットワークにおける特徴選択の問題について検討する。 我々は、広範囲のネットワークに対して、グループラッソによる適応群ラッソ選択手順が選択整合であることを証明する。 この研究は、Group Lassoがニューラルネットワークによる特徴選択に非効率であることのさらなる証拠を提供する。
  論文  参考訳（メタデータ） (2020-10-16T01:59:53Z)
• Consistent feature selection for neural networks via Adaptive Group Lasso [3.42658286826597]
  ニューラルネットワークの重要な特徴を選択するための適応型グループの使用に関する理論的保証を提案し,確立する。 具体的には,1つの隠蔽層と双曲的タンジェント活性化関数を持つ単一出力フィードフォワードニューラルネットワークに対して,特徴選択法が整合であることを示す。
  論文  参考訳（メタデータ） (2020-05-30T18:50:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。