論文の概要: Adversarial LassoNet: Robust Feature Selection via Stability-Driven Sparse Learning
- arxiv url: http://arxiv.org/abs/2607.03839v1
- Date: Sat, 04 Jul 2026 12:01:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.735776
- Title: Adversarial LassoNet: Robust Feature Selection via Stability-Driven Sparse Learning
- Title(参考訳): Adversarial LassoNet: 安定駆動スパース学習によるロバストな特徴選択
- Abstract要約: AdLNetは、入力空間の摂動とLassoNetの階層的スパース機構を統合する、安定性駆動のスパース機能選択フレームワークである。
実験によると、AdLNetは競合スパース選択性能を維持しつつ、配布外ロバスト性を4.4%改善し、機能サポートを6.3%改善している。
- 参考スコア(独自算出の注目度): 9.282673102334869
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sparse feature selection is critical for high-dimensional machine learning, yet traditional $\ell_1$-regularized methods are often brittle under observational noise and spurious correlations, leading to unstable feature supports and degraded generalization. Although adversarial training has been widely used to improve model robustness, its interaction with hierarchical sparse feature selection remains underexplored. In this work, we propose Adversarial LassoNet (AdLNet), a stability-driven sparse feature selection framework that integrates input-space adversarial perturbations with the hierarchical sparsity mechanism of LassoNet. We derive a tractable first-order adversarial approximation under local smoothness assumptions and provide an NTK-inspired spectral analysis to characterize how perturbation-driven training can reduce gradient concentration. Experiments on high-dimensional SERS data, six public benchmark datasets, and ColoredMNIST show that AdLNet maintains competitive sparse-selection performance while improving out-of-distribution robustness by 4.4\% and feature support reproducibility by 6.3\% under nearly matched support sparsity on ColoredMNIST. On the high-dimensional lung cancer screening dataset, AdLNet achieves a 5.3\% test accuracy gain and a 6.0\% AUC improvement over vanilla LassoNet. Code and dataset are available at https://github.com/719573/Adversarial-LassoNet.
- Abstract(参考訳): スパース特徴選択は高次元機械学習において重要であるが、従来の$\ell_1$-regularizedメソッドは、観測ノイズや突発的相関の下で脆くなり、不安定な特徴サポートと劣化した一般化をもたらす。
逆行訓練はモデルロバスト性を改善するために広く用いられているが、階層的スパース特徴選択との相互作用は未解明のままである。
本稿では,ラッソネットの階層的スペーサ機構と入力空間の摂動を結合した安定性駆動型スパース特徴選択フレームワークであるAdversarial LassoNetを提案する。
局所的な滑らかさを仮定した1次逆数近似を導出し、NTKにインスパイアされたスペクトル分析を行い、摂動駆動トレーニングが勾配濃度を減少させるかを特徴付ける。
高次元SERSデータ、6つの公開ベンチマークデータセット、およびColoredMNISTの実験は、AdLNetが競合スパース選択性能を維持しつつ、配布外ロバスト性を4.4\%改善し、ColoredMNISTのほぼ一致したサポート空間の下で機能サポート再現性を6.3\%改善していることを示している。
高次元肺がんスクリーニングデータセットでは、AdLNetはバニラ・ラスソネットよりも5.3\%の精度と6.0\%のAUC改善を達成する。
コードとデータセットはhttps://github.com/7 19573/Adversarial-LassoNetで入手できる。
関連論文リスト
- CaliDist: Calibrating Large Language Models via Behavioral Robustness to Distraction [51.56484100374058]
既存のLLM(Large Language Models)のキャリブレーション手法は、しばしば信頼性の重要な次元、すなわちモデルの振舞いの堅牢性を見落としている。
我々は,モデルが注意をそらす可能性を直接測定し,罰する,新しいポストホックキャリブレーション手法であるtextscCaliDistを紹介した。
textscCaliDistは、強いベースラインと比較して、期待の低いエラー(ECE)とBrier Scoreを一貫して達成します。
論文 参考訳(メタデータ) (2026-06-04T07:27:53Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - Choosing the Right Regularizer for Applied ML: Simulation Benchmarks of Popular Scikit-learn Regularization Frameworks [0.1862063702912854]
134,400のシミュレーションで、Rook、Lasso、ElasticNet、Post-Lasso OLSの4つの標準フレームワークのパフォーマンスを実証的に評価した。
サンプル/フィール比が十分である場合の予測精度では、Ride、Lasso、ElasticNetはほぼ交換可能である。
サンプルサイズが小さいカッパでLassoまたはPost-Lasso OLSの使用を推奨する。
論文 参考訳(メタデータ) (2026-04-04T01:33:41Z) - LassoFlexNet: Flexible Neural Architecture for Tabular Data [15.932140218953817]
EmphLassoFlexNetは、Per-Feature Embeddingsを介して各入力の線形および非線形の限界寄与を評価するアーキテクチャである。
3つのベンチマークから52ドルを越え、LassoFlexNetは、主要なツリーベースのモデルにマッチするか、または性能を上回り、最大10ドル%の相対的な利益を達成している。
論文 参考訳(メタデータ) (2026-03-21T03:59:47Z) - WS-Net: Weak-Signal Representation Learning and Gated Abundance Reconstruction for Hyperspectral Unmixing via State-Space and Weak Signal Attention Fusion [6.0621081081000385]
ハイパースペクトル画像における弱スペクトル応答は、支配的なエンドメンバーとセンサーノイズによってしばしば無視される。
本稿では、弱い信号の崩壊に対処するために設計されたディープ・アンミックス・フレームワークであるWS-Netを紹介する。
このフレームワークは低SNR条件下では安定な精度を維持しており、特に弱いエンドメンバーに対して有効である。
論文 参考訳(メタデータ) (2026-03-10T00:12:33Z) - Deep Hierarchical Learning with Nested Subspace Networks [53.71337604556311]
大規模ニューラルネットワークのためのNested Subspace Networks (NSN)を提案する。
NSNは、単一のモデルを連続した計算予算の範囲で動的かつきめ細かな調整を可能にする。
我々は,NSNを訓練済みのLLMに外科的に適用し,スムーズで予測可能な計算性能フロンティアを解き放つことができることを示した。
論文 参考訳(メタデータ) (2025-09-22T15:13:14Z) - SCISSOR: Mitigating Semantic Bias through Cluster-Aware Siamese Networks for Robust Classification [16.633948320306832]
ショートカット学習は、モデル一般化をアウト・オブ・ディストリビューションデータに損なう。
本稿では,SCISSOR(Semantic Cluster Intervention for Suppressing ShORtcut)を提案する。
コンピュータビジョンではChest-XRay,Not-MNIST,NLPタスクではGYAFC,Yelpの4つのベンチマークでSCISSORを評価した。
論文 参考訳(メタデータ) (2025-06-17T14:49:29Z) - Human-in-the-Loop Feature Selection Using Interpretable Kolmogorov-Arnold Network-based Double Deep Q-Network [2.259291861960906]
本研究では,Double Deep Q-Network (DDQN)に統合されたHuman-in-the-loop (HITL)機能選択フレームワークを提案する。
我々の新しいアプローチは、シミュレーションされた人間のフィードバックと分布に基づくサンプリング、特にベータを利用して、データインスタンスごとの機能サブセットを反復的に洗練する。
Kan-DDQNは、MNISTが93%、FashionMNISTが83%で、従来のDDQNモデルよりも9%向上した。
論文 参考訳(メタデータ) (2024-11-06T08:13:09Z) - UncertaintyRAG: Span-Level Uncertainty Enhanced Long-Context Modeling for Retrieval-Augmented Generation [93.38604803625294]
IncertaintyRAG, a novel approach for long-context Retrieval-Augmented Generation (RAG)について紹介する。
我々は、SNR(Signal-to-Noise Ratio)ベースのスパン不確実性を用いて、テキストチャンク間の類似性を推定する。
不確かさRAGはLLaMA-2-7Bでベースラインを2.03%上回り、最先端の結果を得る。
論文 参考訳(メタデータ) (2024-10-03T17:39:38Z) - Class-Imbalanced Semi-Supervised Learning for Large-Scale Point Cloud
Semantic Segmentation via Decoupling Optimization [64.36097398869774]
半教師付き学習(SSL)は大規模3Dシーン理解のための活発な研究課題である。
既存のSSLベースのメソッドは、クラス不均衡とポイントクラウドデータのロングテール分布による厳しいトレーニングバイアスに悩まされている。
本稿では,特徴表現学習と分類器を別の最適化方法で切り離してバイアス決定境界を効果的にシフトする,新しいデカップリング最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-13T04:16:40Z) - Inertial Hallucinations -- When Wearable Inertial Devices Start Seeing
Things [82.15959827765325]
環境支援型生活(AAL)のためのマルチモーダルセンサフュージョンの新しいアプローチを提案する。
我々は、標準マルチモーダルアプローチの2つの大きな欠点、限られた範囲のカバレッジ、信頼性の低下に対処する。
我々の新しいフレームワークは、三重項学習によるモダリティ幻覚の概念を融合させ、異なるモダリティを持つモデルを訓練し、推論時に欠落したセンサーに対処する。
論文 参考訳(メタデータ) (2022-07-14T10:04:18Z) - Guided Point Contrastive Learning for Semi-supervised Point Cloud
Semantic Segmentation [90.2445084743881]
そこで本研究では,モデル性能を向上させるために,未ラベルの点群をトレーニングに採用するための半教師付き点群セマンティックセマンティックセマンティックセマンティクスを提案する。
近年の自己監督型タスクのコントラスト損失に触発されて,特徴表現とモデル一般化能力を高めるためのガイド付きポイントコントラスト損失を提案する。
論文 参考訳(メタデータ) (2021-10-15T16:38:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。