論文の概要: Meta Additive Model: Interpretable Sparse Learning With Auto Weighting

• arxiv url: http://arxiv.org/abs/2604.20111v1
• Date: Wed, 22 Apr 2026 02:16:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:10.920147
• Title: Meta Additive Model: Interpretable Sparse Learning With Auto Weighting
• Title（参考訳）: Meta Additive Model: オートウェイトによる解釈可能なスパース学習
• Authors: Xuelin Zhang, Xinyue Liu, Lingjuan Wu, Hong Chen,
• Abstract要約: 両レベル最適化フレームワークに基づく新しいメタ付加モデル(MAM)を提案する。 MAMは、変数の選択、頑健な回帰推定、不均衡な分類など、さまざまな学習タスクをこなすことができる。 MAMは、様々なデータ破損の下で、合成データと実世界のデータの両方において、最先端の加算モデルより優れている。
• 参考スコア（独自算出の注目度）: 14.609527535286022
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sparse additive models have attracted much attention in high-dimensional data analysis due to their flexible representation and strong interpretability. However, most existing models are limited to single-level learning under the mean-squared error criterion, whose empirical performance can degrade significantly in the presence of complex noise, such as non-Gaussian perturbations, outliers, noisy labels, and imbalanced categories. The sample reweighting strategy is widely used to reduce the model's sensitivity to atypical data; however, it typically requires prespecifying the weighting functions and manually selecting additional hyperparameters. To address this issue, we propose a new meta additive model (MAM) based on the bilevel optimization framework, which learns data-driven weighting of individual losses by parameterizing the weighting function via an MLP trained on meta data. MAM is capable of a variety of learning tasks, including variable selection, robust regression estimation, and imbalanced classification. Theoretically, MAM provides guarantees on convergence in computation, algorithmic generalization, and variable selection consistency under mild conditions. Empirically, MAM outperforms several state-of-the-art additive models on both synthetic and real-world data under various data corruptions.
• Abstract（参考訳）: スパース加法モデルは、その柔軟な表現と強い解釈可能性により、高次元データ解析において多くの注目を集めている。 しかし、既存のモデルのほとんどは平均二乗誤差基準の下でのシングルレベル学習に限られており、その経験的性能は、非ガウス摂動、外れ値、ノイズラベル、不均衡なカテゴリといった複雑なノイズの存在下で著しく低下する可能性がある。 サンプル再重み付け戦略は、非定型データに対するモデルの感度を下げるために広く用いられているが、通常は重み付け関数を事前に指定し、追加のハイパーパラメータを手動で選択する必要がある。 この問題に対処するために,2レベル最適化フレームワークに基づく新しいメタ付加モデルを提案する。メタデータに基づいて訓練されたMLPを用いて重み付け関数をパラメータ化することにより,個々の損失の重み付けをデータ駆動で学習する。 MAMは、変数の選択、頑健な回帰推定、不均衡な分類など、さまざまな学習タスクをこなすことができる。 理論的には、MAMは計算の収束、アルゴリズムの一般化、および穏やかな条件下での変数選択の一貫性を保証する。 経験的に、MAMは様々なデータ破損の下で、合成データと実世界のデータの両方において、最先端の加算モデルよりも優れています。

関連論文リスト

• M-Loss: Quantifying Model Merging Compatibility with Limited Unlabeled Data [9.502531621979694]
  本稿では,新しい評価指標であるMerging-ensembling loss (M-Loss)を紹介する。 M-Lossは、非常に限られたラベルのないデータを用いて、マージソースモデルの互換性を定量化する。 理論解析と実験により,M-Lossをマージプロセスに組み込むことで,マージモデルとモデルアンサンブルのアライメントが大幅に向上することが示された。
  論文  参考訳（メタデータ） (2026-02-09T12:03:36Z)
• Feasible Learning [78.6167929413604]
  本稿では,サンプル中心の学習パラダイムであるFeasible Learning(FL)を紹介する。 大規模言語モデルにおける画像分類, 年齢回帰, 好みの最適化といった経験的分析により, FLを用いて訓練したモデルでは, 平均的性能に限界があるものの, ERMと比較して改善された尾の挙動を示しながらデータから学習できることが実証された。
  論文  参考訳（メタデータ） (2025-01-24T20:39:38Z)
• Minimal Variance Model Aggregation: A principled, non-intrusive, and versatile integration of black box models [0.2455468619225742]
  様々なモデルから予測を統合するデータ駆動型フレームワークであるMEVA(Minimal Empirical Variance Aggregation)を紹介する。 この非侵襲的モデルに依存しないアプローチは、貢献するモデルをブラックボックスとして扱い、多様な方法論からの出力を許容する。
  論文  参考訳（メタデータ） (2024-09-25T18:33:21Z)
• Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
  異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。 本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-06T14:49:59Z)
• A prediction and behavioural analysis of machine learning methods for modelling travel mode choice [0.26249027950824505]
  我々は、モデル選択に影響を及ぼす可能性のある重要な要因の観点から、複数のモデリング問題に対して異なるモデリングアプローチを体系的に比較する。 その結果,非凝集性予測性能が最も高いモデルでは,行動指標やアグリゲーションモードのシェアが低下することが示唆された。 MNLモデルは様々な状況において堅牢に機能するが、ML手法はWillingness to Payのような行動指標の推定を改善することができる。
  論文  参考訳（メタデータ） (2023-01-11T11:10:32Z)
• Instance-specific and Model-adaptive Supervision for Semi-supervised Semantic Segmentation [49.82432158155329]
  iMAS と呼ばれる半教師付きセマンティックセグメンテーションのためのインスタンス固有およびモデル適応型監視法を提案する。 iMASは、評価された硬さに基づいて、対応する一貫性損失を測定することで、ラベルのないインスタンスから徐々に学習する。
  論文  参考訳（メタデータ） (2022-11-21T10:37:28Z)
• Discover, Explanation, Improvement: An Automatic Slice Detection Framework for Natural Language Processing [72.14557106085284]
  スライス検出モデル(SDM)は、データポイントの低パフォーマンスなグループを自動的に識別する。 本稿では,NLPタスクの分類のための "Discover, Explain, improve (DEIM)" というベンチマークを提案する。 評価の結果,Edisaは情報的セマンティックな特徴を持つ誤り発生データポイントを正確に選択できることがわかった。
  論文  参考訳（メタデータ） (2022-11-08T19:00:00Z)
• Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
  本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。 我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。 その結果,我々のモデルは最先端の性能を達成できることがわかった。
  論文  参考訳（メタデータ） (2020-10-12T03:27:07Z)
• Non-asymptotic oracle inequalities for the Lasso in high-dimensional mixture of experts [2.794896499906838]
  ソフトマックスゲーティング関数を持つガウスモデルとガウス専門家のクラスを考察する。 我々の知る限りでは、SGMoEモデルの$l_1$-regularization特性を非漸近的観点から初めて研究する。 我々は、SGMoEモデルに対するラッソ推定器のKulback-Leibler損失の非漸近的理論的制御を保証するために、ラッソペナルティの正規化パラメータの低い境界を与える。
  論文  参考訳（メタデータ） (2020-09-22T15:23:35Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。