論文の概要: Regularized Meta-Learning for Improved Generalization

• arxiv url: http://arxiv.org/abs/2602.12469v1
• Date: Thu, 12 Feb 2026 22:55:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-16 23:37:53.781526
• Title: Regularized Meta-Learning for Improved Generalization
• Title（参考訳）: 一般化のための正規化メタラーニング
• Authors: Noor Islam S. Mohammad, Md Muntaqim Meherab,
• Abstract要約: 正規化メタラーニングは、高次元アンサンブルシステムのための安定かつデプロイ効率の高いスタックング戦略である。 4段階のパイプラインは、冗長性を考慮したプロジェクション、統計的メタ機能拡張、およびクロスバリデーションされた正規化メタモデルを組み合わせる。 Playground Series S6E1ベンチマークでは、提案フレームワークは8.582のアウトオブフォールドRMSEを実現し、単純な平均(8.894)と従来のリッジ積み重ね(8.627)よりも改善し、グリーディヒルクライミング(8.603)とほぼ低ランタイム(8.603)とほぼ一致する(4倍高速)。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep ensemble methods often improve predictive performance, yet they suffer from three practical limitations: redundancy among base models that inflates computational cost and degrades conditioning, unstable weighting under multicollinearity, and overfitting in meta-learning pipelines. We propose a regularized meta-learning framework that addresses these challenges through a four-stage pipeline combining redundancy-aware projection, statistical meta-feature augmentation, and cross-validated regularized meta-models (Ridge, Lasso, and ElasticNet). Our multi-metric de-duplication strategy removes near-collinear predictors using correlation and MSE thresholds ($τ_{\text{corr}}=0.95$), reducing the effective condition number of the meta-design matrix while preserving predictive diversity. Engineered ensemble statistics and interaction terms recover higher-order structure unavailable to raw prediction columns. A final inverse-RMSE blending stage mitigates regularizer-selection variance. On the Playground Series S6E1 benchmark (100K samples, 72 base models), the proposed framework achieves an out-of-fold RMSE of 8.582, improving over simple averaging (8.894) and conventional Ridge stacking (8.627), while matching greedy hill climbing (8.603) with substantially lower runtime (4 times faster). Conditioning analysis shows a 53.7\% reduction in effective matrix condition number after redundancy projection. Comprehensive ablations demonstrate consistent contributions from de-duplication, statistical meta-features, and meta-ensemble blending. These results position regularized meta-learning as a stable and deployment-efficient stacking strategy for high-dimensional ensemble systems.
• Abstract（参考訳）: 深層アンサンブル法はしばしば予測性能を改善するが、計算コストを膨らませ、条件付けを低下させるベースモデル間の冗長性、マルチコリニティの下で不安定な重み付け、メタラーニングパイプラインにおける過度な適合性の3つの実用的限界に悩まされている。 本稿では,これらの課題に,冗長性を考慮したプロジェクション,統計的メタ機能拡張,クロスバリデーションされた正規化メタモデル(Ridge,Lasso,ElasticNet)を組み合わせた4段階パイプラインで対処する正規化メタ学習フレームワークを提案する。 マルチメトリックデ複製戦略では,相関とMSEしきい値(τ_{\text{corr}}=0.95$)を用いてニアコリニア予測器を除去し,予測多様性を維持しながらメタ設計行列の有効条件数を削減した。 工学的なアンサンブル統計と相互作用項は、生の予測列では利用できない高次構造を回復する。 最終逆RMSE混合段階は正則化器選択分散を緩和する。 Playground Series S6E1ベンチマーク(100Kサンプル、72ベースモデル)では、提案フレームワークは8.582のアウト・オブ・フォールドRMSEを実現し、単純な平均(8.894)と従来型のスタック(8.627)を上回り、グレディ・ヒルクライミング(8.603)とほぼ低いランタイム(8.603)と4倍の高速化を実現した。 条件付け解析は、冗長射影後の有効行列条件数53.7\%の減少を示す。 包括的短縮は、重複解消、統計的メタ機能、メタアンサンブルブレンディングからの一貫した貢献を示す。 これらの結果は,高次元アンサンブルシステムの安定かつ展開効率の高い積み重ね戦略として,正規化メタラーニングを位置づけた。

関連論文リスト

• Symmetric Aggregation of Conformity Scores for Efficient Uncertainty Sets [6.673032375204486]
  複数の予測器から非整合性スコアを集約する新しい手法であるSACP(Symmetric Aggregated Conformal Prediction)を提案する。 SACP はこれらのスコアを e-値に変換し、任意の対称アグリゲーション関数を用いてそれらを結合する。 我々はSACPが効率を継続的に改善し、しばしば最先端のモデルアグリゲーションベースラインを上回っていることを示す。
  論文  参考訳（メタデータ） (2025-12-07T17:54:07Z)
• Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
  第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。 We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
  論文  参考訳（メタデータ） (2025-11-04T17:22:22Z)
• Generalized Linear Bandits: Almost Optimal Regret with One-Pass Update [70.38810219913593]
  非線形リンク関数を組み込んで古典線形モデルを拡張したコンテキスト型多武装バンディットフレームワークである一般化線形バンディット問題(GLB)について検討する。 GLBは現実世界のシナリオに広く適用できるが、その非線形性は計算効率と統計効率の両方を達成する上で大きな課題をもたらす。 本稿では,$mathcalO(1)$時間と1ラウンドあたりの空間複雑度をほぼ最適に再現するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-07-16T02:24:21Z)
• A Cycle-Consistency Constrained Framework for Dynamic Solution Space Reduction in Noninjective Regression [4.04042026249306]
  本稿では,サイクル一貫性に基づくデータ駆動トレーニングフレームワークを提案する。 正規化合成およびシミュレーションデータセットの実験により,提案手法が0.003未満のサイクル再構成誤差を達成することを示した。 このフレームワークは手動による介入への依存を著しく減らし、非インジェクティブ回帰タスクの潜在的な利点を示す。
  論文  参考訳（メタデータ） (2025-07-07T04:28:01Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• A Statistics and Deep Learning Hybrid Method for Multivariate Time Series Forecasting and Mortality Modeling [0.0]
  Exponential Smoothing Recurrent Neural Network (ES-RNN)は、統計予測モデルとリカレントニューラルネットワークのハイブリッドである。 ES-RNNはMakridakis-4 Forecasting Competitionで絶対誤差を9.4%改善した。
  論文  参考訳（メタデータ） (2021-12-16T04:44:19Z)
• Estimation of Switched Markov Polynomial NARX models [75.91002178647165]
  非線形自己回帰(NARX)成分を特徴とするハイブリッド力学系のモデル群を同定する。 提案手法は, 特定の回帰器を持つ3つの非線形サブモデルからなるSMNARX問題に対して実証される。
  論文  参考訳（メタデータ） (2020-09-29T15:00:47Z)
• Adaptive Correlated Monte Carlo for Contextual Categorical Sequence Generation [77.7420231319632]
  我々は,モンテカルロ (MC) ロールアウトの集合を分散制御のために評価する政策勾配推定器に,カテゴリー列の文脈的生成を適用する。 また,二分木ソフトマックスモデルに相関したMCロールアウトを用いることで,大語彙シナリオにおける高生成コストを低減できることを示す。
  論文  参考訳（メタデータ） (2019-12-31T03:01:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。