論文の概要: Rethinking GA2Ms: performance and out-of-distribution generalisation
- arxiv url: http://arxiv.org/abs/2611.05012v1
- Date: Tue, 03 Nov 2026 14:57:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 15:07:42.662921
- Title: Rethinking GA2Ms: performance and out-of-distribution generalisation
- Title（参考訳）: GA2Mの再考:性能とアウト・オブ・ディストリビューションの一般化
- Abstract要約: 一般化付加モデル(GAMs)は、解釈可能な機械学習の基礎である。
本稿では,複合一般化付加モデル (CoGA2M) を提案し,それをTALENTベンチマークスイートで評価する。
- 参考スコア（独自算出の注目度）: 2.2282508171588806
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generalised Additive Models (GAMs) are a cornerstone of interpretable machine learning, offering transparent predictions through structured additive decompositions. Despite advances from classical GAMs to modern neural and spline-based variants, two notable gaps remain. First, comprehensive benchmarking of spline-based GAMs on large-scale tabular learning tasks, the dominant modality in applied settings, is lacking. Second, their robustness under distribution shift, a setting where structured inductive biases should confer advantages, remains unexplored. We propose a multi-resolution, higher-order Composite Generalised Additive Model (CoGA2M) and evaluate it on the TALENT benchmark suite. CoGA2M ranks in the top third across all baselines (29 for regression, 32 for classification), establishing competitive performance with state-of-the-art tabular methods. We further extend TALENT with out-of-distribution (OOD) splits exhibiting train-test distributional shift and benchmark CoGA2M against LightGBM, a consistently top-performing model on TALENT. Under distribution shift, CoGA2M outperforms LightGBM, demonstrating a clear structural advantage. Our results position spline-based GAMs as strong contenders for tabular prediction and reveal a previously unrecognised benefit of additive structure in the OOD regime.
- Abstract（参考訳）: Generalized Additive Models (GAMs) は解釈可能な機械学習の基礎であり、構造化された加法分解を通じて透過的な予測を提供する。
古典的なGAMから現代のニューラルおよびスプラインベースの変種への進化にもかかわらず、2つの顕著なギャップが残っている。
まず,大規模表形式学習タスクにおけるスプラインベースGAMの総合的ベンチマークを行い,適用条件の優越性について検討した。
第二に、分布シフトの下での頑健さは、構造的帰納バイアスが優位性を引き出すような環境であり、まだ未解明のままである。
本稿では,多解像度高次複合一般化付加モデル(CoGA2M)を提案し,TALENTベンチマークスイート上で評価する。
CoGA2Mはすべてのベースライン(29は回帰、32は分類)で上位3位にランクされ、最先端の表形式手法と競合する性能を確立した。
さらに、列車の分散シフトを示すOOD(out-of-distriion)スプリットと、一貫したtalENT上での最高性能モデルであるLightGBMに対するCoGA2MをベンチマークすることでTALENTをさらに拡張する。
CoGA2Mは配布シフトの下でLightGBMより優れており、明らかな構造上の優位性を示している。
以上の結果から, スプライン系GAMは表層予測の強力な競争相手として位置づけられ, OOD系において, それまで認識されていなかった付加的構造の利点が明らかとなった。
関連論文リスト
- Adapting Nonstationary Multi-output Gaussian Processes to Bayesian Optimization [0.0]
マルチ出力低ランク非定常(MO-LRN)GPのミスマッチについて検討し、高いトレーニング適合性は大規模なオフデザインエラーと楽観的な獲得予測と共存できることを示した。
MOLRN-BOは、正規化された共有スペクトルサロゲートと、目的固有残差、先行平均補正、誘電共分散スケーリングを組み合わせたものである。
実験により、MOLRN-BOは元のMO-LRNを大幅に改善し、最終正規化ハイパーボリュームと正規化逆世代距離の最良の平均問題ランクを達成することが示された。
論文 参考訳（メタデータ） (2026-09-26T10:54:56Z) - Hierarchical Exponential-Gaussian Mixtures for Watch-Time Distribution Prediction [74.05279072166697]
Exponential-Gaussian Mixture Network (EGMN) は完全な条件WT分布をモデル化する。
EGMNは分散崩壊、コンポーネントの冗長性、不活性成分に弱い。
本稿では,これらの故障モードに対処する階層型指数-ガウス混合(HEGM)モデルを提案する。
論文 参考訳（メタデータ） (2026-08-24T15:06:18Z) - SGD for Variational Inference: Tackling Unbounded Variance via Preconditioning and Dynamic Batching [8.6165142481624]
Black-Box Variational Inference (BBVI) は通常、下界 (ELBO) を最適化するためにグラディエント・ディフレッシュ (SGD) に依存している。
基礎最適化理論とBBVIの実践例とのギャップを埋める。
論文 参考訳（メタデータ） (2026-05-08T10:02:51Z) - Balanced Aggregation: Understanding and Fixing Aggregation Bias in GRPO [70.38763678943648]
検証可能な報酬(RLVR)による強化学習は、大規模言語モデルにおける推論とコード生成を改善するための中心的なパラダイムとなっている。
標準的なGRPOはシーケンスアグリゲーションを使用し、最近の研究はトークンアグリゲーションをより良い代替手段として提唱している。
トークンアグリゲーションは符号長結合を導入し、シーケンスアグリゲーションは暗黙的にダウンウェイトを延長する。
論文 参考訳（メタデータ） (2026-04-14T09:48:46Z) - Genetic Generalized Additive Models [0.0]
一般化付加モデル(GAM)は予測精度と解釈可能性のバランスをとる。
本稿では,GAを自動最適化する多目的遺伝的アルゴリズムNSGA-IIを提案する。
論文 参考訳（メタデータ） (2026-02-02T20:19:02Z) - Rectified LpJEPA: Joint-Embedding Predictive Architectures with Sparse and Maximum-Entropy Representations [53.61624356747686]
JEPA(Joint-Embedding Predictive Architectures)は、ビュー不変表現を学習し、崩壊防止のためのプロジェクションベースの分布マッチングを認める。
既存のアプローチは、等方的ガウス分布に対する表現を正則化するが、本質的には密度表現を好んでおり、効率的な表現で観察されるスパーシティの重要な性質を捉えることができない。
本稿では,Rectified Generalized Gaussian(RGG)分布に表現を整合させる2サンプル分布整合損失であるRDMRegを導入する。
論文 参考訳（メタデータ） (2026-02-01T21:49:30Z) - Why not Collaborative Filtering in Dual View? Bridging Sparse and Dense Models [17.01882282913444]
協調フィルタリングは現代のレコメンデーターシステムの基盤となっている。
密埋め込みのセマンティック表現性とスパース相互作用パターンの構造的信頼性を統合した統合フレームワークSaD(Sparse and Dense)を提案する。
これら2つの視点を整合させることで、より優れたグローバルSNRが得られることを示す。
論文 参考訳（メタデータ） (2026-01-14T08:47:07Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳（メタデータ） (2025-05-21T07:16:44Z) - Degree-Conscious Spiking Graph for Cross-Domain Adaptation [51.58506501415558]
Spiking Graph Networks (SGNs) はグラフ分類において大きな可能性を証明している。
DeSGraDA(Degree-Consicious Spiking Graph for Cross-Domain Adaptation)という新しいフレームワークを紹介する。
DeSGraDAは3つのキーコンポーネントを持つドメイン間の一般化を強化する。
論文 参考訳（メタデータ） (2024-10-09T13:45:54Z) - Self-supervised Heterogeneous Graph Pre-training Based on Structural
Clustering [20.985559149384795]
SHGP(Self-supervised Heterogeneous Graph Pre-training approach)を提案する。
肯定的な例や否定的な例を生成する必要はない。
最先端の教師なしベースラインや半教師なしベースラインよりも優れている。
論文 参考訳（メタデータ） (2022-10-19T10:55:48Z) - Interpretable Learning-to-Rank with Generalized Additive Models [78.42800966500374]
ラーニング・ツー・ランクのモデルの解釈可能性は、非常に重要でありながら、比較的過小評価されている研究分野である。
解釈可能なランキングモデルの最近の進歩は、主に既存のブラックボックスランキングモデルに対するポストホックな説明の生成に焦点を当てている。
一般化加法モデル(GAM)をランキングタスクに導入することにより,本質的に解釈可能な学習 to ランクの基盤を築いた。
論文 参考訳（メタデータ） (2020-05-06T01:51:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。