論文の概要: Structured Basis Function Networks: Loss-Centric Multi-Hypothesis Ensembles with Controllable Diversity
- arxiv url: http://arxiv.org/abs/2509.02792v1
- Date: Tue, 02 Sep 2025 19:53:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-04 21:40:46.325402
- Title: Structured Basis Function Networks: Loss-Centric Multi-Hypothesis Ensembles with Controllable Diversity
- Title(参考訳): 構造基底関数ネットワーク:制御可能な多様性を持つロス中心多相集合
- Authors: Alejandro Rodriguez Dominguez, Muhammad Shahzad, Xia Hong,
- Abstract要約: 既存の予測の不確実性に対するアプローチは、多様性を促進するが原則化された集約を欠くマルチハイプセシス予測に依存している。
Structured Basis Function Networkはこのギャップに対処し、Bregmanの発散によって引き起こされる中心的な凝集を通して多仮説予測とエンハンブルをリンクする。
調整可能な多様性メカニズムは、バイアス-分散-多様性トレードオフのパラメトリック制御を提供し、多仮説一般化と損失認識アンサンブルアグリゲーションを接続する。
- 参考スコア(独自算出の注目度): 46.60221265861393
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Existing approaches to predictive uncertainty rely either on multi-hypothesis prediction, which promotes diversity but lacks principled aggregation, or on ensemble learning, which improves accuracy but rarely captures the structured ambiguity. This implicitly means that a unified framework consistent with the loss geometry remains absent. The Structured Basis Function Network addresses this gap by linking multi-hypothesis prediction and ensembling through centroidal aggregation induced by Bregman divergences. The formulation applies across regression and classification by aligning predictions with the geometry of the loss, and supports both a closed-form least-squares estimator and a gradient-based procedure for general objectives. A tunable diversity mechanism provides parametric control of the bias-variance-diversity trade-off, connecting multi-hypothesis generalisation with loss-aware ensemble aggregation. Experiments validate this relation and use the mechanism to study the complexity-capacity-diversity trade-off across datasets of increasing difficulty with deep-learning predictors.
- Abstract(参考訳): 既存の予測の不確実性に対するアプローチは、多様性を促進するが原則的な集約が欠如しているマルチハイプセシス予測や、正確性を改善するが構造的あいまいさを捉えることはめったにないアンサンブル学習に依存する。
これは暗黙的に、損失幾何学と整合した統一されたフレームワークはいまだに存在しないことを意味する。
Structured Basis Function Networkはこのギャップに対処し、Bregmanの発散によって引き起こされる中心的な凝集を通して多仮説予測とエンハンブルをリンクする。
この定式化は、損失の幾何学と予測を整合させることにより回帰と分類にまたがって適用され、一般目的に対する閉形式最小二乗推定器と勾配に基づく手順の両方をサポートする。
調整可能な多様性メカニズムは、バイアス-分散-多様性トレードオフのパラメトリック制御を提供し、多仮説一般化と損失認識アンサンブルアグリゲーションを接続する。
実験は、この関係を検証し、深層学習予測器の難易度を増大させるデータセット間の複雑性-容量-多様性トレードオフを研究するメカニズムを使用する。
関連論文リスト
- Synergy Between Sufficient Changes and Sparse Mixing Procedure for Disentangled Representation Learning [32.482584125236016]
アンタングル表現学習は、観測データの背後にある潜伏変数を明らかにすることを目的としている。
いくつかのアプローチは、ドメインインデックスのような補助変数によって示される潜伏変数の分布に十分な変化に依存する。
本稿では,分散変化とスパース混合過程に関する制約の少ない識別可能性理論を提案する。
論文 参考訳(メタデータ) (2025-03-01T22:21:37Z) - EquiTabPFN: A Target-Permutation Equivariant Prior Fitted Networks [55.214444066134114]
我々は、同変エンコーダ、デコーダ、およびバイアテンション機構を介し、完全にターゲット同変のアーキテクチャに適応する置換不変性を設計する。
標準分類ベンチマークの実証的評価は、事前学習中に見られたクラス数より多いデータセットでは、我々のモデルは計算オーバーヘッドを低く抑えながら既存の手法と一致または超えていることを示している。
論文 参考訳(メタデータ) (2025-02-10T17:11:20Z) - Bridging Multicalibration and Out-of-distribution Generalization Beyond Covariate Shift [44.708914058803224]
マルチキャリブレーションによるアウト・オブ・ディストリビューションの一般化のための新しいモデルに依存しない最適化フレームワークを構築した。
本稿では,マルチキャリブレーションとアウト・オブ・ディストリビューションの一般化を両立させるポストプロセッシングアルゴリズムMC-Pseudolabelを提案する。
論文 参考訳(メタデータ) (2024-06-02T08:11:35Z) - Out-of-distribution robustness for multivariate analysis via causal regularisation [4.487663958743944]
本稿では,分散シフトに対するロバスト性を確保するために,因果性に根ざした正規化戦略を提案する。
アンカー回帰フレームワークに基づいて、古典アルゴリズムの損失関数に単純な正規化項を組み込む方法を示す。
本フレームワークでは,損失関数と正規化戦略との整合性を効率よく検証することができる。
論文 参考訳(メタデータ) (2024-03-04T09:21:10Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Learning Linear Causal Representations from Interventions under General
Nonlinear Mixing [52.66151568785088]
介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。
これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
論文 参考訳(メタデータ) (2023-06-04T02:32:12Z) - Deep Anti-Regularized Ensembles provide reliable out-of-distribution
uncertainty quantification [4.750521042508541]
深層アンサンブルは、しばしばトレーニングドメインの外で過度に信頼された見積を返す。
トレーニングデータに適合する大きな重みを持つネットワークの集合は、これらの2つの目的を満たす可能性が高いことを示す。
提案手法の理論的枠組みを導出し,提案手法を「水充填問題」とみなすことができることを示す。
論文 参考訳(メタデータ) (2023-04-08T15:25:12Z) - Which Invariance Should We Transfer? A Causal Minimax Learning Approach [18.71316951734806]
本稿では、因果的観点からの包括的ミニマックス分析について述べる。
最小の最悪のリスクを持つサブセットを探索する効率的なアルゴリズムを提案する。
本手法の有効性と有効性は, 合成データとアルツハイマー病の診断で実証された。
論文 参考訳(メタデータ) (2021-07-05T09:07:29Z) - General stochastic separation theorems with optimal bounds [68.8204255655161]
分離性の現象が明らかになり、機械学習で人工知能(AI)システムのエラーを修正し、AI不安定性を分析するために使用された。
エラーやエラーのクラスタは、残りのデータから分離することができる。
AIシステムを修正する能力は、それに対する攻撃の可能性も開き、高次元性は、同じ分離性によって引き起こされる脆弱性を誘発する。
論文 参考訳(メタデータ) (2020-10-11T13:12:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。