論文の概要: Can Domain Generalization be Guaranteed in Small-Sample Learning?

• arxiv url: http://arxiv.org/abs/2609.39512v2
• Date: Mon, 05 Oct 2026 11:25:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 04:43:28.464967
• Title: Can Domain Generalization be Guaranteed in Small-Sample Learning?
• Title（参考訳）: ドメインの一般化は小さなサンプル学習で保証できるか?
• Abstract要約: 限られたトレーニングデータが不安定なモデル推定と一般化につながるため、小さなサンプル学習は機械学習の課題である。 軽度の仮定の下で、ドメイン一般化(DG)における整合性に関する最初の理論的保証を確立する。 この研究は、分散シフトの理論基盤を確立し、小さなサンプルシナリオにおけるロバストなDGアルゴリズムの設計に光を当てる。
• 参考スコア（独自算出の注目度）: 2.394377658566097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The small-sample learning problem remains a fundamental challenge in machine learning because limited training data lead to unstable model estimation and generalization. Structural Risk Minimization (SRM) has long been regarded as a principled solution under the classical i.i.d. assumption. However, domain generalization (DG) violates this assumption, leaving the theoretical role of SRM in DG largely unexplored. To bridge this gap, we establish the first theoretical guarantees for SRM in DG under mild assumptions. Specifically, based on the concept of stability, we derive learning consistency and generalization error bounds and prove that these bounds become tight when the hypotheses satisfy the stability condition. Building upon this, under a specific hypothesis space assumption, we establish stability, learning, and generalization bounds for SRM. We further discuss the applicability of these bounds to deep learning. This work establishes theoretical foundations for SRM under distribution shifts and sheds light on the design of robust DG algorithms in small-sample scenarios.
• Abstract（参考訳）: 限られたトレーニングデータが不安定なモデル推定と一般化につながるため、小さなサンプル学習問題は機械学習の根本的な課題である。 構造的リスク最小化(Structure Risk Minimization, SRM)は、昔から古典的な仮定の下で原則化された解とみなされてきた。 しかし、ドメイン一般化(DG)はこの仮定に反し、DGにおけるSRMの理論的役割はほとんど解明されていない。 このギャップを埋めるために、軽度の仮定の下でDGにおけるSRMに関する最初の理論的保証を確立する。 具体的には、安定性の概念に基づいて、学習一貫性と一般化誤差境界を導出し、仮説が安定性条件を満たすときにこれらの境界が厳密になることを示す。 これに基づいて、特定の仮説空間の仮定の下で、SRMの安定性、学習、一般化境界を確立する。 さらに、これらの境界が深層学習に適用可能であることについても論じる。 この研究は、分散シフトの下でのSRMの理論基盤を確立し、小さなサンプルシナリオにおけるロバストなDGアルゴリズムの設計に光を当てる。

関連論文リスト

• CDFM: Towards a General-Purpose Causal Discovery Foundation Model [62.32138962508216]
  因果発見は、観測データから根底にある因果構造を復元する過程である。 ゼロショット構造推論のための統一的汎用フレームワークとしてCausal Discovery Foundation Model (CDFM) を定式化する。 CDFMは従来のアルゴリズムを一貫して上回り、汎用因果発見基盤モデルへのパラダイムシフトを推進している。
  論文  参考訳（メタデータ） (2026-07-13T12:58:28Z)
• A Novel Data-Dependent Learning Paradigm for Large Hypothesis Classes [4.299934797034146]
  実験的な推定値の一様収束を真の損失に導くには大きすぎる候補モデルの集合を用いて学習する一般的な課題に対処する。 本稿では,経験的データのより強力な取り込みと,事前の仮定に基づくアルゴリズムによる決定の少ない学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2025-11-13T06:02:55Z)
• On the Variance, Admissibility, and Stability of Empirical Risk Minimization [57.63331017830154]
  経験的リスク最小化(ERM: Empirical Risk Minimization)は、平均2乗誤差で最小限の最適値が得られる。 比較的軽度な仮定の下では、ERMの準最適性はその大きなバイアスによるものでなければならない。
  論文  参考訳（メタデータ） (2023-05-29T15:25:48Z)
• Probable Domain Generalization via Quantile Risk Minimization [90.15831047587302]
  ドメインの一般化は、目に見えないテスト分布でうまく機能する予測子を求める。 我々はDGのための新しい確率的フレームワークを提案し、高い確率でよく動作する予測器を学習することを目指している。
  論文  参考訳（メタデータ） (2022-07-20T14:41:09Z)
• Enhancing Distributional Stability among Sub-populations [32.66329730287957]
  分散シフト下での機械学習アルゴリズムの安定性向上は、OOD(Out-of-Distribution)一般化問題の中心にある。 本稿では,モデル安定性を向上する新しい安定リスク最小化法を提案する。 実験結果は直感と一致し,アルゴリズムの有効性を検証した。
  論文  参考訳（メタデータ） (2022-06-07T03:29:25Z)
• Domain-Adjusted Regression or: ERM May Already Learn Features Sufficient for Out-of-Distribution Generalization [52.7137956951533]
  既存の特徴から予測器を学習するためのよりシンプルな手法を考案することは、将来の研究にとって有望な方向である、と我々は主張する。 本稿では,線形予測器を学習するための凸目標である領域調整回帰(DARE)を紹介する。 自然モデルの下では、DARE解が制限されたテスト分布の集合に対する最小最適予測器であることを証明する。
  論文  参考訳（メタデータ） (2022-02-14T16:42:16Z)
• Learning Robust Models Using The Principle of Independent Causal Mechanisms [26.79262903241044]
  ICMの原理から目的関数を導出する勾配学習フレームワークを提案する。 理論的、実験的に、このフレームワークで訓練されたニューラルネットワークは、環境間で不変な関係に重点を置いていることを示す。
  論文  参考訳（メタデータ） (2020-10-14T15:38:01Z)
• The Risks of Invariant Risk Minimization [52.7137956951533]
  不変リスク最小化(Invariant Risk Minimization)は、データの深い不変性を学ぶという考え方に基づく目標である。 我々は、IRMの目的に基づく分類の最初の分析と、最近提案されたこれらの代替案について、かなり自然で一般的なモデルで分析する。 IRMは、テストデータがトレーニング分布と十分に類似していない限り、破滅的に失敗する可能性がある。
  論文  参考訳（メタデータ） (2020-10-12T14:54:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。