論文の概要: How Many Samples Are Enough for Learning Across Domains?
- arxiv url: http://arxiv.org/abs/2609.39336v1
- Date: Wed, 30 Sep 2026 09:05:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.479594
- Title: How Many Samples Are Enough for Learning Across Domains?
- Title(参考訳): ドメイン間の学習に十分なサンプルはいくつあるか?
- Abstract要約: 提案した学習境界に基づいて,ドメインごとのサンプル要求の基準を定めている。
これらの基準は、トレーニングドメイン数と各ドメインに必要なサンプル数の間の逆線形スケーリング則を示す。
これは古典的な学習理論と異なり、必要なサンプルの数は訓練領域の数に大きく依存している。
- 参考スコア(独自算出の注目度): 2.394377658566097
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Understanding the fundamental mechanisms of learning is essential for designing systems with strong generalization. Recent studies have shown that increasing the number of training domains, or enlarging the distribution shift among them, improves generalization when each domain contains sufficiently many data samples. However, the conditions under which the data samples can be considered sufficient remain unexplored. In this work, we fill this gap by establishing criteria for per-domain sample requirements based on the presented learning bounds. These criteria not only reveal an inverse linear scaling law between the number of training domains and the number of samples required per domain, but also explain the fundamental rationale behind the assumption of data sufficiency, thereby providing theoretical guidance for assessing the adequacy of existing datasets and constructing datasets. This differs from classical learning theory, as the number of samples required is highly dependent on the number of training domains. Additionally, we prove the close relationship between in-domain learning and out-of-domain generalization through the presented generalization bounds, and lastly discuss some key arguments.
- Abstract(参考訳): 学習の基本的なメカニズムを理解することは、強力な一般化を持つシステムの設計に不可欠である。
近年の研究では、各ドメインに十分なデータサンプルが存在する場合、トレーニングドメインの数を増やしたり、その分布シフトを増大させたりすることで、一般化が向上することが示されている。
しかし、データサンプルが十分であると考えられる条件は未解明のままである。
本研究では,提案した学習境界に基づいて,ドメインごとのサンプル要求基準を確立することで,このギャップを埋める。
これらの基準は、トレーニングドメイン数とドメインあたりのサンプル数の間の逆線形スケーリング則を明らかにするだけでなく、データ充足性の仮定の背後にある根本的な根拠を説明することで、既存のデータセットの妥当性を評価し、データセットを構築するための理論的ガイダンスを提供する。
これは古典的な学習理論と異なり、必要なサンプルの数は訓練領域の数に大きく依存している。
さらに、提示された一般化境界によるドメイン内学習とドメイン外一般化の密接な関係を証明し、最後にいくつかの重要な議論を議論する。
関連論文リスト
- Multi-Objective Learning for Diffusion Models: A Statistical Theory under Semi-Supervised Learning [83.65494573724904]
我々は、限られたデータを持つ拡散モデルのための原則的MOLフレームワークを開発する。
限られたペアデータから,まず軽量なスペシャリストモデルに適合する2段階のトレーニング手順を提案する。
与えられたペアサンプルの個数は、専門モデルクラスの複雑さにのみ依存することを示す境界一般化を確立する。
論文 参考訳(メタデータ) (2026-05-24T18:19:40Z) - Generalization Analysis for Supervised Contrastive Representation Learning under Non-IID Settings [8.732260277121547]
非$i.d.$設定でContrastive Representation Learningフレームワークの一般化分析を行う。
そのクラスに関連する学習可能な表現のクラスを包含する数の対数として、各クラスで必要となるサンプル数を示す境界を導出する。
次に、線形写像やニューラルネットワークなどの共通関数クラスに対する過剰なリスク境界を導出するために、本研究の主な結果を適用する。
論文 参考訳(メタデータ) (2025-05-08T04:26:41Z) - Generalizing to any diverse distribution: uniformity, gentle finetuning and rebalancing [55.791818510796645]
我々は,訓練データから大きく逸脱した場合でも,様々なテスト分布によく適応するモデルを開発することを目的としている。
ドメイン適応、ドメイン一般化、ロバスト最適化といった様々なアプローチは、アウト・オブ・ディストリビューションの課題に対処しようと試みている。
我々は、既知のドメイン内の十分に多様なテスト分布にまたがる最悪のケースエラーを考慮することで、より保守的な視点を採用する。
論文 参考訳(メタデータ) (2024-10-08T12:26:48Z) - Exploring Language Model Generalization in Low-Resource Extractive QA [57.14068405860034]
ドメインドリフト下でのLarge Language Models (LLM) を用いた抽出質問応答(EQA)について検討する。
性能ギャップを実証的に説明するための一連の実験を考案する。
論文 参考訳(メタデータ) (2024-09-27T05:06:43Z) - Domain-Generalizable Multiple-Domain Clustering [55.295300263404265]
本研究は、教師なし領域一般化の問題を、ラベル付きサンプルが存在しない場合(完全に教師なし)に一般化する。
我々は複数のソースドメインからラベルのないサンプルを付与し、サンプルを意味的に関連するクラスタに割り当てる共有予測器を学習することを目指している。
評価は、これまで見つからなかったドメインのクラスタ割り当てを予測することで行われる。
論文 参考訳(メタデータ) (2023-01-31T10:24:50Z) - Adversarially Robust Models may not Transfer Better: Sufficient
Conditions for Domain Transferability from the View of Regularization [17.825841580342715]
機械学習の堅牢性とドメインの一般化は基本的に相関している。
最近の研究では、より堅牢な(逆向きに訓練された)モデルの方がより一般化可能であることが示されている。
彼らの基本的な関係に関する理論的理解が欠如している。
論文 参考訳(メタデータ) (2022-02-03T20:26:27Z) - Self-balanced Learning For Domain Generalization [64.99791119112503]
ドメインの一般化は、モデルが未知の統計を持つ対象のドメインに一般化できるように、マルチドメインのソースデータの予測モデルを学ぶことを目的としている。
既存のアプローチのほとんどは、ソースデータがドメインとクラスの両方の観点からバランスよく調整されているという前提の下で開発されている。
本稿では,多領域ソースデータの分布の違いによるバイアスを軽減するために,損失の重み付けを適応的に学習する自己均衡型領域一般化フレームワークを提案する。
論文 参考訳(メタデータ) (2021-08-31T03:17:54Z) - f-Domain-Adversarial Learning: Theory and Algorithms [82.97698406515667]
教師なしのドメイン適応は、トレーニング中、ターゲットドメイン内のラベルなしデータにアクセス可能な、多くの機械学習アプリケーションで使用されている。
領域適応のための新しい一般化法を導出し、f-発散体の変分的特徴に基づく分布間の相違性の新しい尺度を利用する。
論文 参考訳(メタデータ) (2021-06-21T18:21:09Z) - A survey on domain adaptation theory: learning bounds and theoretical
guarantees [17.71634393160982]
この調査の主な目的は、特定の、そして間違いなく最も人気のある、移動学習のサブフィールドにおける最先端の理論的結果の概要を提供することである。
このサブフィールドでは、学習タスクは同じままで、トレーニングとテストデータの間でデータ分布が変化すると仮定される。
本稿では、ドメイン適応問題に関連する既存の結果の最新の記述について述べる。
論文 参考訳(メタデータ) (2020-04-24T16:11:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。