論文の概要: Equivalence of Coarse and Fine-Grained Models for Learning with Distribution Shift
- arxiv url: http://arxiv.org/abs/2605.07005v1
- Date: Thu, 07 May 2026 22:37:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.656943
- Title: Equivalence of Coarse and Fine-Grained Models for Learning with Distribution Shift
- Title(参考訳): 分布シフト学習のための粗度モデルと細粒度モデルの等価性
- Authors: Adam R. Klivans, Shyamal Patel, Konstantinos Stavropoulos, Arsen Vasilyan,
- Abstract要約: ブール概念クラスに対して,PQ学習からTDS学習までの効率的なブラックボックス削減を行う。
この同値性は、ハーフ空間のような基本クラスの分布自由なTDS学習における最初の硬度結果を意味する。
また、学習者がメンバーシップクエリーにアクセスできるようにすることは、これらの難易度の結果を横取りし、ハーフスペースの効率よく分布のないPQ学習を可能にすることを示す。
- 参考スコア(独自算出の注目度): 21.679363840452087
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent work on provably efficient algorithms for learning with distribution shift has focused on two models: PQ learning (Goldwasser et al. (2020)) and TDS learning (Klivans et al. (2024)). Algorithms for TDS learning are allowed to reject a test set entirely if distribution shift is detected. In contrast, PQ learners may only reject points that are deemed out-of-distribution on an individual basis. Our main result is a surprising equivalence between these two models in the distribution-free setting. In particular, we give an efficient black-box reduction from PQ learning to TDS learning for any Boolean concept class. This equivalence implies the first hardness results for distribution-free TDS learning of basic classes such as halfspaces. The main technical contribution underlying our equivalence is a method for boosting, via branching programs, the weak distinguishing power of TDS learners that have rejected the target domain. We also show that giving a learner access to membership queries sidesteps these hardness results and allows for efficient, distribution-free PQ learnability of halfspaces. Our algorithm iteratively recovers large-margin separators obtained by applying successive Forster transforms on the training data.
- Abstract(参考訳): PQ学習(Goldwasser et al (2020))とTDS学習(Klivans et al (2024))である。
TDS学習のためのアルゴリズムは、分散シフトが検出された場合、テストセットを完全に拒否することができる。
対照的に、PQ学習者は個別にアウト・オブ・ディストリビューションと見なされる点のみを拒絶することができる。
我々の主な結果は、分布自由条件におけるこれらの2つのモデル間の驚くべき等価性である。
特に、Booleanの概念クラスに対して、PQ学習からTDS学習への効率的なブラックボックス削減を提供する。
この同値性は、ハーフ空間のような基本クラスの分布自由なTDS学習における最初の硬度結果を意味する。
我々の等価性の根底にある主な技術的貢献は、分岐プログラムを通じて、ターゲットドメインを拒絶したTDS学習者の弱い区別力を高める方法である。
また、学習者がメンバーシップクエリーにアクセスできるようにすることは、これらの難易度の結果を横取りし、ハーフスペースの効率よく分布のないPQ学習を可能にすることを示す。
本アルゴリズムは,トレーニングデータに連続するForster変換を適用して得られた大マージンセパレータを反復的に回収する。
関連論文リスト
- Positive Distribution Shift as a Framework for Understanding Tractable Learning [43.34621580435111]
目的関数 f(x) を目標分布 D(x) に対して学習することを目的とした設定について検討する。
D'(x) をよく理解すれば、シフトは肯定的になり、学習が容易になる、と我々は主張する。
論文 参考訳(メタデータ) (2026-02-09T17:08:10Z) - Learning Neural Networks with Distribution Shift: Efficiently Certifiable Guarantees [13.936051653540144]
まず第一にあげよう。
分散シフトでニューラルネットワークを学習するための効率的なアルゴリズム。
私たちはTestable Learning with Distribution Shiftフレームワークで作業しています。
論文 参考訳(メタデータ) (2025-02-22T00:48:03Z) - Efficient Discrepancy Testing for Learning with Distribution Shift [17.472049019016524]
局所的な一致距離をテストするための証明可能なアルゴリズムの最初のセットを提供する。
結果は、最近導入されたTestable Learning with Distribution Shiftモデルにおいて、新しい効率的な学習アルゴリズムの幅広いセットを示唆している。
論文 参考訳(メタデータ) (2024-06-13T17:51:10Z) - Tolerant Algorithms for Learning with Arbitrary Covariate Shift [18.37181965815327]
学習者は,ある分布からラベル付き集合を学習するが,異なる,潜在的に逆向きに生成されたテスト分布で評価する。
我々は,PQ学習 (Goldwasser, A. Kalai, Y. Kalai, Montasser NeurIPS 2020) とTDS学習 (Klivans, Stavropoulos, Vasilyan COLT 2024) の2つのフレームワークに注目した。
論文 参考訳(メタデータ) (2024-06-04T19:50:05Z) - Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。
近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。
本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-11T13:44:49Z) - Learnable Distribution Calibration for Few-Shot Class-Incremental
Learning [122.2241120474278]
FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。
本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
論文 参考訳(メタデータ) (2022-10-01T09:40:26Z) - Agree to Disagree: Diversity through Disagreement for Better
Transferability [54.308327969778155]
本稿では,D-BAT(Diversity-By-dis-Agreement Training)を提案する。
我々は、D-BATが一般化された相違の概念から自然に現れることを示す。
論文 参考訳(メタデータ) (2022-02-09T12:03:02Z) - You Only Need End-to-End Training for Long-Tailed Recognition [8.789819609485225]
クロスエントロピー損失は、不均衡なデータに非常に相関した特徴をもたらす傾向にある。
ブロックベース相対平衡バッチサンプリング(B3RS)とバッチ埋め込みトレーニング(BET)の2つの新しいモジュールを提案する。
CIFAR-LT と ImageNet-LT の長期分類ベンチマークによる実験結果から,本手法の有効性が示された。
論文 参考訳(メタデータ) (2021-12-11T11:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。