論文の概要: Order Matters: Improving Domain Adaptation by Reordering Data
- arxiv url: http://arxiv.org/abs/2605.05084v1
- Date: Wed, 06 May 2026 16:20:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.927802
- Title: Order Matters: Improving Domain Adaptation by Reordering Data
- Title(参考訳): 注文事項:データの再注文によるドメイン適応の改善
- Abstract要約: ドメインシフトは、機械学習モデルを現実世界にデプロイする上で重要な課題である。
教師なしのドメイン適応は、トレーニング中のドメインの不一致を最小限にすることで、この問題に対処することを目的としている。
本稿では,差分推定誤差を低減する不偏分散低減手法を提案する。
- 参考スコア(独自算出の注目度): 1.7188280334580195
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain shift remains a key challenge in deploying machine learning models to the real world. Unsupervised domain adaptation (UDA) aims to address this by minimising domain discrepancy during training, but the discrepancy estimates suffer from high variance in stochastic settings, which can stifle the theoretical benefits of the method. This paper proposes Optimal Reordering of Data for Error-Reduced Estimation of Discrepancy (ORDERED), a novel unbiased stochastic variance reduction technique which reduces the discrepancy estimation error by optimising the order in which the training data are sampled. We consider two specific domain discrepancy losses (correlation alignment and the maximum mean discrepancy), formulate their stochastic estimation error as a function of the data sampling order, and propose a practical optimisation algorithm. Our simulations demonstrate reduced variance compared to related methods, and experiments on two domain shift image classification benchmarks show improved target domain accuracy.
- Abstract(参考訳): ドメインシフトは、機械学習モデルを現実世界にデプロイする上で、依然として重要な課題である。
教師なしドメイン適応(UDA)は、訓練中のドメインの不一致を最小限にすることでこの問題に対処することを目的としている。
本稿では、トレーニングデータのサンプリング順序を最適化することにより、誤差推定誤差を低減させる新しい確率分散低減手法である、誤差低減推定のための最適データ順序付け(ORDERED)を提案する。
本稿では,データサンプリング順序の関数として確率的推定誤差を定式化し,実用的な最適化アルゴリズムを提案する。
提案手法は,2つの領域シフト画像分類ベンチマークにより,対象領域の精度が向上したことを示す。
関連論文リスト
- Harnessing the Potential of Optimizing Data Mixtures via Bayesian Domain Reweighting [63.86964530167364]
本稿では,ダイリクレ分布からの重み付けを,観測から得られたガンマ事前情報を用いて推定するベイズ領域重み付け手法を提案する。
実験により,提案手法は安定かつ効率的な領域重み付け学習を実現し,探索に基づく関数適合法よりもはるかに少ないデータを消費し,大規模アプリケーションにおいて最適化に基づく領域重み付けを活性化する。
論文 参考訳(メタデータ) (2026-07-30T09:41:02Z) - Variance-reduced Domain Adaptation using Paired Sampling [2.0305676256390934]
相関アライメントと最大平均差は、教師なし領域適応に広く使われている。
これらの損失のばらつきは、ミニバッチ環境での有効性を損なうことが示されている。
本稿では,Paired Smpling for Domain Adaptation (PSDA)を提案する。
論文 参考訳(メタデータ) (2026-07-22T16:58:45Z) - Understanding the Generalization of Bilevel Programming in Hyperparameter Optimization: A Tale of Bias-Variance Decomposition [53.68517860700599]
我々は,HPOアルゴリズムの分散を効果的に低減するためのアンサンブル過次戦略を提案する。
過度な誤差と過度な推定の関連を確立し、経験的観察のある程度の理解を提供する。
論文 参考訳(メタデータ) (2026-02-20T02:52:13Z) - Improving Domain Generalization in Contrastive Learning using Adaptive Temperature Control [6.29137812995328]
コントラスト学習を用いた自己教師付き事前学習は、疎ラベル付きデータから学習するための強力な方法である。
トレーニングからテスト時間へのデータの分散が変化した場合、パフォーマンスは大幅に低下する可能性がある。
本稿では,学習表現の領域不変性を高めるために,ドメインラベルを組み込んだコントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2026-01-12T17:32:24Z) - Variance Matters: Improving Domain Adaptation via Stratified Sampling [1.7188280334580195]
本稿では,ドメイン階層化サンプリング(VaRDASS)による可変化適応を提案する。
VaRDASSは、UDAの最初の特殊分散低減技術である。
3つの領域シフトデータセットの実験により、差分推定精度が向上し、対象領域のパフォーマンスが向上した。
論文 参考訳(メタデータ) (2025-12-04T20:01:04Z) - Target-specific Adaptation and Consistent Degradation Alignment for Cross-Domain Remaining Useful Life Prediction [24.676267074769537]
本稿では,TACDAというドメイン間RUL予測のための新しいドメイン適応手法を提案する。
我々は、類似の劣化段階間の一貫したアライメントのための新しいクラスタリングとペアリング戦略を開発する。
提案手法の顕著な性能を実証した。
論文 参考訳(メタデータ) (2025-12-02T10:15:14Z) - Improving Distribution Alignment with Diversity-based Sampling [0.0]
ドメインシフトは機械学習においてユビキタスであり、実際のデータにデプロイすると、モデルのパフォーマンスが大幅に低下する可能性がある。
本稿では,各サンプル小バッチの多様性を誘導することにより,これらの推定値を改善することを提案する。
同時にデータのバランスを保ち、勾配のばらつきを低減し、それによってモデルの一般化能力を高める。
論文 参考訳(メタデータ) (2024-10-05T17:26:03Z) - Enhanced Online Test-time Adaptation with Feature-Weight Cosine Alignment [7.991720491452191]
オンラインテスト時間適応(OTTA)は、分散シフトを扱う効果的な戦略として登場した。
本稿では,双対目的損失関数を用いたコサインアライメント最適化手法を提案する。
提案手法は最先端技術より優れ,複数のデータセットに新しいベンチマークを設定できる。
論文 参考訳(メタデータ) (2024-05-12T05:57:37Z) - Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳(メタデータ) (2023-10-21T09:53:17Z) - Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。
本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。
もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文 参考訳(メタデータ) (2022-08-18T06:42:49Z) - Selective Pseudo-Labeling with Reinforcement Learning for
Semi-Supervised Domain Adaptation [116.48885692054724]
半教師付きドメイン適応のための強化学習に基づく選択擬似ラベル法を提案する。
高精度かつ代表的な擬似ラベルインスタンスを選択するための深層Q-ラーニングモデルを開発する。
提案手法は, SSDAのベンチマークデータセットを用いて評価し, 全ての比較手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2020-12-07T03:37:38Z) - Robust Optimal Transport with Applications in Generative Modeling and
Domain Adaptation [120.69747175899421]
ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。
本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。
提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
論文 参考訳(メタデータ) (2020-10-12T17:13:40Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。