論文の概要: Online Variance Reduction for Domain Adaptation on Streaming Data
- arxiv url: http://arxiv.org/abs/2607.20374v1
- Date: Wed, 22 Jul 2026 17:04:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:38.161374
- Title: Online Variance Reduction for Domain Adaptation on Streaming Data
- Title(参考訳): ストリーミングデータに基づくドメイン適応のオンライン分散化
- Abstract要約: 本稿では、ストリームデータに対するオンライン再重み付け(ARROW)による適応浮力低減手法を提案する。
ARROWは、最大平均誤差(MMD)と相関アライメント(CORAL)損失関数のための最初のオンラインSVRアルゴリズムである。
実験およびシミュレーションにおいて, ARROWは, 実行時, 分散の程度, 対象領域の精度において, オフラインアルゴリズムと競合して動作することを示す。
- 参考スコア(独自算出の注目度): 2.0305676256390934
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper studies the problem of stochastic variance reduction (SVR) for the maximum mean discrepancy (MMD) and correlation alignment (CORAL) loss functions. Although various offline SVR algorithms for these losses have been proposed, these are incompatible with online, distributed, or incremental learning settings. This paper presents Adaptive vaRiance Reduction via Online reWeighting (ARROW), the first online SVR algorithm for the MMD and CORAL for streamed data. The method maintains moving average references of the alignment statistics, and adaptively reweights incoming minibatches so that the minibatch and reference statistics are aligned. Further, we propose a relaxed reweighting scheme so that the ensuing weight-optimisation problem is tractable. In experiments and simulations, we show that ARROW performs competitively with offline algorithms in terms of runtime, degree of variance reduction achieved, and target domain accuracy.
- Abstract(参考訳): 本稿では,最大平均誤差 (MMD) と相関アライメント (CORAL) 損失関数に対する確率分散低減 (SVR) の問題について検討する。
これらの損失に対する様々なオフラインSVRアルゴリズムが提案されているが、これらはオンライン、分散、インクリメンタルな学習設定と互換性がない。
本稿では,MMD と CORAL によるストリームデータに対する最初のオンライン SVR アルゴリズムである Adaptive vaRiance Reduction via Online re Weighting (ARROW) を提案する。
この方法は、アライメント統計の移動平均参照を維持し、ミニバッチと参照統計が一致するように、入ってくるミニバッチを適応的に再重み付けする。
さらに,緩和された再重み付け方式を提案し,それに伴う重み付け最適化問題を抽出可能とした。
実験およびシミュレーションにおいて, ARROWは, 実行時, 分散の程度, 対象領域の精度において, オフラインアルゴリズムと競合して動作することを示す。
関連論文リスト
- Variance-reduced Domain Adaptation using Paired Sampling [2.0305676256390934]
相関アライメントと最大平均差は、教師なし領域適応に広く使われている。
これらの損失のばらつきは、ミニバッチ環境での有効性を損なうことが示されている。
本稿では,Paired Smpling for Domain Adaptation (PSDA)を提案する。
論文 参考訳(メタデータ) (2026-07-22T16:58:45Z) - DISA: Offline Importance Sampling for Distribution-Matching LLM-RL [56.9445657766829]
本稿では、このキャリブレーション問題をRLループの外に移動させるdisAを紹介する。
DISAは提案トラジェクトリをオフラインに描画し、重要サンプリングによってパーティション関数を推定し、結果として発生するパーティション関数の推定を凍結する。
6つの数学と3つのコードベンチマークにまたがる2つのオープンウェイトなバックボーンでは、DisdisAはオンラインに結合した分散マッチングベースラインフローにマッチするか、超えている。
論文 参考訳(メタデータ) (2026-05-17T07:14:44Z) - Order Matters: Improving Domain Adaptation by Reordering Data [1.7188280334580195]
ドメインシフトは、機械学習モデルを現実世界にデプロイする上で重要な課題である。
教師なしのドメイン適応は、トレーニング中のドメインの不一致を最小限にすることで、この問題に対処することを目的としている。
本稿では,差分推定誤差を低減する不偏分散低減手法を提案する。
論文 参考訳(メタデータ) (2026-05-06T16:20:24Z) - Disentangled Deep Smoothed Bootstrap for Fair Imbalanced Regression [1.2289361708127877]
不均衡分布学習は、予測モデリングにおいて一般的で重要な課題であり、しばしば標準アルゴリズムの性能を低下させる。
本稿では,変分オートエンコーダ(VAE)を用いてデータ分布の潜在表現をモデル化し,定義する。
そこで我々は,不整合なVAEと潜伏空間に適用されるスムーズなブートストラップを組み合わせた,革新的なデータ生成手法を開発した。
論文 参考訳(メタデータ) (2025-08-19T13:40:04Z) - Regularizing Subspace Redundancy of Low-Rank Adaptation [54.473090597164834]
本稿では、マッピング部分空間間の冗長性を明示的にモデル化し、低ランク適応のサブスペース冗長性を適応的に正規化する手法であるReSoRAを提案する。
提案手法は、視覚言語検索や標準的な視覚分類ベンチマークにおいて、様々なバックボーンやデータセットにまたがる既存のPETL手法を一貫して促進する。
トレーニングの監督として、ReSoRAは追加の推論コストなしで、プラグイン・アンド・プレイ方式で既存のアプローチにシームレスに統合することができる。
論文 参考訳(メタデータ) (2025-07-28T11:52:56Z) - Truncating Trajectories in Monte Carlo Policy Evaluation: an Adaptive Approach [51.76826149868971]
モンテカルロシミュレーションによる政策評価は多くのMC強化学習(RL)アルゴリズムの中核にある。
本研究では,異なる長さの軌跡を用いた回帰推定器の平均二乗誤差のサロゲートとして品質指標を提案する。
本稿では,Robust and Iterative Data Collection Strategy Optimization (RIDO) という適応アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-17T11:47:56Z) - Adaptive debiased SGD in high-dimensional GLMs with streaming data [4.704144189806667]
本稿では,高次元一般化線形モデルにおけるオンライン推論に対する新しいアプローチを提案する。
提案手法は単一パスモードで動作し,全データセットアクセスや大次元要約統計ストレージを必要とする既存手法とは異なる。
我々の方法論的革新の核心は、動的目的関数に適した適応的降下アルゴリズムと、新しいオンラインデバイアス処理である。
論文 参考訳(メタデータ) (2024-05-28T15:36:48Z) - Uncertainty-Aware Source-Free Adaptive Image Super-Resolution with Wavelet Augmentation Transformer [60.31021888394358]
Unsupervised Domain Adaptation (UDA)は、現実世界の超解像(SR)における領域ギャップ問題に効果的に対処できる
本稿では,画像SR(SODA-SR)のためのSOurce-free Domain Adaptationフレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-31T03:14:44Z) - Offline Policy Optimization in RL with Variance Regularizaton [142.87345258222942]
定常分布補正を用いたオフラインRLアルゴリズムの分散正則化を提案する。
Fenchel双対性を用いることで、分散正規化器の勾配を計算するための二重サンプリング問題を回避することができることを示す。
オフライン分散正規化アルゴリズム(OVAR)は,既存のオフラインポリシー最適化アルゴリズムを拡張できる。
論文 参考訳(メタデータ) (2022-12-29T18:25:01Z) - SreaMRAK a Streaming Multi-Resolution Adaptive Kernel Algorithm [60.61943386819384]
既存のKRRの実装では、すべてのデータがメインメモリに格納される必要がある。
KRRのストリーミング版であるStreaMRAKを提案する。
本稿では,2つの合成問題と2重振り子の軌道予測について紹介する。
論文 参考訳(メタデータ) (2021-08-23T21:03:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。