論文の概要: Distributionally Robust Learning for Multi-source Unsupervised Domain Adaptation

• arxiv url: http://arxiv.org/abs/2309.02211v4
• Date: Thu, 20 Mar 2025 04:48:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-21 15:30:51.631796
• Title: Distributionally Robust Learning for Multi-source Unsupervised Domain Adaptation
• Title（参考訳）: マルチソース非教師付きドメイン適応のための分布ロバスト学習
• Authors: Zhenyu Wang, Peter Bühlmann, Zijian Guo,
• Abstract要約: 対象ドメインの分布がソースドメインの分布と異なる場合、経験的リスクはよく機能しない。 我々は、複数のソースドメインからのラベル付きデータと対象ドメインからのラベルなしデータを活用する、教師なしのドメイン適応アプローチを開発する。
• 参考スコア（独自算出の注目度）: 9.359714425373616
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Empirical risk minimization often performs poorly when the distribution of the target domain differs from those of source domains. To address such potential distribution shifts, we develop an unsupervised domain adaptation approach that leverages labeled data from multiple source domains and unlabeled data from the target domain. We introduce a distributionally robust model that optimizes an adversarial reward based on the explained variance across a class of target distributions, ensuring generalization to the target domain. We show that the proposed robust model is a weighted average of conditional outcome models from source domains. This formulation allows us to compute the robust model through the aggregation of source models, which can be estimated using various machine learning algorithms of the users' choice, such as random forests, boosting, and neural networks. Additionally, we introduce a bias-correction step to obtain a more accurate aggregation weight, which is effective for various machine learning algorithms. Our framework can be interpreted as a distributionally robust federated learning approach that satisfies privacy constraints while providing insights into the importance of each source for prediction on the target domain. The performance of our method is evaluated on both simulated and real data.
• Abstract（参考訳）: 実験的リスク最小化は、ターゲットドメインの分布がソースドメインの分布と異なる場合、しばしば性能が低下する。 このような潜在的分散シフトに対処するために、複数のソースドメインからのラベル付きデータと対象ドメインからのラベルなしデータを活用する教師なし領域適応手法を開発した。 対象分布のクラス間で説明された分散に基づいて、敵の報酬を最適化し、対象領域への一般化を保証する分布ロバストモデルを導入する。 提案したロバストモデルは,ソースドメインからの条件付き結果モデルの重み付け平均であることを示す。 この定式化により、ランダムフォレスト、ブースティング、ニューラルネットワークなど、ユーザの選択したさまざまな機械学習アルゴリズムを用いて推定できるソースモデルの集約を通じて、ロバストモデルを計算することができる。 さらに、より正確な集約重みを得るためのバイアス補正ステップを導入し、機械学習アルゴリズムに有効である。 当社のフレームワークは,プライバシ制約を満たす分散的堅牢なフェデレーション学習アプローチとして解釈できると同時に,対象ドメイン上での予測において,各ソースの重要性に関する洞察を提供する。 本手法の性能はシミュレーションデータと実データの両方で評価する。

関連論文リスト

• Ranking and Combining Latent Structured Predictive Scores without Labeled Data [2.5064967708371553]
  本稿では,新しい教師なしアンサンブル学習モデル(SUEL)を提案する。 連続的な予測スコアを持つ予測器のセット間の依存関係を利用して、ラベル付きデータなしで予測器をランク付けし、それらをアンサンブルされたスコアに重み付けする。 提案手法の有効性は、シミュレーション研究とリスク遺伝子発見の現実的応用の両方を通じて厳密に評価されている。
  論文  参考訳（メタデータ） (2024-08-14T20:14:42Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• Multi-Source Soft Pseudo-Label Learning with Domain Similarity-based Weighting for Semantic Segmentation [2.127049691404299]
  本稿では,複数のソースデータセットを用いたセマンティックセグメンテーションのためのドメイン適応トレーニング手法について述べる。 複数のソースモデルから予測対象確率を統合することで,ソフトな擬似ラベル生成手法を提案する。
  論文  参考訳（メタデータ） (2023-03-02T05:20:36Z)
• Distributionally Robust Domain Adaptation [12.02023514105999]
  ドメイン適応(DA: Domain Adaptation)は、ソースドメインとターゲットドメインをまたいだ学習モデルに適合する可能性から、最近大きな注目を集めている。 本稿では,分散ロバストな領域適応手法DRDAを提案する。
  論文  参考訳（メタデータ） (2022-10-30T17:29:22Z)
• Variational Model Perturbation for Source-Free Domain Adaptation [64.98560348412518]
  確率的枠組みにおける変分ベイズ推定によるモデルパラメータの摂動を導入する。 本研究では,ベイズニューラルネットワークの学習と理論的関連性を実証し,目的領域に対する摂動モデルの一般化可能性を示す。
  論文  参考訳（メタデータ） (2022-10-19T08:41:19Z)
• Confidence estimation of classification based on the distribution of the neural network output layer [4.529188601556233]
  現実の世界における予測モデルの適用を防ぐための最も一般的な問題の1つは一般化の欠如である。 ニューラルネットワーク分類モデルにより生成された特定の予測の不確かさを推定する新しい手法を提案する。 提案手法は,この予測に対応するロジット値の分布に基づいて,特定の予測の信頼性を推定する。
  論文  参考訳（メタデータ） (2022-10-14T12:32:50Z)
• Generalizing to Unseen Domains with Wasserstein Distributional Robustness under Limited Source Knowledge [22.285156929279207]
  ドメインの一般化は、目に見えないターゲットドメインでうまく機能する普遍的なモデルを学ぶことを目的としている。 We propose a novel domain generalization framework called Wasserstein Distributionally Robust Domain Generalization (WDRDG)。
  論文  参考訳（メタデータ） (2022-07-11T14:46:50Z)
• Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
  ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。 近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。 本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
  論文  参考訳（メタデータ） (2022-04-24T12:22:19Z)
• Aggregating distribution forecasts from deep ensembles [0.0]
  本稿では,ディープアンサンブルのための一般的な量子集約フレームワークを提案する。 深層アンサンブルからの予測分布を組み合わせることで,予測性能を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2022-04-05T15:42:51Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Self-balanced Learning For Domain Generalization [64.99791119112503]
  ドメインの一般化は、モデルが未知の統計を持つ対象のドメインに一般化できるように、マルチドメインのソースデータの予測モデルを学ぶことを目的としている。 既存のアプローチのほとんどは、ソースデータがドメインとクラスの両方の観点からバランスよく調整されているという前提の下で開発されている。 本稿では,多領域ソースデータの分布の違いによるバイアスを軽減するために,損失の重み付けを適応的に学習する自己均衡型領域一般化フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-08-31T03:17:54Z)
• Test-time Collective Prediction [73.74982509510961]
  マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
  論文  参考訳（メタデータ） (2021-06-22T18:29:58Z)
• Aggregating From Multiple Target-Shifted Sources [7.644958631142882]
  マルチソースドメイン適応は、複数のタスクからの知識を活用して関連するターゲットドメインを予測することを目的としている。 本稿では,近年のソース選択アプローチが失敗している異なるラベル分布のソースドメインを集約する問題を分析した。 提案アルゴリズムは従来の手法とは2つの重要な方法で異なる: モデルは主に境界分布ではなくセマンティック条件分布の類似性を通じて複数のソースを集約する。
  論文  参考訳（メタデータ） (2021-05-09T23:25:29Z)
• Robustness via Cross-Domain Ensembles [0.5801044612920816]
  本稿では,ニューラルネットワークの予測をトレーニングデータ分布からのシフトに対して頑健にする手法を提案する。 提案手法は,多種多様なキューを用いて予測を行い,それらを1つの強い予測にまとめる手法である。
  論文  参考訳（メタデータ） (2021-03-19T17:28:03Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Uncertainty Estimation and Sample Selection for Crowd Counting [87.29137075538213]
  予測された密度マップに関連する不確実性値とともに,群衆密度マップを予測できる画像に基づく群集カウント手法を提案する。 既存のクラウドカウント手法に比べて,提案手法の重要な利点は,予測の不確かさを定量化できることである。 サンプル選択戦略は、ソースドメイン上でトレーニングされたカウントネットワークをターゲットドメインに適応させるために必要なラベル付きデータの量を劇的に削減することを示す。
  論文  参考訳（メタデータ） (2020-09-30T03:40:07Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)
• Scalable Approximate Inference and Some Applications [2.6541211006790983]
  本稿では,近似推論のための新しいフレームワークを提案する。 提案する4つのアルゴリズムは,Steinの手法の最近の計算進歩に動機付けられている。 シミュレーションおよび実データを用いた結果から,アルゴリズムの統計的効率と適用性を示す。
  論文  参考訳（メタデータ） (2020-03-07T04:33:27Z)
• Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adaptation [102.67010690592011]
  Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。 従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。 この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
  論文  参考訳（メタデータ） (2020-02-20T03:13:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。