論文の概要: COD: Learning Conditional Invariant Representation for Domain Adaptation Regression

• arxiv url: http://arxiv.org/abs/2408.06638v1
• Date: Tue, 13 Aug 2024 05:08:13 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-14 18:36:27.421077
• Title: COD: Learning Conditional Invariant Representation for Domain Adaptation Regression
• Title（参考訳）: COD: 領域適応回帰のための条件不変表現の学習
• Authors: Hao-Ran Yang, Chuan-Xian Ren, You-Wei Luo,
• Abstract要約: ドメイン適応回帰(Domain Adaptation Regression)は、ソースドメインからラベルのないターゲットドメインへのラベルの知識を一般化するために開発された。 既存の条件分布アライメント理論と離散前処理法はもはや適用できない。 誤差を最小限に抑えるために,CODに基づく条件付き不変表現学習モデルを提案する。
• 参考スコア（独自算出の注目度）: 20.676363400841495
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Aiming to generalize the label knowledge from a source domain with continuous outputs to an unlabeled target domain, Domain Adaptation Regression (DAR) is developed for complex practical learning problems. However, due to the continuity problem in regression, existing conditional distribution alignment theory and methods with discrete prior, which are proven to be effective in classification settings, are no longer applicable. In this work, focusing on the feasibility problems in DAR, we establish the sufficiency theory for the regression model, which shows the generalization error can be sufficiently dominated by the cross-domain conditional discrepancy. Further, to characterize conditional discrepancy with continuous conditioning variable, a novel Conditional Operator Discrepancy (COD) is proposed, which admits the metric property on conditional distributions via the kernel embedding theory. Finally, to minimize the discrepancy, a COD-based conditional invariant representation learning model is proposed, and the reformulation is derived to show that reasonable modifications on moment statistics can further improve the discriminability of the adaptation model. Extensive experiments on standard DAR datasets verify the validity of theoretical results and the superiority over SOTA DAR methods.
• Abstract（参考訳）: 連続的な出力を持つソースドメインから未ラベルのターゲットドメインへのラベル知識の一般化を目的として,複雑な実践的学習問題に対してドメイン適応回帰(DAR)を開発した。 しかし、回帰の連続性問題により、既存の条件分布アライメント理論や、分類設定に有効であることが証明された離散事前の手法はもはや適用できない。 本研究では, DARにおける実現可能性問題に着目し, 一般化誤差が領域間条件の不一致によって十分に支配されることを示す回帰モデルに対する十分性理論を確立する。 さらに、連続条件変数による条件差を特徴付けるために、カーネル埋め込み理論による条件分布の計量特性を認める新しい条件演算子離散性(COD)を提案する。 最後に,この差を最小化するために,CODに基づく条件不変表現学習モデルを提案し,モーメント統計に対する合理的な修正が適応モデルの識別性をさらに向上させることを示す。 標準DARデータセットの大規模な実験は、理論結果の妥当性とSOTA DAR法よりも優れていることを検証している。

関連論文リスト

• Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
  条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。 経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。 本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
  論文  参考訳（メタデータ） (2024-03-18T17:08:24Z)
• Boosted Control Functions: Distribution generalization and invariance in confounded models [10.503777692702952]
  非線形で非同定可能な構造関数が存在する場合でも分布の一般化を可能にする不変性という強い概念を導入する。 フレキシブルな機械学習手法を用いて,ブースト制御関数(BCF)を推定する制御Twicingアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-09T15:43:46Z)
• Towards Characterizing Domain Counterfactuals For Invertible Latent Causal Models [15.817239008727789]
  本研究では,異なるドメインで生成された場合,サンプルがどのようなものであったのかを仮定した,ドメイン反事実と呼ばれる特定のタイプの因果クエリを解析する。 本研究では, 潜在構造因果モデル (SCM) の回復は, ドメイン・デファクト・デファクトを推定するために不要であることを示す。 また、モデル生成過程を単純化し、生成モデル推定を行うための理論的基盤となる実用的なアルゴリズムも開発する。
  論文  参考訳（メタデータ） (2023-06-20T04:19:06Z)
• BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery [97.79015388276483]
  構造方程式モデル(SEM)は、有向非巡回グラフ(DAG)を介して表される因果関係を推論する効果的な枠組みである。 近年の進歩により、観測データからDAGの有効最大点推定が可能となった。 線形ガウス SEM を特徴付ける DAG 上の分布を推定するための変分フレームワークである BCD Nets を提案する。
  論文  参考訳（メタデータ） (2021-12-06T03:35:21Z)
• Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
  変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。 よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
  論文  参考訳（メタデータ） (2021-10-24T07:58:13Z)
• On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
  勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。 本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。 理論的にも経験的にも二重降下現象を観察する。
  論文  参考訳（メタデータ） (2021-10-13T17:47:39Z)
• Conditional Bures Metric for Domain Adaptation [14.528711361447712]
  教師なしドメイン適応(UDA)は近年広く注目を集めている。 従来のUDA法では、ラベル分布の識別情報を無視しながら、異なるドメインの限界分布がシフトしていると仮定していた。 本研究では,現在の条件不変モデルに大きな関心を持つ条件分布シフト問題に焦点をあてる。
  論文  参考訳（メタデータ） (2021-07-31T18:06:31Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
  重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。 我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。 結果として得られるアルゴリズム、GenDICEは単純で効果的である。
  論文  参考訳（メタデータ） (2020-02-21T00:27:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。