論文の概要: Parameter Adaptation for Joint Distribution Shifts
- arxiv url: http://arxiv.org/abs/2205.07315v1
- Date: Sun, 15 May 2022 15:39:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-17 16:49:26.423496
- Title: Parameter Adaptation for Joint Distribution Shifts
- Title(参考訳): 共同分布シフトのパラメータ適応
- Authors: Siddhartha Datta
- Abstract要約: 対向性および領域特異的な摂動を呈する関節分布変化について検討した。
性能低下を抑制するため,入力およびパラメータ空間境界によって動機付けられた摂動集合の使用について検討した。
- 参考スコア(独自算出の注目度): 2.538209532048867
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: While different methods exist to tackle distinct types of distribution shift,
such as label shift (in the form of adversarial attacks) or domain shift,
tackling the joint shift setting is still an open problem. Through the study of
a joint distribution shift manifesting both adversarial and domain-specific
perturbations, we not only show that a joint shift worsens model performance
compared to their individual shifts, but that the use of a similar domain
worsens performance than a dissimilar domain. To curb the performance drop, we
study the use of perturbation sets motivated by input and parameter space
bounds, and adopt a meta learning strategy (hypernetworks) to model parameters
w.r.t. test-time inputs to recover performance.
- Abstract(参考訳): ラベルシフト(敵攻撃の形で)やドメインシフトなど、異なるタイプの分散シフトに取り組む方法が存在するが、ジョイントシフト設定に取り組むことは依然として未解決の問題である。
逆方向とドメイン固有の摂動の両方を示す共同分布シフトの研究を通して、共同シフトが個々のシフトよりもモデル性能を悪化させるだけでなく、類似ドメインの使用が異種ドメインよりもパフォーマンスを悪化させることを示す。
性能低下を抑制するため,入力とパラメータ空間境界に動機づけられた摂動セットの使用を研究し,パラメータw.r.t.テストタイム入力をモデル化してパフォーマンスを回復するメタ学習戦略(ハイパーネットワーク)を採用する。
関連論文リスト
- Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳(メタデータ) (2024-03-12T09:32:41Z) - Algorithmic Fairness Generalization under Covariate and Dependence Shifts Simultaneously [28.24666589680547]
公平かつ不変な分類器の学習を目的とした,単純かつ効果的な手法を提案する。
モデルを用いて様々な合成データドメインを拡張することにより、ソースドメインの公平かつ不変な分類器を学習する。
この分類器は未知の対象領域に一般化することができ、モデル予測と公平性の懸念の両方を維持できる。
論文 参考訳(メタデータ) (2023-11-23T05:52:00Z) - Supervised Contrastive Learning with Heterogeneous Similarity for
Distribution Shifts [3.7819322027528113]
本稿では,教師付きコントラスト学習を用いた新たな正規化手法を提案する。
サブポピュレーションシフトや領域一般化などの分布シフトをエミュレートするベンチマークデータセットの実験は,提案手法の利点を実証している。
論文 参考訳(メタデータ) (2023-04-07T01:45:09Z) - SALUDA: Surface-based Automotive Lidar Unsupervised Domain Adaptation [62.889835139583965]
我々は、ソースデータとターゲットデータに基づいて、暗黙の基盤となる表面表現を同時に学習する教師なし補助タスクを導入する。
両方のドメインが同じ遅延表現を共有しているため、モデルは2つのデータソース間の不一致を許容せざるを得ない。
実験の結果,本手法は実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-
論文 参考訳(メタデータ) (2023-04-06T17:36:23Z) - Adapting to Latent Subgroup Shifts via Concepts and Proxies [82.01141290360562]
最適ターゲット予測器は、ソースドメインでのみ利用できる概念とプロキシ変数の助けを借りて、非パラメトリックに識別可能であることを示す。
本研究では,データ生成プロセスに特有の潜在変数モデルを提案する。
論文 参考訳(メタデータ) (2022-12-21T18:30:22Z) - On the Connection between Invariant Learning and Adversarial Training
for Out-of-Distribution Generalization [14.233038052654484]
ディープラーニングモデルは、アウト・オブ・ディストリビューション(OOD)データに一般化されたときに壊滅的に失敗する、急激な機能に依存している。
最近の研究によると、不変リスク最小化(IRM)は特定の種類の分散シフトに対してのみ有効であり、他のケースでは失敗する。
ドメイン固有摂動による分布変化を緩和するATインスパイアされた手法であるドメインワイズ・アドバイザリアル・トレーニング(DAT)を提案する。
論文 参考訳(メタデータ) (2022-12-18T13:13:44Z) - Improving Out-of-Distribution Robustness via Selective Augmentation [61.147630193060856]
機械学習アルゴリズムは、トレーニングとテスト例が同じ分布から引き出されると仮定する。
分散シフトは現実世界のアプリケーションでは一般的な問題であり、テスト時にモデルが劇的に悪化する可能性がある。
LISAと呼ばれる選択的な拡張によって不変関数を学習するミックスアップ方式を提案する。
論文 参考訳(メタデータ) (2022-01-02T05:58:33Z) - Margin Preserving Self-paced Contrastive Learning Towards Domain
Adaptation for Medical Image Segmentation [51.93711960601973]
クロスモーダル医療画像セグメンテーションのための自己ペースコントラスト学習モデルを保存する新しいマージンを提案する。
プログレッシブに洗練されたセマンティックプロトタイプの指導により、埋め込み表現空間の識別性を高めるために、コントラスト損失を減少させる新しいマージンが提案される。
クロスモーダル心セグメンテーションタスクの実験は、MPSCLが意味セグメンテーション性能を大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-03-15T15:23:10Z) - Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation [66.74638960925854]
部分ドメイン適応(PDA)は、ソースドメインラベル空間がターゲットドメインを置き換えるとき、現実的で困難な問題を扱う。
本稿では,2つの領域にまたがる関連カテゴリを整合させる適応的知識伝達フレームワーク(A$2KT)を提案する。
論文 参考訳(メタデータ) (2020-08-27T00:53:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。