論文の概要: Out-of-domain Generalization from a Single Source: A Uncertainty
Quantification Approach
- arxiv url: http://arxiv.org/abs/2108.02888v1
- Date: Thu, 5 Aug 2021 23:53:55 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-09 23:56:20.969566
- Title: Out-of-domain Generalization from a Single Source: A Uncertainty
Quantification Approach
- Title(参考訳): 単一ソースからの領域外一般化:不確実性定量化アプローチ
- Authors: Xi Peng, Fengchun Qiao, Long Zhao
- Abstract要約: 一般化における最悪のシナリオとして,単一ソースからの領域外一般化について検討する。
目標は、単一のソースから堅牢なモデルを学び、多くの未知のディストリビューションを一般化することである。
制約に対処するために、不確実性誘導領域の一般化を提案する。
- 参考スコア(独自算出の注目度): 17.334457450818473
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study a worst-case scenario in generalization: Out-of-domain
generalization from a single source. The goal is to learn a robust model from a
single source and expect it to generalize over many unknown distributions. This
challenging problem has been seldom investigated while existing solutions
suffer from various limitations such as the ignorance of uncertainty assessment
and label augmentation. In this paper, we propose uncertainty-guided domain
generalization to tackle the aforementioned limitations. The key idea is to
augment the source capacity in both feature and label spaces, while the
augmentation is guided by uncertainty assessment. To the best of our knowledge,
this is the first work to (1) quantify the generalization uncertainty from a
single source and (2) leverage it to guide both feature and label augmentation
for robust generalization. The model training and deployment are effectively
organized in a Bayesian meta-learning framework. We conduct extensive
comparisons and ablation study to validate our approach. The results prove our
superior performance in a wide scope of tasks including image classification,
semantic segmentation, text classification, and speech recognition.
- Abstract(参考訳): 一般化における最悪のシナリオとして,単一ソースからの領域外一般化について検討する。
目標は、単一のソースから堅牢なモデルを学び、多くの未知のディストリビューションを一般化することである。
この困難な問題はめったに解明されていないが、既存のソリューションは不確実性評価の無知やラベルの強化といった様々な制限に苦しめられている。
本稿では,上記の制限に取り組むために不確実性誘導領域の一般化を提案する。
重要なアイデアは、特徴空間とラベル空間の両方でソース容量を増やすことであり、一方、拡張は不確実性評価によって導かれる。
私たちの知る限りでは、(1)単一ソースからの一般化の不確かさを定量化し、(2)堅牢な一般化のために特徴とラベルの強化を導くためにそれを活用した最初の仕事です。
モデルのトレーニングとデプロイは、ベイズメタラーニングフレームワークで効果的に構成される。
我々はアプローチを検証するために広範囲な比較とアブレーション研究を行っている。
その結果,画像分類,意味セグメンテーション,テキスト分類,音声認識など幅広いタスクで優れた性能が得られた。
関連論文リスト
- A Review of Bayesian Uncertainty Quantification in Deep Probabilistic Image Segmentation [0.0]
画像セグメンテーションの進歩は、ディープラーニングベースのコンピュータビジョンの広い範囲において重要な役割を果たす。
この文脈において不確かさの定量化が広く研究され、モデル無知(認識の不確実性)やデータ曖昧さ(アラート的不確実性)を表現し、不正な意思決定を防ぐことができる。
この研究は、分野の進歩を左右する不確実性の基本概念と様々なタスクへの応用について議論することで、確率的セグメンテーションの包括的概要を提供する。
論文 参考訳(メタデータ) (2024-11-25T13:26:09Z) - Uncertainty-guided Contrastive Learning for Single Source Domain Generalisation [15.907643838530655]
本稿では,Contrastive Uncertainty Domain Generalisation Network(CUDGNet)と呼ばれる新しいモデルを紹介する。
鍵となるアイデアは、架空のドメインジェネレータを通じて、入力空間とラベル空間の両方のソース容量を増大させることである。
また,提案手法は,1つのフォワードパスからジェネレータサブネットワークを経由した推論時間における効率的な不確実性推定も提供する。
論文 参考訳(メタデータ) (2024-03-12T10:47:45Z) - Rethinking Multi-domain Generalization with A General Learning Objective [19.28143363034362]
マルチドメイン一般化(mDG)は、トレーニングとテストディストリビューションの相違を最小限にすることを目的としている。
既存のmDG文献には、一般的な学習目標パラダイムが欠けている。
制約緩和に$Y$-mappingを活用することを提案する。
論文 参考訳(メタデータ) (2024-02-29T05:00:30Z) - Activate and Reject: Towards Safe Domain Generalization under Category
Shift [71.95548187205736]
カテゴリーシフト(DGCS)下における領域一般化の実践的問題について検討する。
未知のクラスサンプルを同時に検出し、ターゲットドメイン内の既知のクラスサンプルを分類することを目的としている。
従来のDGと比較すると,1)ソースクラスのみを用いたトレーニングにおいて,未知の概念を学習する方法,2)ソーストレーニングされたモデルを未知の環境に適応する方法,の2つの新しい課題に直面している。
論文 参考訳(メタデータ) (2023-10-07T07:53:12Z) - Probabilistic Test-Time Generalization by Variational Neighbor-Labeling [62.158807685159736]
本稿では、ドメインの一般化を試み、モデルが未確認のターゲットドメインにデプロイされる前に、ソースドメインにのみトレーニングされる。
ソーストレーニングされたモデルをテスト時にターゲットドメインに一般化するための、ターゲットサンプルの擬似ラベル化の確率。
より堅牢な擬似ラベルを生成するために、近隣のターゲットサンプルの情報を含む変分隣接ラベル。
論文 参考訳(メタデータ) (2023-07-08T18:58:08Z) - When Neural Networks Fail to Generalize? A Model Sensitivity Perspective [82.36758565781153]
ドメイン一般化 (Domain Generalization, DG) は、異なる分布の下で見えないドメインでうまく機能するようにモデルを訓練することを目的としている。
本稿では,より現実的で,より困難なシナリオである単一領域一般化(Single-DG)について考察する。
我々は「モデル感度」と命名する一般化と強く相関するモデルの性質を経験的に確認する。
本稿では、高感度の周波数をターゲットとした拡張画像を生成するために、スペクトル逆データ拡張(SADA)の新たな戦略を提案する。
論文 参考訳(メタデータ) (2022-12-01T20:15:15Z) - A Call to Reflect on Evaluation Practices for Failure Detection in Image
Classification [0.491574468325115]
本稿では,信頼度評価関数のベンチマーク化を初めて実現した大規模実証的研究について述べる。
簡便なソフトマックス応答ベースラインを全体の最高の実行方法として明らかにすることは、現在の評価の劇的な欠点を浮き彫りにする。
論文 参考訳(メタデータ) (2022-11-28T12:25:27Z) - Invariance Principle Meets Information Bottleneck for
Out-of-Distribution Generalization [77.24152933825238]
線形分類タスクには分布シフトの強い制限が必要であり、そうでなければ OOD の一般化は不可能であることを示す。
不変な特徴がラベルに関するすべての情報をキャプチャし、そうでなければ既存の成功を保っている場合、情報ボトルネックの形式が重要な障害に対処するのに役立つことを証明します。
論文 参考訳(メタデータ) (2021-06-11T20:42:27Z) - Semi-Supervised Domain Generalization with Stochastic StyleMatch [90.98288822165482]
実世界のアプリケーションでは、アノテーションのコストが高いため、各ソースドメインから利用可能なラベルはわずかです。
本研究では,より現実的で実践的な半教師付き領域一般化について検討する。
提案手法であるStyleMatchは,擬似ラベルに基づく最先端の半教師付き学習手法であるFixMatchに着想を得たものである。
論文 参考訳(メタデータ) (2021-06-01T16:00:08Z) - Uncertainty-guided Model Generalization to Unseen Domains [15.813136035004867]
一般化における最悪のシナリオとして,単一ソースからの領域外一般化について検討する。
目標は、単一のソースから堅牢なモデルを学び、多くの未知のディストリビューションを一般化することである。
重要なアイデアは、入力スペースとラベルスペースの両方のソース容量を強化することですが、拡張は不確実性評価によって導かれます。
論文 参考訳(メタデータ) (2021-03-12T21:13:21Z) - In Search of Robust Measures of Generalization [79.75709926309703]
我々は、一般化誤差、最適化誤差、過大なリスクのバウンダリを開発する。
経験的に評価すると、これらの境界の大部分は数値的に空白である。
我々は、分散ロバストネスの枠組みの中で、一般化対策を評価するべきであると論じる。
論文 参考訳(メタデータ) (2020-10-22T17:54:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。