論文の概要: A Bit More Bayesian: Domain-Invariant Learning with Uncertainty
- arxiv url: http://arxiv.org/abs/2105.04030v1
- Date: Sun, 9 May 2021 21:33:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-12 03:32:57.852742
- Title: A Bit More Bayesian: Domain-Invariant Learning with Uncertainty
- Title(参考訳): もう少しベイズ的:不確実性を伴うドメイン不変学習
- Authors: Zehao Xiao, Jiayi Shen, Xiantong Zhen, Ling Shao, Cees G. M. Snoek
- Abstract要約: ドメインの一般化は、ドメインシフトと、ターゲットドメインデータのアクセス不能に起因する不確実性のために困難である。
本稿では,変分ベイズ推定に基づく確率的枠組みを用いて,両課題に対処する。
2層ベイズ型ニューラルネットワークで共同で確立されたドメイン不変表現と分類器を導出する。
- 参考スコア(独自算出の注目度): 111.22588110362705
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Domain generalization is challenging due to the domain shift and the
uncertainty caused by the inaccessibility of target domain data. In this paper,
we address both challenges with a probabilistic framework based on variational
Bayesian inference, by incorporating uncertainty into neural network weights.
We couple domain invariance in a probabilistic formula with the variational
Bayesian inference. This enables us to explore domain-invariant learning in a
principled way. Specifically, we derive domain-invariant representations and
classifiers, which are jointly established in a two-layer Bayesian neural
network. We empirically demonstrate the effectiveness of our proposal on four
widely used cross-domain visual recognition benchmarks. Ablation studies
validate the synergistic benefits of our Bayesian treatment when jointly
learning domain-invariant representations and classifiers for domain
generalization. Further, our method consistently delivers state-of-the-art mean
accuracy on all benchmarks.
- Abstract(参考訳): ドメインの一般化は、ドメインシフトと、ターゲットのドメインデータのアクセス不能に起因する不確実性のために困難である。
本稿では,ニューラルネットワークの重み付けに不確かさを組み込むことにより,変分ベイズ推定に基づく確率的枠組みによる両課題に対処する。
我々は、変分ベイズ推論を伴う確率式で領域不変性を結合する。
これにより、原則的にドメイン不変学習を探求することができる。
具体的にはドメイン不変表現と分類器を導出し、2層ベイズニューラルネットワークで共同で構築する。
広範に使用されている4つのドメイン間視覚認識ベンチマークにおいて,提案手法の有効性を実証的に実証した。
アブレーション研究は、ドメイン一般化のためのドメイン不変表現と分類器を共同学習する場合、ベイズ処理の相乗効果を検証する。
さらに,本手法はすべてのベンチマークに対して常に最先端の平均精度を提供する。
関連論文リスト
- Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳(メタデータ) (2023-10-21T09:53:17Z) - Mixture Domain Adaptation to Improve Semantic Segmentation in Real-World
Surveillance [8.059723743801902]
本稿では,非教師付き多無限領域適応のためのアルゴリズムの形式的証明について述べる。
提案アルゴリズムは,対象領域に関連付けられた確率測度が,ソース領域の確率測度の凸結合である場合に適用できる。
ソースモデルと、オンラインでトレーニングされたドメイン識別器モデルを使用して、フライでターゲットドメインに適応した後部を計算します。
論文 参考訳(メタデータ) (2022-11-18T09:44:41Z) - A Style and Semantic Memory Mechanism for Domain Generalization [108.98041306507372]
ドメイン内スタイルの不変性は、ドメインの一般化の効率を改善する上で重要な要素である。
本稿では,ドメイン間の意味的特徴の共通性を学習する上で特に有効な,新しい「判断」機構を提案する。
提案手法は最先端の手法をクリアマージンで超越している。
論文 参考訳(メタデータ) (2021-12-14T16:23:24Z) - Variational Disentanglement for Domain Generalization [68.85458536180437]
本稿では,変分拡散ネットワーク(VDN)という効果的なフレームワークを提供することにより,領域一般化の課題に取り組むことを提案する。
VDNは、ドメイン固有の機能とタスク固有の機能を切り離し、タスク固有のフィーチャは、見えないが関連するテストデータにより良い一般化が期待できる。
論文 参考訳(メタデータ) (2021-09-13T09:55:32Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Unsupervised Cross-domain Image Classification by Distance Metric Guided
Feature Alignment [11.74643883335152]
教師なしドメイン適応は、ソースドメインからターゲットドメインに知識を転送する有望な道である。
本稿では,距離メトリックガイド機能アライメント(MetFA)を提案する。
我々のモデルは、クラス分布アライメントを統合して、ソースドメインからターゲットドメインにセマンティック知識を転送します。
論文 参考訳(メタデータ) (2020-08-19T13:36:57Z) - Learning to Learn with Variational Information Bottleneck for Domain
Generalization [128.90691697063616]
ドメイン一般化モデルは、これまで見つからなかった領域に一般化することを学ぶが、予測の不確実性とドメインシフトに悩まされる。
ドメイン一般化のための確率論的メタラーニングモデルを導入し、ドメイン間で共有されるパラメータを分布としてモデル化する。
ドメインシフトに対処するため、メタ変動情報ボトルネックという提案原則を用いてドメイン不変表現を学習し、メタVIBと呼ぶ。
論文 参考訳(メタデータ) (2020-07-15T12:05:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。