論文の概要: Exploring Dropout Discriminator for Domain Adaptation

• arxiv url: http://arxiv.org/abs/2107.04231v1
• Date: Fri, 9 Jul 2021 06:11:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-12 14:00:38.182137
• Title: Exploring Dropout Discriminator for Domain Adaptation
• Title（参考訳）: ドメイン適応のためのドロップアウト判別器の探索
• Authors: Vinod K Kurmi and Venkatesh K Subramanian and Vinay P. Namboodiri
• Abstract要約: 新しいドメインへの分類器の適応は、機械学習における難しい問題の1つである。 本稿では, サンプル分布の分散を徐々に増大させるカリキュラムベースのドロップアウト判別器を提案する。 識別器のアンサンブルは、モデルがデータ分散を効率的に学習するのに役立つ。
• 参考スコア（独自算出の注目度）: 27.19677042654432
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Adaptation of a classifier to new domains is one of the challenging problems in machine learning. This has been addressed using many deep and non-deep learning based methods. Among the methodologies used, that of adversarial learning is widely applied to solve many deep learning problems along with domain adaptation. These methods are based on a discriminator that ensures source and target distributions are close. However, here we suggest that rather than using a point estimate obtaining by a single discriminator, it would be useful if a distribution based on ensembles of discriminators could be used to bridge this gap. This could be achieved using multiple classifiers or using traditional ensemble methods. In contrast, we suggest that a Monte Carlo dropout based ensemble discriminator could suffice to obtain the distribution based discriminator. Specifically, we propose a curriculum based dropout discriminator that gradually increases the variance of the sample based distribution and the corresponding reverse gradients are used to align the source and target feature representations. An ensemble of discriminators helps the model to learn the data distribution efficiently. It also provides a better gradient estimates to train the feature extractor. The detailed results and thorough ablation analysis show that our model outperforms state-of-the-art results.
• Abstract（参考訳）: 新しいドメインへの分類器の適応は、機械学習における難しい問題の1つである。 これは多くの深層学習と非深層学習に基づく手法を用いて解決されている。 提案手法のうち,多くの深層学習問題とドメイン適応を両立させるために,逆学習の手法が広く適用されている。 これらの方法は、ソースとターゲットの分布が近いことを保証する判別器に基づいている。 しかし, 一つの判別器で得られる点推定を用いるのではなく, 判別器のアンサンブルに基づく分布を用いてこのギャップを橋渡しすることは有用であると考えられる。 これは複数の分類器や従来のアンサンブル方式で実現できる。 対照的に,モンテカルロのドロップアウトに基づくアンサンブル判別器は,分布に基づく判別器を得るのに十分である可能性が示唆された。 具体的には,サンプルベース分布のばらつきを徐々に増加させ,それに対応する逆勾配を用いて特徴表現の調整を行うカリキュラムベースのドロップアウト判別器を提案する。 判別器のアンサンブルは、モデルがデータ分布を効率的に学習するのに役立つ。 さらに、機能抽出子をトレーニングするための勾配推定も改善されている。 詳細な結果と徹底的なアブレーション解析により,本モデルが最先端の結果を上回っていることが示された。

関連論文リスト

• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Discriminator Guidance for Autoregressive Diffusion Models [12.139222986297264]
  本稿では,自己回帰拡散モデルの設定において差別的ガイダンスを導入する。 判別器と事前学習した生成モデルとを個別のケースで併用する方法を導出する。
  論文  参考訳（メタデータ） (2023-10-24T13:14:22Z)
• Bi-discriminator Domain Adversarial Neural Networks with Class-Level Gradient Alignment [87.8301166955305]
  そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。 BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。 さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
  論文  参考訳（メタデータ） (2023-10-21T09:53:17Z)
• Robust Outlier Rejection for 3D Registration with Variational Bayes [70.98659381852787]
  我々は、ロバストアライメントのための新しい変分非局所ネットワークベース外乱除去フレームワークを開発した。 そこで本稿では, 投票に基づく不整合探索手法を提案し, 変換推定のための高品質な仮説的不整合をクラスタリングする。
  論文  参考訳（メタデータ） (2023-04-04T03:48:56Z)
• Refining Generative Process with Discriminator Guidance in Score-based Diffusion Models [15.571673352656264]
  ディスクリミネータガイダンスは、事前学習した拡散モデルのサンプル生成を改善することを目的としている。 GANとは異なり、我々の手法はスコアネットワークと差別ネットワークの合同トレーニングを必要としない。 検証データのFID (1.68) やリコール (0.66) と同様, ImageNet 256x256 で FID 1.83 をリコールし,0.64 をリコールした。
  論文  参考訳（メタデータ） (2022-11-28T20:04:12Z)
• Unsupervised Domain Adaptation Using Feature Disentanglement And GCNs For Medical Image Classification [5.6512908295414]
  本稿では,グラフニューラルネットワークを用いた教師なし領域適応手法を提案する。 分布シフトを伴う2つの挑戦的医用画像データセットの分類法について検討した。 実験により,本手法は他の領域適応法と比較して最先端の結果が得られることが示された。
  論文  参考訳（メタデータ） (2022-06-27T09:02:16Z)
• Reusing the Task-specific Classifier as a Discriminator: Discriminator-free Adversarial Domain Adaptation [55.27563366506407]
  非教師付きドメイン適応(UDA)のための識別器なし対向学習ネットワーク(DALN)を導入する。 DALNは、統一された目的によって明確なドメインアライメントとカテゴリの区別を達成する。 DALNは、さまざまなパブリックデータセット上の既存の最先端(SOTA)メソッドと比較して好意的に比較する。
  論文  参考訳（メタデータ） (2022-04-08T04:40:18Z)
• KL Guided Domain Adaptation [88.19298405363452]
  ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。 ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。 確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
  論文  参考訳（メタデータ） (2021-06-14T22:24:23Z)
• An Effective Baseline for Robustness to Distributional Shift [5.627346969563955]
  ディープラーニングシステムの安全なデプロイには,トレーニング中に見られるものと異なる入力のカテゴリに直面した場合,確実な予測を控えることが重要な要件である。 本論文では, 吸収の原理を用いた分布異常検出の簡便かつ高効率な手法を提案する。
  論文  参考訳（メタデータ） (2021-05-15T00:46:11Z)
• When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
  GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である 本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。 ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
  論文  参考訳（メタデータ） (2020-02-24T11:35:28Z)
• MiniMax Entropy Network: Learning Category-Invariant Features for Domain Adaptation [29.43532067090422]
  逆学習に基づくMMEN(MiniMax Entropy Networks)と呼ばれる実装が容易な手法を提案する。 ドメイン差に対処するためにジェネレータを使用する既存のアプローチとは異なり、MMENはラベルのないターゲットサンプルからカテゴリ情報を学習することに重点を置いている。
  論文  参考訳（メタデータ） (2019-04-21T13:39:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。