論文の概要: Robust Ensembling Network for Unsupervised Domain Adaptation
- arxiv url: http://arxiv.org/abs/2108.09473v1
- Date: Sat, 21 Aug 2021 09:19:13 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-25 08:19:59.669023
- Title: Robust Ensembling Network for Unsupervised Domain Adaptation
- Title（参考訳）: 教師なしドメイン適応のためのロバスト組立ネットワーク
- Authors: Han Sun, Lei Lin, Ningzhong Liu, Huiyu Zhou
- Abstract要約: 教師なしドメイン適応(UDA)のためのRobust Ensembling Network(REN)を提案する。
RENは主に教師ネットワークと学生ネットワークを含み、標準的なドメイン適応トレーニングを実行し、教師ネットワークの重みを更新する。
学生ネットワークの基本能力を向上させるために,学生ネットワークと教師ネットワークの誤りのバランスをとるために,一貫性制約を利用する。
- 参考スコア（独自算出の注目度）: 20.152004296679138
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, in order to address the unsupervised domain adaptation (UDA)
problem, extensive studies have been proposed to achieve transferrable models.
Among them, the most prevalent method is adversarial domain adaptation, which
can shorten the distance between the source domain and the target domain.
Although adversarial learning is very effective, it still leads to the
instability of the network and the drawbacks of confusing category information.
In this paper, we propose a Robust Ensembling Network (REN) for UDA, which
applies a robust time ensembling teacher network to learn global information
for domain transfer. Specifically, REN mainly includes a teacher network and a
student network, which performs standard domain adaptation training and updates
weights of the teacher network. In addition, we also propose a dual-network
conditional adversarial loss to improve the ability of the discriminator.
Finally, for the purpose of improving the basic ability of the student network,
we utilize the consistency constraint to balance the error between the student
network and the teacher network. Extensive experimental results on several UDA
datasets have demonstrated the effectiveness of our model by comparing with
other state-of-the-art UDA algorithms.
- Abstract（参考訳）: 近年,unsupervised domain adaptation (uda)問題に対処するために,転送可能なモデルを実現するための広範な研究が提案されている。
その中でも最も一般的な手法は、ソースドメインとターゲットドメイン間の距離を短くする、逆領域適応法である。
敵対的学習は非常に効果的であるが、ネットワークの不安定性と混乱したカテゴリ情報の欠点につながる。
本稿では,情報伝達のためのグローバル情報学習にロバストな時間センシング教師ネットワークを適用した,udaのためのロバストセンシングネットワーク (ren) を提案する。
具体的には、主に教師ネットワークと生徒ネットワークを含み、標準ドメイン適応トレーニングを行い、教師ネットワークの重みを更新する。
さらに, 判別器の能力を向上させるために, 二重ネットワーク条件付き対向損失を提案する。
最後に,学生ネットワークの基本能力を向上させるために,学生ネットワークと教師ネットワークの誤りのバランスをとるために,一貫性制約を利用する。
いくつかのUDAデータセットに対する大規模な実験結果は、他の最先端UDAアルゴリズムと比較することにより、我々のモデルの有効性を実証した。
関連論文リスト
- Adaptive Teaching with Shared Classifier for Knowledge Distillation [6.03477652126575]
知識蒸留(KD)は、教師ネットワークから学生ネットワークへ知識を伝達する技術である。
共有分類器(ATSC)を用いた適応型授業を提案する。
提案手法は,CIFAR-100とImageNetのデータセットに対して,単教師と多教師の両方のシナリオで最新の結果が得られる。
論文 参考訳（メタデータ） (2024-06-12T08:51:08Z) - Direct Distillation between Different Domains [97.39470334253163]
異なるドメイン間の直接蒸留(4Ds)と呼ばれる新しいワンステージ手法を提案する。
まず、Fourier変換に基づいて学習可能なアダプタを設計し、ドメイン固有の知識からドメイン不変知識を分離する。
次に、価値あるドメイン不変知識を学生ネットワークに転送するための融合活性化機構を構築する。
論文 参考訳（メタデータ） (2024-01-12T02:48:51Z) - Common Knowledge Learning for Generating Transferable Adversarial
Examples [60.1287733223249]
本稿では,代用(ソース)モデルにより敵のサンプルを生成するブラックボックス攻撃の重要タイプに着目した。
既存の手法では、ソースモデルとターゲットモデルが異なるタイプのDNNアーキテクチャのものである場合、不満足な逆転が生じる傾向にある。
本稿では,より優れたネットワーク重みを学習し,敵対的な例を生成するための共通知識学習(CKL)フレームワークを提案する。
論文 参考訳（メタデータ） (2023-07-01T09:07:12Z) - Feature-domain Adaptive Contrastive Distillation for Efficient Single
Image Super-Resolution [3.2453621806729234]
CNNベースのSISRは、多くのパラメータと高い計算コストを持ち、より良い性能を実現している。
知識蒸留(KD)は教師の有用な知識を学生に伝達する。
本稿では,軽量なSISRネットワークを効率的に訓練するための特徴領域適応型コントラスト蒸留(FACD)手法を提案する。
論文 参考訳（メタデータ） (2022-11-29T06:24:14Z) - Exploring Adversarially Robust Training for Unsupervised Domain
Adaptation [71.94264837503135]
Unsupervised Domain Adaptation (UDA)メソッドは、ラベル付きソースドメインからラベル付きターゲットドメインに知識を転送することを目的としている。
本稿では、UDAのドメイン不変性を学習しながら、ATを介してラベルなしデータのロバスト性を高める方法について検討する。
本稿では,ARTUDA と呼ばれる UDA の適応的ロバストトレーニング手法を提案する。
論文 参考訳（メタデータ） (2022-02-18T17:05:19Z) - Understanding and Improvement of Adversarial Training for Network
Embedding from an Optimization Perspective [31.312873512603808]
Network Embeddingは、ノードをユークリッド空間にマッピングする関数を学習することを目的としており、ネットワーク上の複数の学習分析タスクに寄与する。
これらの問題に対処するために、研究者はAdvTNE(Adversarial Training for Network Embedding)を用いて最先端のパフォーマンスを実現する。
論文 参考訳（メタデータ） (2021-05-17T16:41:53Z) - Teacher-Student Competition for Unsupervised Domain Adaptation [28.734814582911845]
本稿では教師・学生コンペティション(TSC)を用いた教師なしドメイン適応手法を提案する。
特に,対象とする特徴空間を学習するために学生ネットワークを導入し,学生ネットワークのトレーニングのために,より信頼性の高い擬似ラベルを選択するための新しい競争機構を設計する。
提案するTSCフレームワークは,Office-31およびImageCLEF-DAベンチマークにおける最先端のドメイン適応手法を著しく上回っている。
論文 参考訳（メタデータ） (2020-10-19T14:58:29Z) - Deep Multi-Task Learning for Cooperative NOMA: System Design and
Principles [52.79089414630366]
我々は,近年のディープラーニング(DL)の進歩を反映した,新しいディープ・コラボレーティブなNOMAスキームを開発する。
我々は,システム全体を包括的に最適化できるように,新しいハイブリッドカスケードディープニューラルネットワーク(DNN)アーキテクチャを開発した。
論文 参考訳（メタデータ） (2020-07-27T12:38:37Z) - Delta Schema Network in Model-based Reinforcement Learning [125.99533416395765]
この研究は、伝達学習の非効率性である人工知能の未解決問題に焦点が当てられている。
環境データからオブジェクトとアクション間の論理的関係を抽出できるスキーマネットワーク手法を拡張している。
本稿では,デルタネットワーク(DSN)をトレーニングし,環境の将来状態を予測し,前向きな報酬をもたらす計画行動を示すアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-06-17T15:58:25Z) - Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。
グラフ埋め込みに基づく汎用フレームワークを提案する。
提案手法が強力なドメイン適応フレームワークにつながることを示す。
論文 参考訳（メタデータ） (2020-03-09T12:25:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。