論文の概要: R2-D2: Repetitive Reprediction Deep Decipher for Semi-Supervised Deep Learning

• arxiv url: http://arxiv.org/abs/2202.08955v1
• Date: Fri, 18 Feb 2022 01:46:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-21 12:49:19.337760
• Title: R2-D2: Repetitive Reprediction Deep Decipher for Semi-Supervised Deep Learning
• Title（参考訳）: R2-D2:セミスーパービジョン深層学習のための繰り返し予測深部暗号
• Authors: Guo-Hua Wang, Jianxin Wu
• Abstract要約: 本稿では、SSLのためのDeep Decipher(D2)という、原則化されたエンドツーエンドフレームワークを提案する。 D2フレームワーク内では、擬似ラベルが指数的リンク関数によるネットワーク予測と関連していることを示す。 ネットワーク予測による擬似ラベルの更新が不確実であることを実証する。 提案したR2-D2法は,大規模なImageNetデータセット上でテストし,最先端の手法を5ポイント上回る性能を示した。
• 参考スコア（独自算出の注目度）: 38.742142493108744
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Most recent semi-supervised deep learning (deep SSL) methods used a similar paradigm: use network predictions to update pseudo-labels and use pseudo-labels to update network parameters iteratively. However, they lack theoretical support and cannot explain why predictions are good candidates for pseudo-labels in the deep learning paradigm. In this paper, we propose a principled end-to-end framework named deep decipher (D2) for SSL. Within the D2 framework, we prove that pseudo-labels are related to network predictions by an exponential link function, which gives a theoretical support for using predictions as pseudo-labels. Furthermore, we demonstrate that updating pseudo-labels by network predictions will make them uncertain. To mitigate this problem, we propose a training strategy called repetitive reprediction (R2). Finally, the proposed R2-D2 method is tested on the large-scale ImageNet dataset and outperforms state-of-the-art methods by 5 percentage points.
• Abstract（参考訳）: 最近の半教師付き深層学習(deep SSL)手法では、ネットワーク予測を使用して擬似ラベルを更新し、擬似ラベルを使用してネットワークパラメータを反復的に更新するという、同様のパラダイムが使用されている。 しかし、理論的な支持は得られず、なぜ予測が深層学習パラダイムにおける擬似ラベルの候補となるのかを説明できない。 本稿では,SSLのためのD2(Deep Decipher)と呼ばれるエンドツーエンドフレームワークを提案する。 D2フレームワーク内では、擬似ラベルが指数的リンク関数によってネットワーク予測に関連があることが証明され、擬似ラベルとして予測を使用する理論的支援を提供する。 さらに,ネットワーク予測による疑似ラベルの更新により不確かになることを示す。 この問題を軽減するために,反復補充(R2)と呼ばれるトレーニング戦略を提案する。 最後に,大規模なImageNetデータセット上でR2-D2法を試験し,最先端の手法を5ポイント上回る性能を示した。

関連論文リスト

• NODDLE: Node2vec based deep learning model for link prediction [0.0]
  我々はNODDLE(NOde2vec anD Deep Learning mEthodの統合)を提案する。 実験結果から, この手法は, 従来のソーシャル・ネットワーク・データセットの手法よりも優れた結果が得られることがわかった。
  論文  参考訳（メタデータ） (2023-05-25T18:43:52Z)
• The Adversarial Security Mitigations of mmWave Beamforming Prediction Models using Defensive Distillation and Adversarial Retraining [0.41998444721319217]
  本稿では、6G無線ネットワークにおけるディープニューラルネットワーク(DNN)を用いたビームフォーミング予測のためのディープラーニングにおけるセキュリティ脆弱性について述べる。 提案手法は、トレーニングデータの逆例によりデータが破損した状況で使用できる。
  論文  参考訳（メタデータ） (2022-02-16T16:47:17Z)
• Weakly Supervised Change Detection Using Guided Anisotropic Difusion [97.43170678509478]
  我々は、このようなデータセットを変更検出の文脈で活用するのに役立つ独自のアイデアを提案する。 まず,意味的セグメンテーション結果を改善する誘導異方性拡散(GAD)アルゴリズムを提案する。 次に、変化検出に適した2つの弱い教師付き学習戦略の可能性を示す。
  論文  参考訳（メタデータ） (2021-12-31T10:03:47Z)
• Semi-supervised Impedance Inversion by Bayesian Neural Network Based on 2-d CNN Pre-training [0.966840768820136]
  我々は2つの側面から半教師付き学習を改善する。 まず、ディープラーニング構造における1次元畳み込みニューラルネットワーク層を2次元CNN層と2次元マックスプール層に置き換えることで、予測精度を向上させる。 第二に、ベイズ推論フレームワークにネットワークを埋め込むことで予測の不確実性を推定することもできる。
  論文  参考訳（メタデータ） (2021-11-20T14:12:05Z)
• Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
  既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。 これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。 我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
  論文  参考訳（メタデータ） (2020-12-10T23:28:36Z)
• Two-phase Pseudo Label Densification for Self-training based Domain Adaptation [93.03265290594278]
  TPLDと呼ばれる,新規な二相擬似ラベル高密度化フレームワークを提案する。 第1フェーズでは,スライディングウインドウ投票を用いて,画像内の内在的空間相関を利用して,自信のある予測を広める。 第2フェーズでは,信頼度に基づく容易な分類を行う。 トレーニングプロセスの容易化と騒音予測の回避を目的として,ブートストラップ機構の導入を行った。
  論文  参考訳（メタデータ） (2020-12-09T02:35:25Z)
• Semi-supervised deep learning based on label propagation in a 2D embedded space [117.9296191012968]
  提案されたソリューションは、少数の教師なしイメージから多数の教師なしイメージにラベルを伝達し、ディープニューラルネットワークモデルをトレーニングする。 本稿では、より正確なラベル付きサンプルを反復してセットから深層ニューラルネットワーク(VGG-16)をトレーニングするループを提案する。 ラベル付きセットがイテレーションに沿って改善されるにつれて、ニューラルネットワークの機能が改善される。
  論文  参考訳（メタデータ） (2020-08-02T20:08:54Z)
• Self-Supervised Bernoulli Autoencoders for Semi-Supervised Hashing [1.8899300124593648]
  本稿では,変分オートエンコーダに基づくハッシュ手法のロバスト性と,監督の欠如について検討する。 本稿では,モデルがラベル分布予測を用いて一対の目的を実現する新しい監視手法を提案する。 実験の結果,いずれの手法もハッシュコードの品質を大幅に向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-07-17T07:47:10Z)
• Network Embedding with Completely-imbalanced Labels [0.0]
  本稿では,2つの新しい半教師付きネットワーク埋め込み手法を提案する。 RSDNEは完全に不均衡なラベルの恩恵を受けるため、RSDNEはクラス内の類似性とクラス間の類似性の両方を近似的に保証する。 もう1つの方法は、新しいグラフニューラルネットワークのクラスであるRECTである。RSDNEと異なり、完全に不均衡なラベルの恩恵を受けるために、RECTは、クラス・セマンティックな知識を探求する。これにより、RECTはノード機能とマルチラベル設定を備えたネットワークを処理することができる。
  論文  参考訳（メタデータ） (2020-07-07T15:22:54Z)
• Attentive WaveBlock: Complementarity-enhanced Mutual Networks for Unsupervised Domain Adaptation in Person Re-identification and Beyond [97.25179345878443]
  本稿では,新しい軽量モジュールであるAttentive WaveBlock (AWB)を提案する。 AWBは相互学習の二重ネットワークに統合され、相互学習の相補性を高め、擬似ラベルのノイズをさらに抑えることができる。 実験により, 提案手法は, 複数のUDA人物再識別タスクを大幅に改善し, 最先端の性能を達成できることが実証された。
  論文  参考訳（メタデータ） (2020-06-11T15:40:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。