論文の概要: Enhancing Adaptive Deep Networks for Image Classification via Uncertainty-aware Decision Fusion
- arxiv url: http://arxiv.org/abs/2408.13744v2
- Date: Thu, 29 Aug 2024 09:08:54 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-30 18:25:25.189695
- Title: Enhancing Adaptive Deep Networks for Image Classification via Uncertainty-aware Decision Fusion
- Title（参考訳）: 不確実性を考慮した決定融合による画像分類のための適応型深層ネットワークの強化
- Authors: Xu Zhang, Zhipeng Xie, Haiyang Yu, Qitong Wang, Peng Wang, Wei Wang,
- Abstract要約: 本稿では,適応型深層ネットワークの推論性能を高めるために,CDM(Collaborative Decision Making)モジュールを導入する。
CDMは、第1のc-1分類器からの信頼性(不確かさ値)を利用する、明らかな深層学習(EDL)に基づく不確実性認識融合手法を取り入れている。
また、CDMの核融合品質を改善するために、EDL制約による核融合飽和度と不公平性の問題を低減するバランス項を設計する。
- 参考スコア（独自算出の注目度）: 27.117531006305974
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Handling varying computational resources is a critical issue in modern AI applications. Adaptive deep networks, featuring the dynamic employment of multiple classifier heads among different layers, have been proposed to address classification tasks under varying computing resources. Existing approaches typically utilize the last classifier supported by the available resources for inference, as they believe that the last classifier always performs better across all classes. However, our findings indicate that earlier classifier heads can outperform the last head for certain classes. Based on this observation, we introduce the Collaborative Decision Making (CDM) module, which fuses the multiple classifier heads to enhance the inference performance of adaptive deep networks. CDM incorporates an uncertainty-aware fusion method based on evidential deep learning (EDL), that utilizes the reliability (uncertainty values) from the first c-1 classifiers to improve the c-th classifier' accuracy. We also design a balance term that reduces fusion saturation and unfairness issues caused by EDL constraints to improve the fusion quality of CDM. Finally, a regularized training strategy that uses the last classifier to guide the learning process of early classifiers is proposed to further enhance the CDM module's effect, called the Guided Collaborative Decision Making (GCDM) framework. The experimental evaluation demonstrates the effectiveness of our approaches. Results on ImageNet datasets show CDM and GCDM obtain 0.4% to 2.8% accuracy improvement (under varying computing resources) on popular adaptive networks. The code is available at the link https://github.com/Meteor-Stars/GCDM_AdaptiveNet.
- Abstract（参考訳）: 様々な計算リソースを扱うことは、現代のAIアプリケーションにおいて重要な問題である。
異なる層間における複数の分類器ヘッドの動的使用を特徴とする適応型ディープネットワークは,様々な計算資源下での分類課題に対処するために提案されている。
既存のアプローチでは、利用可能なリソースによってサポートされている最後の分類器を推論に利用するのが一般的である。
しかし,本研究の結果から,より早期の分類器ヘッドは,特定のクラスにおいて最後の頭部より優れていたことが示唆された。
そこで本研究では,適応型深層ネットワークの推論性能を高めるために,複数の分類器ヘッドを融合したCDM(Collaborative Decision Making)モジュールを提案する。
CDMは、第1のc-1分類器からの信頼性(不確かさ値)を利用してc-th分類器の精度を向上させる、明らかな深層学習(EDL)に基づく不確実性認識融合法を取り入れている。
また、CDMの核融合品質を改善するために、EDL制約による核融合飽和度と不公平性の問題を低減するバランス項を設計する。
最後に,最終分類器を用いて早期分類器の学習過程をガイドする正規化学習戦略を提案し,CDMモジュールの効果をさらに向上させる。
実験により,本手法の有効性が示された。
ImageNetデータセットの結果、CDMとGCDMは、一般的な適応ネットワーク上での精度を0.4%から2.8%向上させる(様々なコンピューティングリソースの下で)。
コードはhttps://github.com/Meteor-Stars/GCDM_AdaptiveNet.comリンクで入手できる。
関連論文リスト
- Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。
従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。
これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
論文 参考訳（メタデータ） (2024-07-16T06:38:49Z) - MDDD: Manifold-based Domain Adaptation with Dynamic Distribution for Non-Deep Transfer Learning in Cross-subject and Cross-session EEG-based Emotion Recognition [11.252832459891566]
動的分布を用いたマニフォールド型ドメイン適応法(MDDD)を提案する。
実験の結果,MDDDは従来の非深層学習法よりも優れ,平均3.54%の改善が達成された。
これは、MDDDが現実のシナリオにおけるABCIの有用性と適用性を高めるための有望な方法である可能性を示唆している。
論文 参考訳（メタデータ） (2024-04-24T03:08:25Z) - Enhancing Cross-Dataset Performance of Distracted Driving Detection With
Score-Softmax Classifier [7.302402275736439]
ディープニューラルネットワークは、車内ドライバのリアルタイム監視を可能にし、気晴らし、疲労、潜在的な危険のタイムリーな予測を容易にする。
最近の研究では、オーバーフィッティングによる信頼性の低いクロスデータセットのエンドツーエンドドライバの動作認識が明らかにされている。
Score-Softmax分類器を導入し、クラス間独立性とクラス内不確実性を高めることでこの問題に対処する。
論文 参考訳（メタデータ） (2023-10-08T15:28:01Z) - Explaining Cross-Domain Recognition with Interpretable Deep Classifier [100.63114424262234]
解釈可能なDeep(IDC)は、ターゲットサンプルの最も近いソースサンプルを、分類器が決定を下す証拠として学習する。
我々のIDCは、精度の劣化がほとんどなく、最適なリジェクションオプションの分類を効果的に調整する、より説明可能なモデルに導かれる。
論文 参考訳（メタデータ） (2022-11-15T15:58:56Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳（メタデータ） (2022-11-12T09:21:49Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳（メタデータ） (2021-12-12T06:11:16Z) - Soft Confusion Matrix Classifier for Stream Classification [1.827510863075184]
この作業の主な目的は、漸進的に学習できない分類器に段階的な学習を可能にするラッピング分類器を開発することである。
提案手法は参照手法を著しく上回っている。
論文 参考訳（メタデータ） (2021-09-16T10:38:35Z) - Boosting the Generalization Capability in Cross-Domain Few-shot Learning
via Noise-enhanced Supervised Autoencoder [23.860842627883187]
我々は、新しいノイズ強調型教師付きオートエンコーダ(NSAE)を用いて、特徴分布のより広範なバリエーションを捉えるようモデルに教える。
NSAEは入力を共同で再構築し、入力のラベルと再構成されたペアを予測することによってモデルを訓練する。
また、NSAE構造を利用して、より適応性を高め、対象領域の分類性能を向上させる2段階の微調整手順を提案する。
論文 参考訳（メタデータ） (2021-08-11T04:45:56Z) - Prior Guided Feature Enrichment Network for Few-Shot Segmentation [64.91560451900125]
最先端のセマンティックセグメンテーション手法は、良い結果を得るために十分なラベル付きデータを必要とする。
少数のラベル付きサポートサンプルを持つ新しいクラスに迅速に適応するモデルを学習することで,この問題に対処するためのショットセグメンテーションが提案されている。
これらのフレームワークは、高レベルのセマンティック情報の不適切な使用により、目に見えないクラスにおける一般化能力の低下という課題に直面している。
論文 参考訳（メタデータ） (2020-08-04T10:41:32Z) - Contradictory Structure Learning for Semi-supervised Domain Adaptation [67.89665267469053]
現在の逆順応法は、クロスドメインの特徴を整列させようとする。
1)条件分布ミスマッチ、2)決定境界のソース領域へのバイアス。
本稿では,対向構造の学習を統一することで,半教師付きドメイン適応のための新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2020-02-06T22:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。